A OpenAI tomou a primeira medida conhecida para travar o uso não permitido da sua plataforma de inteligência artificial e baniu o Dean.bot, um chatbot de voz que usa a tecnologia do ChatGPT para imitar um candidato democrata às eleições dos Estados Unidos.

O Dean.bot era uma espécie de versão digital do congressista Dean Philips, pronto para interagir com os potenciais votantes e responder a questões como se fosse o próprio, num formato inovador. Inovador e proibido, já que a OpenAI divulgou recentemente informação detalhada sobre os limites à utilização da sua tecnologia, focando precisamente a interdição para uso em ações de propaganda e outros fins políticos.

IA e vídeos manipulados entre as armas da Rússia para tentar influenciar eleições nos Estados Unidos em 2024
IA e vídeos manipulados entre as armas da Rússia para tentar influenciar eleições nos Estados Unidos em 2024
Ver artigo

O serviço foi contratado pela Super PAC de apoio ao candidato, We Deserve Better. As super PAC são os instrumentos legais para a recolha dos donativos de empresas que financiam as campanhas. Esta foi criada por dois empreendedores de Silicon Valley, segundo a Reuters. A execução esteve a cargo da startup Delphi, cuja conta foi suspensa pela OpenAI, como avançou em primeira-mão o The Washington Post.

Numa publicação recente, a OpenAi tentou acautelar situações do género e numa publicação no seu blog deu mesmo alguns exemplos do que seria uma utilização proibida da tecnologia, em contextos ligados a eleições. Um deles era precisamente a criação de chatbots a imitar candidatos.

Disclaimer dean.bot
Disclaimer dean.bot créditos: Dean.bot

Para vincar as diferenças entre o Dean.bot e o Dean “real”, os criadores da aplicação até prepararam uma declaração de isenção de responsabilidade, que surge mal se abre o site e que só sai do ecrã depois do utilizar afirmar que compreendeu o que vai encontrar ali.

“Olá! Criámos um bot de voz com IA do congressista Dean Phillips, candidato democrata à presidência, com o qual podes falar. O objetivo é ser uma ferramenta educativa divertida e não é perfeita. O bot de voz soa como ele e está programado para se basear nas suas ideias, mas é possível que diga coisas erradas, incorretas ou que não devam ser ditas. Podes perguntar-lhe o que quiseres, mas aceita as respostas com cautela! Por favor, confirma que compreendes a intenção e as limitações do Dean Bot”, explica-se.
Bard, o assistente digital da Google, declina conversas sobre política até às eleições
Bard, o assistente digital da Google, declina conversas sobre política até às eleições
Ver artigo

Isto não evitou o desrespeito pela política de utilização da OpenAI e a suspensão de conta dos programadores. O chatbot foi entretanto desativado, depois de ainda continuar a funcionar por alguns dias, sem a tecnologia da OpenAI e recorrendo apenas a outras tecnologias de código aberto que suportam o mesmo tipo de aplicação.

Agora, quem for ao site continua a ver o disclaimer e uma mensagem a dizer que o Dean.Bot teve alguns problemas técnicos, mas anda em campanha pelo país.