Autor do deepfake de Joe Biden com apelo ao voto é multado em 6 milhões de dólares

O caso tem sido usado como exemplo do poder da inteligência artificial para manipular informação e prejudicar a democracia. Em fevereiro, milhares de eleitores do Estado norte-americano de New Hampshire receberam chamadas com uma voz gravada, idêntica à do presidente Joe Biden. A mensagem indicava que se votassem nas primárias não poderiam votar nas presidenciais.

O autor das mensagens foi identificado, é um consultor político e chama-se Steve Kramer, e é agora o alvo principal de uma proposta de multa de 6 milhões de dólares, do regulador americano das comunicações. A multa, pelo menos no valor apontado, é mais uma declaração de intenções do que uma decisão irreversível pelos meios legais à disposição do visado, mas é um sinal claro para próximos casos do género durante a campanha eleitoral que se avizinha.

Clonar vozes é cada vez mais fácil. Para a inteligência artificial da OpenAI bastam 15 segundos

Ver artigo

A mensagem foi criada com um dos vários programas de inteligência artificial que nos últimos meses surgiram para montar os chamados deepfakes que, com uma amostra de voz real de menos de um minuto, permitem criar réplicas credíveis da voz original. Um sistema automático de realização de chamadas fez o resto e é por isso que a empresa implicada na distribuição da mensagem também será alvo de um processo e de sanções.

"Vamos agir de forma rápida e decisiva para garantir que os maus agentes não possam usar as redes de telecomunicações dos EUA para facilitar o uso indevido da tecnologia de IA generativa para interferir nas eleições, defraudar os consumidores ou comprometer dados confidenciais", sublinhou a Comissão de Comunicações (FCC na sigla em inglês para Federal Communications Commission), numa declaração.

Recorde-se que o uso de vozes geradas por inteligência artificial em chamadas automáticas foi proibido pela FCC logo em fevereiro, depois deste caso ter sido divulgado.