Ação coletiva contra xAI de Elon Musk pode abranger mais de mil vítimas por geração de imagens pornográficas

A plataforma de inteligência artificial da xAI já está na mira das autoridades pela geração de imagens sexualizadas a partir de fotografias, e de vídeos "picantes" mas agora uma ação coletiva leva mais longe a contestação que se tem feito sentir em relação à falta de controles no Grok. Três adolescentes avançaram com uma ação em tribunal nos Estados Unidos, mais concretamente no estado do Tennessee, e a ação coletiva pode abranger mais de mil vítimas.

Não perca nenhuma notícia importante da atualidade de tecnologia e acompanhe tudo em tek.sapo.pt

A queixa parte do caso de um utilizador, que já foi detido, que utilizou o Grok para transformar fotografias de raparigas que foi colecionando em redes sociais e em álbuns de escolas em imagens sexualizadas hiper-realistas. A queixa indica que as montagens circularam posteriormente no X (ex-Twitter), Discord e Telegram, e também na dark web, onde serviram de moeda de troca para outros conteúdos de pornografia infantil.

Os advogados das queixosas sustentam a acusação na lei Masha, que permite às vítimas de pornografia infantil obter uma indemnização, e na lei sobre a proteção das vítimas de tráfico de seres humanos.

Mais de três milhões de imagens sexualizadas em apenas 11 dias

De acordo com um estudo do Center for Countering Digital Hate (CCDH), o Grok terá gerado cerca de três milhões de imagens sexualizadas em apenas 11 dias no final de 2025, das quais 23.000 representavam menores.

Recorde-se que, no início do ano, tanto o Grok como a rede social X estiveram envolvidos em polémica após surgirem relatos de que o chatbot de IA estava a ser utilizado para gerar imagens sexualizadas de crianças, que foram partilhadas na plataforma.

A empresa começou por desvalorizar a polémica, mas a situação deixou a rede social de Elon Musk em "maus lençóis" com reguladores um pouco por todo o mundo, incluindo na Europa.

Ainda em janeiro, a Comissão Europeia abriu uma investigação à rede social X, com foco em particular no Grok e na disseminação conteúdo ilegal, como imagens sexualmente explícitas que foram manipuladas por IA e conteúdo que possa constituir material de abuso sexual de menores.

Antes do anúncio da investigação, a plataforma tinha informado os utilizadores que a possibilidade de criar imagens na rede social com recurso à IA do Grok seria limitada, numa medida divulgada um dia depois de se saber que teria de guardar todos os documentos relacionados com chatbot até que a Comissão Europeia veja assegurado o cumprimento de todas as regras vigentes na região.

Mais tarde, a xAI decidiu ir mais longe nas restrições à edição de imagens com a IA do Grok, passando a aplicá-las a todos os utilizadores da ferramenta. 

Não é só o Grok que permite a edição deste tipo de imagens. Uma análise recente às lojas de aplicações das principais plataformas móveis, Android e iOS, concluiu que em ambas é possível ter acesso a dezenas de aplicações que permitem criar nudes a partir de fotos normais, recorrendo a ferramentas de IA.

Foram identificadas 55 apps deste tipo na Play Store da Google e 47 da App Store da Apple, que tiveram mais de 700 milhões de downloads em todo o mundo e geraram 117 milhões de dólares em receitas.