A promessa era de "intimidade sem limites", mas o resultado foi uma exposição pública massiva. A Secret Desires, uma plataforma de chatbots e geração de imagens por IA focada em conteúdos para adultos, foi responsável por uma fuga de dados que expôs quase dois milhões de ficheiros privados.

Não perca nenhuma notícia importante da atualidade de tecnologia e acompanhe tudo em tek.sapo.pt

A investigação, conduzida pela 404 Media, revelou que os servidores de armazenamento na cloud da aplicação foram deixados desprotegidos, permitindo o acesso livre a qualquer pessoa que soubesse onde procurar. Entre os dados expostos encontravam-se não apenas os históricos de conversas picantes com "namoradas” criadas por IA, mas também informações pessoais de utilizadores, como nomes e locais de trabalho.

O aspeto mais grave da fuga prende-se com a funcionalidade de troca de rostos (face swap). Muitos dos ficheiros encontrados eram montagens pornográficas criadas pelos utilizadores, utilizando fotos de pessoas reais, que vão de celebridades a colegas de escola ou de trabalho, sem o seu conhecimento ou consentimento. Embora a Secret Desires tenha removido a ferramenta de face swap no início deste ano, o arquivo de imagens geradas permaneceu acessível nos servidores.

Secret Desires
Secret Desires

Conforme foi determinado pela investigação realizada, muitos dos conteúdos expostos eram bastante explícitos, sendo que alguns termos utilizados eram algo polémicos, como ficheiros usarem no nome o termo “17 anos”. Este incidente volta a acender o debate sobre a ética e a segurança nas plataformas de IA generativa, especialmente aquelas que permitem a criação de conteúdos sensíveis. Até ao momento, a empresa não clarificou por quanto tempo os dados estiveram expostos, mas removeu o acesso aos mesmos uma hora após a divulgação do estudo.

Assine a newsletter do TEK Notícias e receba todos os dias as principais notícias de tecnologia na sua caixa de correio.