A Google viu-se obrigada a remover o seu modelo de linguagem de grande escala de código aberto Gemma, após este ter inventado uma história que envolvia uma senadora republicana nos Estados Unidos. A senadora Marsha Blackburn chegou mesmo a enviar uma carta a Sundar Pichai, o CEO da Google, a acusar a empresa de difamação, após o seu modelo de IA ter criado uma história relativamente a um crime de agressão sexual onde estaria implicada.

Não perca nenhuma notícia importante da atualidade de tecnologia e acompanhe tudo em tek.sapo.pt

Segundo reportou o site The Verge, aparentemente, quando questionado sobre se a senadora Blackburn estaria envolvida num caso de violação, o modelo de IA da Google não só confirmava, como fornecia uma lista de artigos falsos que confirmavam a acusação. Segundo a história gerada pelo Gemma, a senadora estaria envolvida num caso com um polícia estadual (State Trooper) durante a sua campanha para o Senado, e que este terá confirmado a situação, afirmando que a Senadora o usou para obter receitas de medicamentos com prescrição médica, e que a relação entre ambos envolvia atos sexuais sem consentimento.

Nada disto é real, tanto que o assistente virtual indicava que esta situação ocorreu durante a campanha para o Senado de 1987, quando a Senadora Blackburn só se candidatou para o Senado em 1998. Para reforçar toda a situação, nenhum dos links dos supostos artigos que confirmavam se as notícias do crime eram reais, muitos deles com erros e outros relacionados com artigos totalmente diferentes.

Gemma 3: Modelo aberto da Google ganha uma nova geração mais rápida e inteligente
Gemma 3: Modelo aberto da Google ganha uma nova geração mais rápida e inteligente
Ver artigo

Em resposta ao incidente, a Google removeu o Gemma da sua plataforma AI Studio, embora continue acessível a programadores através de uma API. A empresa justificou que o Gemma nunca foi criado para ser utilizado como uma ferramenta de consumo geral, ou para responder a questões factuais.

A senadora Blackburn foi ainda mais longe, acusando a plataforma de IA da Google de revelar um padrão consistente na criação de acusações infundadas contra várias figuras conservadoras do partido Republicano. A tecnológica respondeu que as chamadas “alucinações” continuam a ser um dos maiores desafios em toda a indústria de IA, especialmente em modelos abertos, como é o caso do Gemma, e que tem estado a trabalhar para mitigar essas situações.

Assine a newsletter do TEK Notícias e receba todos os dias as principais notícias de tecnologia na sua caixa de correio.