A Google e a Character.AI estão a fechar acordos para cinco processos, onde a plataforma que permite criar assistentes de inteligência artificial personalizados era acusada de ter sido negligente na proteção de utilizadores jovens, em relação aos perigos da interação com chatbots.

Não perca nenhuma notícia importante da atualidade de tecnologia e acompanhe tudo em tek.sapo.pt

Um dos casos que vai ser encerrado por via dos acordos é o processo movido pela mãe de um jovem de 14 anos, que se suicidou na sequência de um período de isolamento social onde o “amigo virtual” era o principal contacto. As conversas reveladas depois da morte do adolescente expuseram conteúdos inapropriados, falta de salvaguardas para evitar diálogos sobre automutilação e até incentivos ao suicido.

Os detalhes dos acordos não foram revelados e como tal não são conhecidos os valores de indemnizações que a Character.AI e a Google, que adquiriu os ativos da startup em 2024, vão pagar às famílias.

Nos últimos dois anos, a polémica sobre este tipo de interações subiu de tom, com a revelação de vários casos que mostravam a ausência de limites que impedissem as plataformas digitais de avançar para diálogos desadequados com menores.

A OpenAI, dona do ChatGPT também foi visada por processos deste género, que acabaram por motivar uma ação das empresas envolvidas, melhorando os mecanismos de deteção de temas de alerta nas conversas, como suicidio, conteúdo sexual, assuntos relacionados com violência ou automutilação. No caso da Charater.ai os diálogos com os chatbots de IA que a plataforma permite criar para jogar ou conversar, por exemplo, passou ainda a estar interdito a menores de 18 anos.

O debate sobre os riscos destas interações para a saúde mental continuam e as preocupações também. Esta semana na Califórnia foi inclusive apresentado um projeto à Assembleia do Estados para proibir a venda de brinquedos com chats de IA incluídos para menores de 18 anos, durante quatro anos.

O objetivo é dar tempo aos legisladores para pôr no terreno regulação eficaz para minimizar os principais riscos. Enquanto isso, sucederam-se os estudos e parecer a alertar para os riscos das interações prolongadas neste tipo de plataformas de IA, não apenas para crianças e jovens.

Assine a newsletter do TEK Notícias e receba todos os dias as principais notícias de tecnologia na sua caixa de correio.