A OpenAI anunciou uma versão do ChatGPT para jovens e adolescentes, com prioridade no reforço de proteção aos menores. “Nas últimas duas semanas temos expandido as nossas conversações com especialistas, grupos de advogados e legisladores que suportam e guiam os nossos esforços para tornar o ChatGPT mais útil possível”, lê-se no comunicado. A empresa diz que continua a melhorar a segurança para todos os utilizadores, mas avança agora com o reforço das proteções dos adolescentes.

Não perca nenhuma notícia importante da atualidade de tecnologia e acompanhe tudo em tek.sapo.pt

A OpenAI refere que quando os seus princípios estão em conflito, dão prioridade à segurança dos adolescentes, à frente da privacidade e liberdade. Considera que é crucial ter ferramentas eficazes que conduzam como estas tecnologias são apresentadas nas vidas dos jovens, “tanto nos momentos fáceis, como nos difíceis”.

Apontando que os adolescentes estão a crescer numa era da IA, a OpenAI diz que o ChatGPT deve encontrá-los na fase onde se encontram. Por isso, refere que a forma como o modelo de IA responde a um jovem de 15 anos deve ser diferente de como lida com um adulto. Nesse sentido, quando o sistema identifica o utilizador com menor de idade, automaticamente será direcionado a uma experiência do ChatGPT com políticas apropriadas à sua idade, bloqueando conteúdo gráfico de cariz sexual ou em raros casos de angústia aguda, “potencialmente envolvendo agentes de segurança para garantir a segurança”.

Ainda assim, a empresa diz que prever a idade do utilizador é um desafio elevado, mesmo para sistemas mais avançados. Mas quando não se tem a certeza sobre a idade de alguém ou que este tenha informação incompleta nas definições, o sistema não arrisca e oferece a experiência do ChatGPT para menores de 18 anos, adicionando formas para os adultos provarem a sua idade e desbloquearem as respectivas funcionalidades.

Sobre os controlos parentais, esta é a forma mais eficaz para as famílias conduzirem a forma como o ChatGPT aparece nas suas casas. Estes controlos vão estão disponíveis no final do mês, permitindo aos pais ligarem as suas contas aos dos filhos adolescentes, com o mínimo de 13 anos de idade, através de um convite por email. O sistema vai conduzir a forma como o ChatGPT responde aos adolescentes, baseado num modelo com regras de comportamento apropriado para este público.

Os pais vão gerir quais as funcionalidades a desligar, incluindo o sistema de memória e o histórico de chat. Vão receber notificações quando o sistema deteta que os seus filhos estão num momento de stress. E quando não consegue contactar os pais, o sistema poderá envolver a polícia como próximo passo. Vai ser adicionado um controlo que permite aos pais bloquear o acesso ao ChatGPT em determinadas horas. Também vão ser adicionados lembretes na aplicação para pausas, quando utilizada em longas sessões.

As medidas surgem numa altura em que o regulador FTC dos Estados Unidos tem vindo a investigar o impacto negativo que os chatbots de inteligência artificial estão a ter nos robots de companhia de adolescentes. A Califórnia está prestes a regular chatbots de IA de companhia para proteger crianças e pessoas vulneráveis. Se a lei passar, os operadores de chatbots de IA ficam obrigados a implementar protocolos de segurança nos companheiros inteligentes. As respetivas empresas passam também a assumir a responsabilidade caso os chatbots não cumpram os requisitos da lei.