Investigadores querem melhorar a forma de fazer a Inteligência Artificial esquecer e desaprender

Nos últimos meses as tecnologias de Inteligência Artificial têm dado saltos significativos mostrando as capacidades dos grandes modelos de linguagem de manterem conversações coerentes e dificeis de distinguir dos humanos, de criar imagens e vídeos com base em informação existente e acelerando o potencial que já era conhecido de machine learning. Ao mesmo tempo os receios estão também a aumentar, e o desenvolvimento de regras para a utilização responsável de IA pressupõe uma limitação ao tipo de informação que os sistemas usam para aprender, assim como a possibilidade de os fazer esquecer dados específicos.

O objetivo é garantir a privacidade da informação mas também limitar a amplificação de comportamentos desviantes, gerados por aprendizagem com modelos racistas por exemplo, e remover a influência desses dados, impedindo a dedução e inferência a partir deles.

O tema de "machine unlearning" é complexo e está a  dominar algumas áreas de investigação, e foi lançado um desafio à comunidade para apresentar modelos que possam ser usados para fazer com que a IA esqueça determinado conjunto de informação e desaprenda o que tinha aprendido com ele.

O NeurIPS 2023 Machine Unlearning Challenge foi desenhado para colocar em prática novos modelos para fazer com que as redes neuronais com acesso a grandes bases de dados possam desaprender um determinado tipo de informação e tem a tarefa bem definida, com um kit inicial para quem se quiser lançar ao trabalho.

O desafio centra-se num cenário onde uma ferramenta de previsão da idade é construída a partir de imagens de rostos, e que depois de treinado algumas dessas imagens possam ser esquecidas para proteger a privacidade dos indivíduos.

O kit fornecido pela competição tem exemplos de algoritmos para que os participantes possam fazer o seu próprio desenvolvimento e a competição arranca ainda este mês, decorrendo até setembro. Os participantes podem nessa altura fazer a submissão das suas propostas no Kaggle.

Na fase final os organizadores do desafio podem fazer análises adicionais e submeter algoritmos de desaprendizagem, com várias métricas e datasets. Os vencedores são revelados em outubro.

Pode saber mais sobre o NeurIPS 2023 Machine Unlearning Challenge no site da organização no GitHub.