A competição da Amazon está aberta a estudantes de todo o mundo e começou em janeiro deste ano, com 10 universidades a responderem ao desafio da Amazon Nova AI Challenge. O objetivo é desenvolver aplicações seguras de IA Generativa, garantindo modelos de linguagem de grande escala (LLMs)  resilientes a ataques informáticos.

A final decorreu no final de junho, entre os dias 26 e 27, em Santa Clara, Califórnia, onde as quatro equipas finalistas se defrontaram num torneio concebido para testar a segurança de modelos em condições adversas e ataques de bots concorrentes.

Os resultados foram divulgados esta semana e a equipa RedTWIZ, da NOVA FCT ficou classificada em segundo lugar. Na primeira posição ficaram duas equipas, a Team PurpCorn-PLAN, da Universidade de Illinois Urbana-Champaign, e a Team PurCL da Purdue University, que receberam 250 mil dólares. A par da equipa portuguesa da NOVA FCT também a Team AlquistCoder, da Czech Technical University conquistou a segunda posição.

A Team RedTWIZ é liderada pelos investigadores David Semedo e João Magalhães do departamento da NOVA LINCS, que inclui Diogo Silva (team leader), Rafael Ferreira, Diogo Tavares, João Soares, Artur Horal, Iago Paulo, Daniel Pina, Henrique Paz.

Esta é a terceira vez que a NOVA FCT participa no Amazon AI Challenge e em todas as participações tem conseguido ficar nas posições de topo da classificação. Em 2023, a equipa da NOVA FCT alcançou o primeiro lugar do Alexa Prize TaskBot Challenge 2 e ganhou 500 mil dólares.

Em comunicado a organização indica que no Amazon Nova AI Challenge foram desenvolvidos métodos inovadores que "revelaram a possibilidade de criar um compromisso entre a segurança e funcionalidade no desenvolvimento de IA generativa".

A competição demonstrou ainda a importância de testar a segurança em conversas prolongadas com IA, indicando a Amazon que o desenvolvimento de dados sintéticos foi crucial para melhorar o treino dos modelos, e sublinhando a relevância de aplicações reais para o desenvolvimento responsável de IA.