Cientistas alertam para os perigos da IA mas estão indecisos quanto ao seu futuro

4 mai 2023 09:18

Este artigo tem mais de um ano

Durante uma conferência no MIT, os cientistas alertam para os perigos relacionados com a inteligência artificial, referindo que aprendem connosco e podem manipular as pessoas. No entanto, não existem soluções à vista para apresentar.

A sobrevivência da humanidade está ameaçada quando "coisas inteligentes nos podem enganar", alertou Geoffrey Hinton, considerado o padrinho da IA, durante uma conferência que decorreu esta quarta-feira no Instituto de Tecnologia de Massachusetts (MIT, na sigla em inglês), nos Estados Unidos.

"Isto pode-nos manter durante algum tempo, para manter as fábricas a funcionarem. Mas depois disso, talvez não", frisou.

Depois de se despedir da Google para poder falar com mais liberdade, Hinton, de 75 anos, referiu que mudou recentemente a sua opinião sobre as capacidades de raciocínio dos sistemas de computador que passou a vida inteira a investigar.

"Estas coisas terão aprendido connosco, lendo todos os romances que já existiram e tudo o que Maquiavel já escreveu, como manipular as pessoas", realçou Hinton, dirigindo-se a uma multidão que participava na conferência.

"Mesmo que não possam puxar as alavancas diretamente, certamente podem-nos fazer puxar as alavancas", acrescentou.

Sobre possíveis soluções, Geoffrey Hinton destacou que não as tem, nem tem a certeza se existem, noticiou a agência Associated Press (AP).

Yoshua Bengio, outro pioneiro da IA, covencedor com Hinton do principal prémio de ciência da computação, disse à AP esta quarta-feira que está "bastante alinhado" com as preocupações de Hinton, embora tema que dizer simplesmente que a humanidade "está condenada" não vai ajudar.

"A principal diferença, eu diria, é que ele é uma pessoa meio pessimista, e eu sou mais otimista", frisou Bengio, professor da Universidade de Montreal, no Canadá.

"Acho que os perigos - os de curto prazo, os de longo prazo - são muito sérios e precisam ser levados a sério não apenas por alguns investigadores, mas também pelos governos e pela população", alertou ainda.

Há vários sinais de que os governos estão atentos, como o caso da Casa Branca, que convocou os CEO da Google, da Microsoft e da OpenAI, fabricante do ChatGPT, para reunirem hoje com a vice-Presidente Kamala Harris, no que está a ser descrita pelas autoridades como uma discussão franca sobre como mitigar os riscos de curto e longo prazo desta tecnologia.

As autoridades europeias também estão a acelerar as negociações para aprovar novas regras abrangentes de IA.

Outros temem que a conversa sobre os perigos futuros em torno de máquinas sobre-humanas - que não existem - estejam a distrair as tentativas de estabelecer salvaguardas práticas nos atuais produtos de IA que não são regulamentados e demonstraram causar problemas no mundo real.

Margaret Mitchell, ex-líder da equipa de ética de IA do Google, destacou não perceber porque Hinton não se manifestou durante a década em que teve uma posição de poder no Google.

Bengio tem expressado preocupação durante anos sobre os riscos de curto prazo da IA, incluindo a desestabilização do mercado de trabalho, armamento automatizado e os perigos de conjuntos de dados tendenciosos.

Mas estas preocupações aumentaram recentemente, levando Bengio a juntar-se a outros cientistas e líderes de empresas de tecnologia, como Elon Musk e o cofundador da Apple, Steve Wozniak, que pedem uma pausa de seis meses no desenvolvimento de sistemas de IA mais poderosos do que o modelo mais recente da OpenAI, o GPT-4.