Deepfakes: “Inteligência Artificial é a ferramenta mais sofisticada de desinformação”

As deepfakes são vistas por muitos como uma das armas mais perigosas do “arsenal” da desinformação online e podem representar uma ameaça para a Democracia. Para debater sobre as consequências da manipulação de conteúdo, Nina Schick, autora do livro “Deepfakes: The Coming Infocalypse”, juntou-se a Hao Li, cofundador e CEO da Pinscreen, no Channel 4 do Web Summit 2020.

O responsável da Pinscreen explicou que as formas de manipular, por exemplo, imagens já existem há muito tempo. Com o avançar da tecnologia, em especial da Inteligência Artificial, surgiram formas altamente sofisticadas e automatizadas de criar “media sintéticos”, nos quais se incluem as deepfakes.

Para Nina Schick, o aparecimento das deepfakes afirma-se como “um dos momentos mais decisivos na história da comunicação humana”. “O futuro da produção de conteúdos será cada vez mais sintético”, sublinhou a autora, exemplificando os usos da tecnologia no setor do entretenimento.

A revolução na produção de conteúdo através de IA representa uma autêntica “mudança de paradigma na forma como comunicamos e entendemos o mundo”. No entanto, o reverso da medalha é preocupante: “A IA é a ferramenta mais sofisticada de desinformação”, defendeu Nina Schick.

Se mesmo antes do surgimento das deepfakes já era complicado navegar num ecossistema repleto de informação falsa ou enganadora, a tecnologia dificultou ainda mais a tarefa. “O ecossistema de informação já está tão corrompido que as deepfakes são apenas o próximo passo na evolução da ameaça que é a desinformação”, sublinhou Nina Schick.

Para já, a solução para o problema ainda não é clara e, na perspetiva da autora, “não há certamente remédios santos”. É preciso um esforço a nível mundial para mitigar as consequências e abrir o debate em torno da questão, estabelecendo em sociedade quais são os limites da tecnologia, assume-se como uma prioridade.

Fora do lado mais negativo da aplicação de IA na criação de conteúdo, Hao Li explicou que a tecnologia poderá dar resposta a algumas das necessidades encontradas durante a pandemia de COVID-19. O CEO da Pinscreen, que se especializa na criação de avatares virtuais, afirmou que há muito potencial na área da comunicação à distância.

O SAPO TEK está a acompanhar tudo o que se passa no Web Summit e pode seguir aqui as principais notícias e intervenções com a nossa equipa. Se tiver sugestões ou recomendações de talks e startups envie-nos um email.