Apesar de todo o seu potencial, os chatbots com IA também podem ser usados para fins nefastos, com cibercriminosos a recorrerem a estas ferramentas para lançar novos ataques. Além do mundo do cibercrime, um novo relatório da NewsGuard mostra como chatbots estão a ser utilizados para gerar conteúdo que alimenta uma variedade de websites duvidosos criados por content farms.

Uma content farm pode ser descrita como uma entidade responsável por websites que publicam uma grande quantidade de conteúdo online concebido especialmente para gerar receitas através de anúncios, recorrendo frequentemente a táticas como clickbait. 

De acordo com o relatório, que o website MIT Technology Review teve acesso, mais de 140 marcas estão a pagar por anúncios que vão parar a estes websites. Embora as políticas da Google proíbam a colocação de anúncios através do seu serviço em páginas que incluam conteúdo de spam gerado automaticamente, 90% dos anúncios detectados eram apresentados através do Google Ads.

O relatório realça que as ferramentas de IA generativa dão às content farms uma nova forma de automatizar as suas operações e de criar ainda mais websites aparentemente noticiosos, mas que estão apenas a disponibilizar conteúdo que não é de confiança.

ChatGPT: Desinformação criada por inteligência artificial pode ser mais perigosa do que a humana
ChatGPT: Desinformação criada por inteligência artificial pode ser mais perigosa do que a humana
Ver artigo

Segundo os especialistas da NewsGuard, um dos websites identificados estava a produzir mais de 1.200 artigos por dia. Ao todo, a organização tem vindo a detetar, em média, 25 novos websites com conteúdo gerado por IA todas as semanas.

A NewsGuard detalha que, até à data, identificou 408 websites que se enquadram nesta categoria em 14 línguas diferentes, incluindo em português. Estas páginas destacam-se, de modo geral, por terem nomes genéricos que, à primeira vista, parecem remeter para organizações noticiosas.

Os websites geram uma grande quantidade de artigos numa variedade de tópicos, de tecnologia a política. Em certos casos, estes artigos incluem informação que não é verdadeira ou então “noticiam” eventos que aconteceram em datas passadas como se tivessem acontecido recentemente.

A maioria destes websites gera receitas através de anúncios, recorrendo ao sistema de publicidade programática. Porém, como afirma a NewsGuard, uma vez que a indústria da publicidade online permite apresentar anúncios sem ter em conta, em muitos casos, a natureza ou qualidade dos websites, as marcas acabam por apoiar inadvertidamente estas páginas. 

Embora a maioria das plataformas de anúncios online tenham políticas contra a apresentação de publicidade em páginas criadas por content farms, Krzysztof Franaszek, fundador da Adalytics, afirma ao MIT Technology Review que a maioria não parece implementar estas medidas de maneira uniforme.

Já Jack Brewster, analista na NewsGuard, realça que as descobertas feitas pelo relatório revelam mais detalhes sobre a “relação preocupante entre a Google, empresas tecnológicas de publicidade e o surgimento de uma nova geração de websites de desinformação que se fazem passar por páginas noticiosas e content farms possibilitada por IA”.