A inteligência artificial está a mudar as regras do jogo na cibersegurança. Se, por um lado, a tecnologia está a ajudar a melhorar os mecanismos de defesa contra ameaças, por outro, soluções como o ChatGPT estão a ser usadas por hackers para aperfeiçoar ataques, alertam a Microsoft e a OpenAI.

De acordo com a mais recente investigação das empresas, foram detectadas várias tentativas por parte de grupos de piratas informáticos, apoiados por Estados como Rússia, Coreia do Norte, Irão e China, de uso de ferramentas como o chatbot da OpenAI.

Como explica a Microsoft, estes grupos estão a tentar explorar e testar diferentes ferramentas com IA para perceber que valor podem trazer às suas operações maliciosas, mas também para compreenderem como podem contornar os seus controlos de segurança.

Até à data, ainda não foram detectados ataques significativos com recurso a modelos de linguagem de grande escala (LLMs na sigla em inglês), no entanto, tanto a Microsoft como a OpenAI têm vindo a encerrar todas as contas que possam estar ligadas aos grupos de hackers.

IA generativa já se tornou o novo normal para muitos serviços no mundo do cibercrime
IA generativa já se tornou o novo normal para muitos serviços no mundo do cibercrime
Ver artigo

Entre as tentativas detectadas pelas empresas incluem-se, por exemplo, as atividades realizadas pelo grupo russo Strontium, também conhecido como Fancy Bear ou APT28.

Neste caso, os hackers estão a usar LLMs para compreenderem protocolos e parâmetros específicos de comunicação e registo de imagens via satélite. Além disso, o grupo está a recorrer a esta tecnologia para gerar scripts básicos que permitam otimizar as suas operações.

O grupo norte-coreano Thallium também tem recorrido a LLMs para gerar scripts, usando-a ainda para criar conteúdo para alimentar campanhas de phishing e como forma de aceder a informação sobre vulnerabilidades reportadas publicamente.

A criação de conteúdo para emails de phishing e de código que permita evitar a detecção por parte de software de segurança são outros dos usos dados pelo grupo iraniano Curium. Já piratas informáticos com ligações ao governo chinês recorrem a LLMs para melhorar as suas ferramentas de hacking, além de usarem a tecnologia para fins de pesquisa, tradução e de criação de scripts.