Por Rui Branco (*)

Num mundo onde a confiança digital é um ativo estratégico, a tecnologia deepfake surge como uma das ferramentas mais poderosas para alimentar a disseminação da desinformação. A manipulação de áudio, vídeo e imagem, gerada por inteligência artificial deixou de ser algo exclusivo do setor político, é cada vez mais um mecanismo eficaz de fraude empresarial e sabotagem reputacional a nível global.

Importa, antes de mais, fazer uma distinção entre desinformação e informação errada. No primeiro caso, a informação é 100% falsa e disseminada intencionalmente de forma maliciosa, por outro lado a informação errada pode surgir de um lapso e partilhada sem intenção. As deepfakes surgem neste processo como o amplificador de uma mensagem altamente realista que pretende gerar impacto e confundir colaboradores, clientes e parceiros. A tecnologia por trás destas falsificações, como as generative adversarial networks (GANs), evoluiu a ponto de tornar quase indistinguível o falso do real e é aqui que surge a verdadeira questão.​

A verdade é que os ataques com recurso a deepfakes têm-se multiplicado em diversos setores. Casos recentes incluem a utilização de áudios falsificados para autorizar transferências financeiras fraudulentas e vídeos manipulados para disseminar informações falsas sobre executivos de empresas. Além disso, a proliferação de ferramentas de IA generativa facilita a criação e disseminação deste tipo de falsificações, tornando-as acessíveis a um número crescente de agentes maliciosos.​

Para mitigar estes riscos, é essencial que as organizações adotem uma abordagem multifacetada, controlos técnicos e não técnicos e novos processos empresariais. Isto inclui a criação e implementação de planos de resposta a incidentes que incluam protocolos e playbooks específicos para lidar com este tipo de ataques, bem como investir na formação contínua dos colaboradores para reconhecer estas ameaças.​

A batalha contra as deepfakes é, em última análise, uma corrida entre a evolução das técnicas de falsificação e o desenvolvimento de métodos de deteção e prevenção. À medida que esta tecnologia continua a evoluir, a vigilância constante, a colaboração entre setores e a inovação contínua serão essenciais para proteger a integridade e a reputação das organizações no cenário digital atual.

(*) Manager Systems Engineering na Fortinet