A preocupação com as deepfakes tem vindo a crescer nos últimos anos, seja pela utilização da tecnologia de Inteligência Artificial para a propagação de desinformação ou para a criação de pornografia de vingança. Agora, o FBI alerta para os perigos das deepfakes, indicando que poderão ser usadas intensivamente por atores maliciosos numa série de ataques sofisticados e operações de influência durante os próximos 12-18 meses.

No seu alerta, o FBI explica que os conteúdos “sintéticos”, nos quais se incluem as deepfakes, estão já a ser usados em campanhas de influência por intervenientes estrangeiros. A entidade do Departamento de Justiça dos Estados Unidos antecipa também a sua utilização em esquemas de spearphishing e ataques baseados em engenharia social.

Desde o final de 2019 que investigadores têm detetado múltiplas campanhas vindas da Rússia e China que recorrem a perfis em redes sociais com imagens geradas através de Machine Learning. O FBI detalha que as imagens em questão podem ajudar os atores maliciosos a disseminar as suas narrativas, aumentando a possibilidade de serem partilhadas e parecendo ser mais autênticas para os consumidores.

Além disso, desde 2017 que um grupo de atores, cuja identidade ainda é desconhecida, tem criado “jornalistas” fictícios que geram artigos que são involuntariamente publicados e amplificados por vários meios de comunicação social. Os “jornalistas” em questão costumam ter uma presença online aparentemente robusta, com perfis baseados em imagens geradas por Machine Learning.

Como identificar deepfakes e mitigar as suas consequências?

O FBI deixa também alguns conselhos para os internautas conseguirem identificar mais facilmente a presença de deepfakes online. A entidade alerta, por exemplo, para indicadores visuais, como distorções ou inconsistências em imagens ou vídeos.

FBI | Exemplo de imagem gerada por Machine Learning
FBI | Exemplo de imagem gerada por Machine Learning No exemplo deixado pelo FBI é possível identificar várias distorções e interferências visuais.

Os internautas devem também seguir a metodologia SIFT quando se deparam com informação online que consideram suspeita. A metodologia envolve uma investigação da fonte da informação, a procura por cobertura noticiosa de confiança, assim como a identificação do conteúdo original.

A entidade enfatiza que boas práticas de ciberhigiene são essenciais para baixar o risco dos indivíduos e das organizações serem vítimas de atores maliciosos que recorrem a conteúdo “sintético”.