Novos esquemas de fraude com criptomoedas usam deepfakes para enganar internautas

A IA também tem um “lado negro” e, ao cair nas mãos erradas, pode dar origem a ameaças mais sofisticadas. As deepfakes não são uma novidade, mas, com a crescente popularidade da tecnologia, têm-se tornado mais prevalentes, levantando preocupações quanto à utilização em esquemas fraudulentos como este que circulou recentemente no YouTube e na rede social X (antigo Twitter).

O esquema inclui um vídeo manipulado por IA “protagonizado” por Anatoly Yakovenko, co-fundador da plataforma de blockchain Solana, que tem uma criptomoeda de mesmo nome, avança o website The Verge.

No vídeo, que estaria a circular como um anúncio na rede social de Elon Musk e no YouTube, o responsável “anuncia” o lançamento de um sorteio para a comunidade em torno da criptomoeda Solana através de um código QR e de um website.

O vídeo foi reportado pela empresa que detém a plataforma de blockchain ao YouTube, que já o removeu. A conta associada ao vídeo foi também encerrada.

Segundo Austin Federa, diretor de estratégia da Solana Foundation, a quantidade de deepfakes, e de conteúdo gerado por IA, aumentou significativamente, sendo este um problema que não afeta somente o ecossistema das criptomoedas.

Os especialistas da área de cibersegurança têm alertado para o impacto da IA nas operações dos cibercriminosos, seja para aperfeiçoar mensagens de phishing e torná-las mais convincentes ou para gerar imagens e vídeos manipulados, como realça a Microsoft no seu mais recente relatório de Defesa Digital.

Nudes falsas manipuladas por IA são negócio lucrativo e cada vez mais divulgado nas redes sociais

Ver artigo

Além dos esquemas fraudulentos e de operações de influência concebidas para impactar eleições, há também preocupações com a utilização de IA para criar vídeos pornográficos manipulados, que recorrem a imagens de pessoas reais sem o seu consentimento.

Técnicas semelhantes são também utilizadas em imagens e, de acordo com dados de um recente relatório, houve um aumento no acesso e no consumo de nudes manipuladas por IA em redes sociais e plataformas online como Instagram, TikTok, X e Reddit.