A IDC prevê que o volume de fraudes a tirar partido de esquemas que recorrem a inteligência artificial generativa aumentem ao longo deste ano e sublinha a importância das soluções de autenticação e outras estarem preparadas para identificar a utilização deste tipo de tecnologias. Áreas como os serviços financeiros devem estar especialmente sensíveis para o fenómeno das fraudes de identidade, que podem gerar prejuízos na ordem dos 2 mil milhões de dólares anuais segundo algumas previsões.

“À medida que a utilização da GenAI se expande nos serviços financeiros, espera-se que seja amplamente utilizada na automatização de determinados processos”, admite a IDC nas suas previsões de maio. “Do mesmo modo, há criminosos fraudulentos que vão procurar vulnerabilidades nos processos bancários que podem explorar”.

Por perceber está ainda quantas tipologias de fraude, recorrendo a estas tecnologias, acabarão por ser desenvolvidas pelos atacantes, mas começam a delinear-se cenários preocupantes, como a utilização de tecnologia de GenAI para contornar as proteções e controlos dos bancos para evitar intrusões.

Ataques e fraudes resultaram em perdas de 336 milhões de dólares no ecossistema Cripto e DeFi
Ataques e fraudes resultaram em perdas de 336 milhões de dólares no ecossistema Cripto e DeFi
Ver artigo

Muitos bancos e outras empresas de serviços financeiros estão a recorrer a identificadores biométricos nos processos de verificação de clientes, em sistemas automatizados que têm “vindo a expandir-se nos serviços financeiros como forma de evitar um número excessivo de efetivos e de despesas”, sublinha a IDC.

As duas das ferramentas deste tipo mais comuns para a verificação de clientes, hoje usadas pelos bancos, são o reconhecimento de voz e facial. Alguns testes já realizados mostram que “uma percentagem significativa de geração de voz e de rosto digital, utilizando a GenAI, é capaz de enganar os sistemas de reconhecimento de voz e facial” usados para autenticar o acesso a contas.

“Os autores de fraudes têm a capacidade de utilizar a GenAI para duplicar a voz de qualquer pessoa - tudo o que precisam é de uma amostra da pessoa que está a falar”, alerta a IDC.

A consultora lembra que algumas ferramentas deste tipo permitem a clonagem de voz e imagem com amostras reais apenas de alguns segundos, fáceis de encontrar em plataformas como as redes sociais.

“Isto significa que estas proteções biométricas terão de ser aumentadas de alguma forma para melhorar as capacidades de deteção da utilização de identificadores biométricos gerados pela GenAI”, alerta ainda a IDC, admitindo que está aqui um risco real e acrescido para a verificação de clientes e segurança da identidade.