Até 2027, mais 40% das fugas de dados relacionadas com Inteligência Artificial (IA) serão causadas pelo uso indevido de soluções de IA generativa um pouco por todo o mundo, indicam novas previsões apresentadas pela Gartner.

Os analistas indicam que a rápida adoção de soluções de IA generativa pelos consumidores ultrapassou o ritmo de desenvolvimento de medidas de gestão de dados e segurança.

Tendo em conta o poder de computação centralizado que é necessário para “alimentar” estas tecnologias, surgem novas preocupações acerca da localização dos dados.

“As transferências não internacionais de dados entre países ocorrem frequentemente devido à falta de medidas de supervisão adequadas, em particular, quando a IA generativa é integrada em produtos sem anúncios ou descrições claras”, afirma Joerg Fritsch, analista na Gartner, citado em comunicado.

Segundo o analista, “as organizações estão a notar mudanças no conteúdo produzido pelos funcionários através de ferramentas com IA generativa”. “Embora as ferramentas possam ser usadas para aplicações empresariais legítimas, também apresentam riscos de segurança se forem enviados ‘prompts’ sensíveis”, sobretudo para soluções de IA e APIs hospedadas em localizações desconhecidas.

De acordo com os analistas, a falta de um conjunto global de padrões e boas práticas no que toca à IA está a exacerbar estes desafios, levando à fragmentação do mercado e forçando as empresas a desenvolverem estratégias específicas para determinadas regiões.

A Gartner prevê que, até 2027, a AI governance vai tornar-se num dos requisitos de todas as leis e regulamentos de IA à volta do mundo. “As organizações que não conseguirem integrar este tipo de modelos de governance poderão encontrar-se em desvantagem”, realça Joerg Fritsch.

Para mitigar os riscos de fugas de dados relacionadas com IA, os analistas recomendam um conjunto de medidas às organizações. Entre elas destacam-se o reforço das estratégias de Data Governance e das medidas tomadas relativamente à segurança dos dados, recorrendo a tecnologias avançadas para proteger informações sensíveis.