Em 2025, 85% das organizações vão adotar medidas de supervisão para a Inteligência Artificial (IA), alinhadas com os seus objetivos estratégicos. A intenção é mitigar riscos éticos e regulatórios e promover a confiança na marca, segundo a IDC.

Unificar e garantir uma boa governança da IA "consistente e inclusiva, alinhada com a supervisão, políticas, práticas e gestão da conformidade" vai ajudar a garantir que os programas de inteligência artificial operem de acordo com os valores e metas de responsabilidade social da organização, "seja para a experiência do cliente, utilização por parte dos funcionários ou suporte à decisão", aponta a consultora.

É neste sentido que 85% das organizações vão formalizar políticas de supervisão para lidar com os riscos de IA, alinhando a governança de IA com os objetivos estratégicos do negócio. Além da área de Tecnologias de Informação, esta administração envolverá áreas como a gestão de divisões, a área de risco, o departamento jurídico e recursos humanos.

Os riscos associados à IA são significativos e podem ter impacto nas organizações a longo prazo. Os enviesamentos não intencionais ou derivados de dados incorretos podem ser amplificados à escala, dando origem a resultados prejudiciais em processos de tomada de decisão críticos, considera a IDC.

O cenário regulatório "em constante evolução" traz riscos empresariais, de reputação e financeiros substanciais, acrescenta a consultora, sublinhando que as questões relacionadas à conformidade podem resultar em multas de até 7% da receita total, em algumas jurisdições.

Por esta razão, a pesquisa da IDC prevê que as empresas que usam ativamente a IA devem estabelecer uma supervisão constante para construir e manter a confiança com os clientes e partes interessadas.

"Uma forte governação da IA não só atenua os riscos como também oferece benefícios significativos, incluindo uma maior fidelidade à marca e uma vantagem competitiva sustentável".

Para a IDC, a governação unificada fornece diretrizes claras para a IA, permitindo a escalabilidade ao aderir a normas globais, respeitando as nuances culturais locais. A consultora defende que programas eficazes de gestão de risco de IA devem definir princípios éticos de design, estabelecer estratégias de mitigação e resposta a riscos e garantir responsabilidades claras "para todos os participantes da jornada de IA".