Califórnia veta Lei que obrigava Big Tech a promoverem inteligência artificial mais segura

30 set 2024 14:16

Depois de muita polémica, o Governador da Califórnia decidiu chumbar uma lei que ia obrigar as empresas com grandes modelos de IA a criarem protocolos para prevenir ou minimizar danos para a segurança pública, associados ao desenvolvimento da tecnologia. Aparentemente, o problema está no desenho da medida.

O Governador da Califórnia vetou um projeto de lei que impunha um conjunto de novas regras ao desenvolvimento e monitorização de sistemas de inteligência artificial, sob pretexto de aumentar a segurança de quem os utiliza e evitar problemas maiores no futuro.

A legislação obrigava as empresas com modelos de IA avançados a criarem protocolos para monitorizar e evitar que estes sistemas promovam riscos para quem os usa e a desenvolverem mecanismos que permitissem desligá-los, se fosse necessário. Previa que as grandes plataformas criassem e apresentassem ao Procurador-geral planos de segurança com medidas concretas para prevenir ou conter ameaças e danos à segurança pública. Estes planos seriam a base para a responsabilização das empresas, caso o desenvolvimento das suas tecnologias provocasse efeitos nefastos.

Quem defendia a Lei considerava que é crucial criar um ambiente de desenvolvimento seguro numa altura crítica para a evolução da IA. Quem se opunha considerava que esta seria um travão à inovação, argumento que a administração do Estado também subscreveu.

“Embora bem-intencionado, o SB 1047 não leva em consideração se um sistema de IA é implementado em ambientes de alto risco, envolve a tomada de decisões críticas ou o uso de dados confidenciais”, refere a nota que justifica o veto. “Em vez disso, o projeto de Lei aplica padrões rigorosos até mesmo às funções mais básicas - desde que um grande sistema o implemente. Não creio que esta seja a melhor abordagem para proteger o público das ameaças reais colocadas pela tecnologia”.

Na mesma nota, Gavin Newsom sublinhou que a legislação em questão podia dar ao público uma “falsa sensação de segurança sobre o controlo de tecnologias que estão a evoluir rapidamente” e lembrou que esta visava apenas modelos de IA de grande escala e não abarcava sistemas especializados mais pequenos.

O Governador do Estado onde estão as sedes da maior parte das grandes empresas de tecnologia a trabalhar na área da IA garante, no entanto, que já contactou vários especialistas. Estes técnicos vão contribuir para desenhar legislação com o mesmo objetivo de promover a segurança dos sistemas de IA, mas tendo por base a análise das capacidades e riscos desses sistemas.

O projeto de Lei agora vetado deu muito debate nas últimas semanas, com os principais visados pela medida a discordarem dela. Meta (dona do Facebook) e OpenAI (ChatGPT) eram abertamente contra a legislação. Personalidades como Elon Musk e organismos como o Centro para a Segurança da IA dos EUA, consideravam-na adequada e necessária.