AI Act: Parlamento Europeu aprova formalmente a lei que vai regular a utilização de IA na UE

O Parlamento Europeu acaba de adotar formalmente o AI Act, o quadro legal europeu para regular a utilização de inteligência artificial na União Europeia. A proposta do AI Act foi formalmente adotada com 523 votos a favor, 46 contra e 49 abstenções. 

A decisão segue as negociações do trílogo, que decorreram em dezembro do ano passado, que resultou num acordo provisório, e a aprovação por parte do Coreper (Comité de Representantes Permanentes dos Governos dos Estados-Membros da União Europeia).

Regulamentação de Inteligência Artificial recebe aprovação final dos 27 países da UE

Ver artigo

Como avança o Parlamento Europeu, a regulação será ainda sujeita às últimas verificações linguísticas e legais, antes de ser finalmente aditada antes do final da legislatura. A lei precisa também de ser formalmente adotada pelo Conselho da UE. 

O regulamento entrará em vigor 20 dias após a sua publicação no Jornal Oficial da UE. O AI Act será aplicado 24 meses depois da publicação, no entanto, existem regras que começarão a ser aplicadas em prazos diferentes.

As regras relativas às práticas e sistemas proibidos serão aplicadas num prazo de seis meses após a entrada em vigor do regulamento. Já as obrigações que dizem respeito aos sistemas de IA de uso geral serão aplicadas num prazo de 12 meses e as regras para os sistemas de alto risco num prazo de 36 meses.

Durante a conferência de imprensa que antecedeu a votação, Brando Benifei, corelator da proposta, realçou que as longas negociações foram cruciais para salvaguardar as prioridades da proposta, incluindo o reforço das proibições, da transparência e segurança.A implementação do regulamento será feita de forma gradual e não será imediatamente obrigatória para as empresas e entidades.

Nas palavras de Brando Benifei, apesar da aprovação formal por parte do Parlamento Europeu, o trabalho ainda não está terminado. Também Dragos Tudorache, corelator da proposta, afirma que o AI Act é apenas o primeiro passo.

A IA terá impacto em todas as áreas da sociedade ao longo dos próximos anos e é importante que a Europa esteja não só a par da evolução da tecnologia, mas também preparada para responder aos desafios que surgirão.

“Temos de estar preparados para o momento em que esta tecnologia nos surpreenda”, realçou. Segundo Dragos Tudorache é igualmente importante que a União Europeia esteja preparada para dar o exemplo e colaborar com outras jurisdições que tencionem implementar medidas para regular a implementação desta tecnologia.

Em que consiste o AI Act?

Desde que foi apresentada pela Comissão Europeia em 2021, a proposta do AI Act passou pelo Parlamento onde foi alvo de várias alterações, mas também de críticas de várias organizações e empresas que consideram que pode limitar a inovação, sobretudo nas PME.

O objetivo é garantir que os sistemas de IA usados no mercado europeu são seguros e que respeitam os valores da UE, promovendo simultaneamente o investimento e a inovação.

O AI Act estabelece obrigações, tanto para fornecedores como para utilizadores, tendo por base o nível de risco dos sistemas de IA, com regras mais “apertadas” para aqueles que podem causar mais danos à sociedade.

As aplicações que apresentam um risco inaceitável, com sistemas que põem em causa os direitos fundamentais, serão banidas na UE. Aqui incluem-se, por exemplo, a manipulação cognitivo-comportamental, a utilização indiscriminada de imagens faciais da Internet ou de imagens de videovigilância, o reconhecimento de emoções no local de trabalho e em instituições educativas, os sistemas de pontuação e crédito social, a categorização biométrica para deduzir dados sensíveis, como orientação sexual ou crenças religiosas e alguns casos de policiamento preditivo para indivíduos.

Regulação para a IA na Europa: entre elogios ao equilíbrio da proposta e preocupações com a aplicação e falta de profundidade

Ver artigo

O uso de sistemas de identificação biométrica são proibidos, excepto num conjunto de casos especificamente definidos, realça o Parlamento Europeu. Por exemplo, a identificação biométrica em tempo real só pode ser utilizada se forem implementadas salvaguardas de segurança, como limites no escopo temporal e geográfico, além de autorização judicial ou administrativa. O uso destes sistemas "post-facto" é considerado uma situação de alto risco e requer autorização judicial, além da necessidade de estar ligado à investigação de atos criminosos.

Já a implementação de sistemas de alto risco, que apresentam um potencial significativo de causarem danos ou prejuízos à saúde, segurança, direitos fundamentais, ambiente, democracia e ao Estado de direito, deve seguir um conjunto de obrigações onde se incluem a necessidade de uma maior transparência e precisão, de avaliar e reduzir riscos e de assegurar a supervisão humana.  

"Os cidadãos terão o direito de submeterem queixas sobre sistemas de IA e de receberem explicações sobre decisões sobre sistemas de IA de alto risco que afetam os seus direitos", afirma o Parlamento Europeu.

Os sistemas de IA de uso geral e os modelos em que se baseiam devem cumprir obrigações de transparência, como a lei de direitos de autor da UE, e publicar resumos detalhados sobre o conteúdo usado para o seu treino. Além disso, os modelos de IA de uso geral mais "poderosos" e que podem apresentar riscos sistémicos terão de cumprir regras adicionais.

O conteúdo (imagens, áudio e vídeo) gerado a partir de IA ou manipulado através desta tecnologia deve ser claramente identificado como tal.

Para assegurar a inovação na área da IA, serão implementadas sandboxes e ambientes de teste a nível nacional, aos quais as PME e startups poderão aceder para desenvolver soluções de IA inovadoras antes de chegarem ao mercado.

Estão também previstas multas para quem não cumpre as novas obrigações, existindo três escalões:  de 35 milhões de euros (ou 7% percentagem do volume de negócios anual global da empresa) para violações das aplicações de IA proibidas; 15 milhões de euros (ou 3%) para violações das obrigações da lei de IA e 7,5 milhões de euros (ou 1,5%) para o fornecimento de informações incorretas.

Nota de redação: a notícia foi atualizada com mais informação. (Última atualização: 12h33)