Hoje, o Conselho da União Europeia chegou a acordo quanto à proposta concebida para simplificar algumas das regras relativas à inteligência artificial. A proposta, que faz parte do pacote legislativo Omnibus VII (também conhecido como o Digital Omnibus), está integrada na agenda de simplificação da União Europeia.

Não perca nenhuma notícia importante da atualidade de tecnologia e acompanhe tudo em tek.sapo.pt

Como detalhado em comunicado, o mandato do Conselho acrescentou uma nova disposição ao AI Act que proíbe práticas de IA relacionadas com a geração de conteúdo sexual ou íntimo sem consentimento, assim como material de abuso sexual de menores.

Recorde-se que, no início do ano, tanto o Grok como a rede social X estiveram envolvidos em polémica após surgirem relatos de que o chatbot de IA estava a ser utilizado para gerar imagens sexualizadas de crianças, que foram partilhadas na plataforma.

A empresa começou por desvalorizar a polémica, mas a situação deixou a rede social de Elon Musk em "maus lençois" com reguladores um pouco por todo o mundo, incluindo na Europa.

Partilha de conteúdo ilegal na rede social X leva Bruxelas a abrir investigação ao Grok
Partilha de conteúdo ilegal na rede social X leva Bruxelas a abrir investigação ao Grok
Ver artigo

Ainda em janeiro, a Comissão Europeia abriu uma investigação à rede social X, com foco em particular no Grok e na disseminação conteúdo ilegal, como imagens sexualmente explícitas que foram manipuladas por IA e conteúdo que possa constituir material de abuso sexual de menores.

Antes do anúncio da investigação, a plataforma tinha informado os utilizadores que a possibilidade de criar imagens na rede social com recurso à IA do Grok seria limitada, numa medida divulgada um dia depois de se saber que teria de guardar todos os documentos relacionados com chatbot até que a Comissão Europeia veja assegurado o cumprimento de todas as regras vigentes na região.

Mais tarde, a xAI decidiu ir mais longe nas restrições à edição de imagens com a IA do Grok, passando a aplicá-las a todos os utilizadores da ferramenta. 

Dezenas de apps para criar nudes com IA continuam disponíveis nas lojas do Android e do iOS
Dezenas de apps para criar nudes com IA continuam disponíveis nas lojas do Android e do iOS
Ver artigo

Além disso, uma recente análise às lojas de aplicações das principais plataformas móveis, Android e iOS, concluiu que em ambas é possível ter acesso a dezenas de aplicações que permitem criar nudes a partir de fotos normais, recorrendo a ferramentas de IA.

Foram identificadas 55 apps deste tipo na Play Store da Google e 47 da App Store da Apple, que tiveram mais de 700 milhões de downloads em todo o mundo e geraram 117 milhões de dólares em receitas.

Simplificação das regras europeias de IA

O Conselho indica que o pacote do Digital Omnibus inclui propostas para dois regulamentos que têm como objetivo simplificar o quadro legislativo digital da UE e a aplicação de regras harmonizadas para a IA.

Além das questões relativas à criação de conteúdo sexual sem consentimento ou de material de abuso sexual de menores através de IA, o texto acordado introduz também um calendário fixo para a aplicação das regras do AI Act para sistemas de alto risco. 

Nesse sentido, as novas datas seriam 2 de dezembro de 2027 para sistemas de IA standalone de alto risco e 2 de agosto de 2028 para os sistemas de alto risco integrados em produtos.

O Conselho restabelece também a obrigação para os fornecedores de sistemas de alto risco, que devem registar as suas tecnologias na respetiva base de dados da UE, mesmo quando considerem que os seus sistemas estão isentos dessa classificação.

O texto adia para 2 de dezembro de 2027 o prazo para a criação de sandboxes regulatórias de IA pelas autoridades competentes a nível nacional, clarificando igualmente as competências do AI Office na supervisão de sistemas baseados em modelos de IA de uso geral quando o modelo e o sistema forem desenvolvidos pelo mesmo fornecedor.

Ficam também listadas as excepções em que as autoridades nacionais continuam a ser competentes, incluindo áreas como aplicação da lei, gestão de fronteiras, autoridades judiciais e instituições financeiras.

O Conselho apresenta ainda uma uma nova obrigação para a Comissão Europeia, que deverá fornecer orientações às empresas que usam sistemas de IA de alto risco a cumprir os requisitos do AI Act. 

Após a aprovação do mandato do Conselho, a presidência vai dar início às negociações com o Parlamento Europeu.

Nota de redação: A notícia foi atualizada com mais informação. (Última atualização: 17h02)

Assine a newsletter do TEK Notícias e receba todos os dias as principais notícias de tecnologia na sua caixa de correio.