O Conselho Europeu para a Proteção de Dados (EDPB) e a Autoridade Europeia para a Proteção de Dados (AEPD) apelam à proibição do uso de qualquer sistema de Inteligência Artificial que identifique pessoas em espaços públicos, uma vez que apresentam “riscos extremamente elevados” para a privacidade dos cidadãos.

Num comunicado conjunto, as entidades reguladoras começam por explicar que, embora acolham favoravelmente a abordagem apresentada pela Comissão Europeia na sua proposta de legislação para IA, consideram que o conceito de “risco para os direitos fundamentais” deve estar alinhado com a estrutura de proteção de dados da União Europeia.

“Tendo em conta os riscos extremamente elevados apresentados pela identificação biométrica remota de indivíduos em espaços públicos”, o EDPB e a AEPD apelam à “proibição do uso de qualquer sistema de IA para o reconhecimento automatizado de traços humanos”, como faces, movimentos, impressões digitais, ADN, voz e “outros sinais biométricos e comportamentais” neste tipo de local.

Bruxelas “aperta o cerco” aos sistemas de IA de alto risco. Quais são as medidas da nova proposta de lei?
Bruxelas “aperta o cerco” aos sistemas de IA de alto risco. Quais são as medidas da nova proposta de lei?
Ver artigo

As entidades apelam ainda à proibição de sistema de IA que usem dados biométricos para “categorizar indivíduos em grupos baseados na sua etnicidade, género, orientação política ou sexual”. O uso de IA para inferir emoções é também visto pelo EDPB e pela AEPD como “altamente indesejável”, motivo pelo qual deve ser também proibido, excetuando casos muito específicos, como na área da Saúde. Já o uso de IA para qualquer tipo de sistema de crédito social, tal como existe na China, deve ser expressamente proibido.

“A utilização de sistemas remotos de identificação biométrica em espaços públicos simboliza o fim da anonimidade neste tipo de espaços”, afirmam Andrea Jelinek, presidente da EDPB, e Wojciech Wiewiórowski, supervisor europeu de proteção de dados. Os responsáveis defendem que a utilização, por exemplo, de sistemas de reconhecimento facial em espaços públicos “interfere de tal modo com os direitos e liberdades fundamentais que poderá pôr em causa esses mesmos direitos e liberdades”.

“A proibição do uso de sistemas de reconhecimento facial em espaços públicos é o ponto de partida necessário se tencionamos preservar as nossas liberdades e criar uma estrutura legal para a IA centrada nos humanos”, enfatizam Andrea Jelinek e Wojciech Wiewiórowski.

A AEPD defende também que o seu papel no âmbito da proposta legislativa deverá ser clarificado, em particular, no que toca ao seu papel como autoridade supervisora do mercado.

Outro dos pontos a clarificar relaciona-se com a criação de um Conselho Europeu de Inteligência Artificial. As entidades defendem que a Comissão Europeia não deverá ter um papel predominante no Conselho, uma vez que tal entraria em conflito com a necessidade de uma entidade de regulação em matéria de IA que seja independente de qualquer influência política.