Para Brittany Kaiser, fundadora da Own Your Data e uma das whistleblowers no caso do Cambridge Analytica, a experiência na consultora por trás do escândalo que envolveu o Facebook fê-la chegar à conclusão de que na indústria da ciência de dados não existem realmente direitos digitais.

Para a responsável, a direção para onde ruma o mundo da tecnologia é incompatível com a proteção dos direitos humanos e civis. A responsável defende que não somos morais o suficiente para usar algumas destas ferramentas sem que exista legislação adequada.

Até termos definições básicas de conceitos fundamentais como posse de dados, de responsabilidade e de como a informação é colocada em algoritmos com a complexidade da IA, “estaremos num lugar muito mau, porque ainda não decidimos legislar e regular o suficiente nos componentes essenciais mais básicos que, um dia, nos levarão a uma IA moral”.

Mas Brittany Kaiser alerta que não podemos confiar em legisladores que sabem menos do que as pessoas da área da tecnologia para criar leis para regular essa mesma tecnologia. É por esse motivo que a indústria da tecnologia, e sobretudo quem está a desenvolver soluções que querem fazer a diferença no atual panorama,  tem de se fazer ouvir, defende a responsável.

Veja as imagens do Web Summit 2023

Poderá existir uma lista de valores que guiam a forma como esta tecnologia é desenvolvida e implementada? Mandeep Rai, autora da obra The Values Compass, defende que embora não consigamos propriamente controlar ou alterar os comportamentos de outras pessoas, é possível mudar-nos a nos próprios Ou seja, “se nos focamos nos nossos valores, como empresas e como indivíduos, há um mundo de diferença que pode acontecer”.

Olhando para os problemas de tendenciosidade da IA, Lexi Mills, CEO da Shift6 Studios, explica que existem situações semelhantes em outras tecnologias, por exemplo, nos algoritmos de pesquisa online. Se algo tiver uma forte presença no motor de busca da Google, isso será espelhado na IA.

“O desafio é perceber quais foram os problemas que não resolvemos nos algoritmos de pesquisa online quando olhamos para a IA” e para o papel da tecnologia nesse sistema, afirma.

Embora este desafio possa ser analisado de uma outra perspetiva e até usado para o bem, a responsável realça que a questão se torna ainda mais complicada quando percebemos que “temos economias e rentabilidade a jogo”, porque “certos comportamentos dos algoritmos espelham para onde vai o dinheiro”.

O peso dos direitos digitais numa era marcada pela desinformação e pelo domínio das Big Tech
O peso dos direitos digitais numa era marcada pela desinformação e pelo domínio das Big Tech
Ver artigo

“A IA é frequentemente comparada com uma bomba nuclear”, detalha Mandeep Rai. “A culpa não é da bomba em si. A diferença entre IA e os humanos é que os humanos têm, esperemos nós, uma bússola moral e valores. (...) Um sistema de IA não”.

“Esta distinção é o que significa que, em última análise, somos responsáveis quando algo está a ser utilizado de forma que não é moral”, argumenta Mandeep Rai, acrescentando que as pessoas que estão a desenvolver esta tecnologia não vão assumir essa responsabilidade e, por isso, temos de o fazer com as nossas escolhas. 

Nesse sentido, Lexi acredita que a educação será uma ferramenta fulcral para que as pessoas consigam tomar decisões mais informadas em relação à IA e ao que está a ser gerado por estes sistemas.

As oradoras acreditam que a mudança chegará sob a forma de legislação adequada, que nos consiga fazer repensar a maneira como olhamos para os dados e para as tecnologias concebidas para a nossa proteção. Porém é da nossa responsabilidade exigir estas leis, além de recursos para compreendermos o que se está a passar com a tecnologia.

O SAPO TEK mudou a redação para o Web Summit e acompanhou tudo o que se passou na conferência e nos eventos paralelos que sempre decorrem em Lisboa. A agenda era longa e com muito para descobrir dentro e fora dos palcos. Pode acompanhar tudo no nosso especial do Web Summit 2023.