Kay Firth-Butterfield fez carreira como juíza mas no últimos anos assumiu responsabilidades na avaliação e aconselhamento na implementação de projetos de Inteligência Artificial, sendo uma das figuras de destaque na plataforma de IA e Machine Learning do World Economic Forum, e reconhecida como a primeira Chief AI Ethics Officer.

É sobre a utilização ética da Inteligência Artificial, e a forma como a tecnologia pode e deve ser desenvolvida para criar um impacto positivo duradouro, desde o momento da definição das soluções, que tem centrado a sua participação em muitas conferências, um pouco por todo o mundo, e em outubro esteve no IDC Directions, onde tivemos a oportunidade de a entrevistar.

Dos empregos que se perdem, e se ganham, até à forma como o poder económico está a moldar a evolução da tecnologia, num mundo onde a geopolítica fala mais alto do que a inovação, a conversa realçou alguns dos tópicos já abordados no keynote, ficando bem sublinhado a necessidade de manter o humano no circuito, mesmo com todos os benefícios da Inteligência Artificial.

“Há tarefas que a Inteligência Artificial pode fazer, mas há trabalhos que não queremos ter um robot a fazer, mesmo que seja muito inteligente”, sublinha Kay Firth-Butterfield, indicando o caso de um médico oncologista. Depois de ter passado por uma doença cancerígena, a juíza diz que esta é uma área onde precisamos de interação humana, mesmo que algumas coisas possam ser automatizadas, e o mesmo se passa com o ensino das crianças, por exemplo, ou o cuidado dos idosos.

A visão terá de ser de dar aos humanos poderes adicionais. “Estamos a falar de aumentar a capacidade dos humanos. De tornar os humanos melhores”, sublinha.

Para Kay Firth-Butterfield, a questão que temos de colocar é que se todos formos superhumanos o que nos diferencia? “Se todos usarem IA todas as criações de publicidade ou moda vão ser parecidas. Temos de ter humanos para criar novas ideias e soluções e deixar a IA a tratar das tarefas rotineiras no backoffice”, destaca, lembrando que para isso é preciso que as empresas desenvolvam os seus projetos de forma ética e consciente, usando uma boa base de dados trabalhados de forma adequada, e com uma visão estratégica.

As parcerias são também um dos pilares mais relevantes para uma boa implementação de IA nas organizações. “É importante que as empresas saibam quais os modelos de IA que estão a usar e os dados que lhes estão a fornecer, porque não querem que a sua informação acabe por se tornar pública”.

Questionada sobre a possibilidade da IA gerar desemprego, a juíza admite que isso pode acontecer em algumas áreas, e que terá um impacto inicial, mas diz que vão ser criados novos empregos. “Se olharmos para a pirâmide etária na Europa e nos EUA vemos uma população envelhecida e vamos precisar de encorajar a entrada de migrantes mas há tarefas que a IA pode fazer”. Mesmo que não seja na agricultura e nas fábricas, pelo menos num momento inicial, a robótica e automação vão ter impacto nestes trabalhos, como terão nos empregos de conhecimento intensivo.

A necessidade de um enquadramento ético e o AI Act na Europa

Numa análise à forma como as organizações estão a abordar a Inteligência Artificial de um ponto de vista estratégico, olhando para as questões éticas, Kay Firth-Butterfield elogia a forma como a Europa está a garantir as bases com o AI Act, mas também os Estados Unidos com a regulamentação aprovada pela administração Biden.

“Acho que a Europa deve celebrar o facto de estar a colocar regras e a liderar um movimento de IA responsável no mundo”.

O mesmo não acontece noutras áreas geográficas, como a Ásia, onde a IA está a ser desenvolvida sem as regras e controles éticos. “Francamente, acho que não gostaria de viver na China”, afirma, lembrando a forma como são combinados os dados dos cidadãos e a videovigilância, mas também acesso a serviços e até financiamento e empregos.

E a Rússia é uma preocupação? “Também não sabemos o que a Rússia está a fazer. Aliás, sabemos que estão a criar muito conteúdo falso mas não sabemos se estão a fazer mais coisas”, afirma.

A questão da ética tem de ser colocada acima de todas as outras, mas neste momento o desenvolvimento também tem estado centrado nas mãos de quem tem dinheiro para investir em investigação e poder computacional. “Se ‘atirarmos’ milhares de milhões de dólares aos projetos de IA podemos ter diferentes resultados”, avisa, dizendo que temos de estar vigilantes para avaliar os investimentos nestas áreas e a forma como podem mudar radicalmente os equilíbrios geoestratégicos.

Regulação como o AI Act vai ajudar a tornar mais claro o que os sistemas fazem, com transparência e responsabilidade, e Kay Firth-Butterfield defende também a utilização de modelos abertos, open source, como o LLaMA