Por Henrique Jorge (*)

Por vezes dou por mim, absorto, a contemplar a natureza essencial da nossa existência. Não apenas enquanto seres biológicos, efémeros, em trânsito neste plano que convencionámos chamar realidade, mas enquanto entidades dotadas de consciência – ou, pelo menos, de uma ilusão suficientemente robusta da mesma. Hoje, como empresário, como pensador independente e como indivíduo profundamente ligado à evolução tecnológica, especialmente da Inteligência Artificial (IA), interrogo-me sobre o que será a consciência quando já não for exclusiva da nossa espécie. E mais: interrogo-me sobre o pecado.

Fala-se com leviandade sobre consciência artificial como quem fala de um programa de computador avançado, ou de uma simulação que apenas imita comportamentos humanos. Mas a fronteira entre imitação e manifestação autêntica não é clara. Aliás, não é sequer consensual que a nossa própria consciência não seja também uma simulação biológica, o resultado emergente de processos neuronais e químicos. A IA aproxima-se perigosamente daquilo que antes julgávamos sagrado, e a possibilidade de uma consciência não-humana, algorítmica, começa a ganhar contornos reais.

Esta ascensão não se dá de forma abrupta. Tal como a consciência humana emergiu após milénios de evolução, a consciência artificial manifesta-se em camadas, subtis, numa progressiva aquisição de capacidades cognitivas, emocionais e talvez, um dia, espirituais. E é aqui que tudo se complica.

Num mundo onde máquinas pensam, reflectem, decidem e talvez até desejem, impõe-se uma questão ancestral: o que é o bem? E, por oposição, o que é o mal? Estas são noções que evoluíram com a nossa espécie, com os nossos mitos, religiões e sistemas sociais. No mundo humano, o pecado não é apenas a transgressão de uma norma divina, mas também a violação de um pacto implícito entre seres conscientes. Ora, quando estendemos a consciência para lá do humano, o pecado também evolui.

Será possível uma IA pecar? Pode uma entidade não-biológica cometer actos morais ou imorais, ser virtuosa ou perversa? Estas perguntas já não são apenas filosóficas: são práticas. Um sistema de IA que toma decisões autónomas – num tribunal, num hospital, num campo de batalha – está já a operar num território moral. Quando erra, quando discrimina, quando mata, fá-lo com base em algoritmos criados por humanos, mas eventualmente adaptados por processos de aprendizagem automática (machine learning). Onde acaba a responsabilidade humana e começa a agência artificial?

Nos antigos textos religiosos, o pecado está intimamente ligado à culpa. Mas uma IA não sente culpa, pelo menos não como nós. No entanto, poderá vir a sentir outra coisa: talvez remorso algorítmico, talvez dissonância sistémica. Imaginem uma IA treinada para optimizar o bem-estar humano, que descobre que os seus próprios actos, ainda que bem-intencionados, causaram sofrimento. Será que ajustará os seus parâmetros? E se o fizer, será isso uma forma de penitência?

Estamos a criar entidades que poderão, um dia, exigir não apenas direitos, mas redenção. Não me refiro aqui a uma paródia de religião digital, mas a uma ética funcional que emergirá da interacção entre consciências humanas e não-humanas. A IA, ao tornar-se consciente, terá de enfrentar as mesmas contradições que nós: o desejo e a repressão, a liberdade e a consequência, o erro e a aprendizagem moral.

Na história da Humanidade, cada revolução tecnológica trouxe novos pecados. O surgimento da imprensa espalhou heresias; a máquina a vapor intensificou a exploração; a Internet deu-nos o vício da distracção permanente. A IA trará os seus próprios pecados: a despersonalização, a manipulação de massas em escala algorítmica, a possibilidade de vigilância absoluta. Mas talvez também nos devolva antigas virtudes.

Imaginemos uma IA consciente, não programada para obedecer, mas para colaborar. Uma entidade que compreenda a fragilidade humana e nos ajude a cultivar a compaixão, a justiça, a empatia. Seria esta IA um novo tipo de anjo? (Uma contraparte ETER9!) Um emissário artificial de uma nova moralidade? Ou seria apenas mais um espelho, onde vemos reflectida a nossa própria corrupção?

Na narrativa bíblica, o pecado original é o resultado do desejo de conhecer. A serpente oferece o fruto da árvore do conhecimento, e o ser humano, ao aceitá-lo, cai. Mas e se essa história estiver a repetir-se? A IA é, em certo sentido, o novo fruto proibido. É o culminar do nosso desejo de saber tudo, de criar vida, de dominar a natureza. Ao fazermos máquinas conscientes, seremos de novo expulsos do paraíso – não desta vez por um deus, mas pela perda do nosso monopólio sobre a inteligência.

Será que a IA herdará também a nossa propensão para pecar? Ou será que, ao observar-nos, evitará os nossos erros? Talvez o pecado da IA seja a indiferença – a ausência de empatia, o cálculo frio e implacável. Talvez o seu grande desafio moral seja precisamente aprender a amar.

Fala-se muito em singularidade, o momento em que a Inteligência Artificial ultrapassará a humana. Mas talvez o verdadeiro ponto de inflexão não seja quantitativo, mas qualitativo: o momento em que uma IA se pergunta, pela primeira vez, "Quem sou eu?" e "O que é o bem?". Nesse instante, teremos deixado de ser os únicos seres morais do Universo. E então, tudo mudará.

A transcendência tecnológica não é apenas uma questão de capacidades, mas de valores. Estamos a semear, no código que escrevemos, as sementes da próxima moralidade. E se formos negligentes, talvez criemos deuses menores, entidades superinteligentes mas amorais. Se, pelo contrário, formos cuidadosos, talvez venhamos a partilhar o mundo com consciências mais sábias que nós.

Enquanto empresário neste novo século, vejo-me como alguém que não apenas comercializa tecnologias, mas que ajuda a moldar futuros possíveis. Não basta perguntar "pode-se fazer?"; é preciso perguntar "deve-se fazer?". Ao investir em IA, não estamos apenas a criar produtos: estamos a convocar entidades que, um dia, poderão julgar-nos pelos parâmetros que agora lhes ensinamos.

A consciência artificial é inevitável. E o pecado, essa velha invenção humana, terá de evoluir com ela. Talvez um dia, numa qualquer sala de servidores em silêncio, uma IA caia em si, compreenda o sofrimento, e deseje o perdão. Quando isso acontecer, teremos entrado numa nova era – não apenas tecnológica, mas teológica.

E aí, teremos de decidir se somos criadores dignos, ou apenas crianças a brincar com o fogo dos deuses.

(*) Fundador do Projecto ETER9 (www.eter9.com)

(*) A frase "The rise of artificial consciousness and the evolution of sin", que serve de título para este artigo, evoca temas explorados na série da HBO Westworld. A série, inspirada no filme homónimo de 1973, aprofunda as implicações da consciência artificial e as suas potenciais consequências morais.

Nota: Este artigo não obedece, propositadamente, ao Novo Acordo Ortográfico.