A circulação de imagens sexualmente explícitas geradas por IA da cantora Taylor Swift nas redes sociais, à qual se juntam muitos outros casos semelhantes, motivou a criação de uma nova proposta de lei nos Estados Unidos. 

A DEFIANCE (Disrupt Explicit Forged Images and Non-Consensual Edits) Act tem como objetivo proteger as vítimas de falsificações digitais sexualmente explícitas, dando-lhes a oportunidade de recorrer à Justiça, e responsabilizar quem cria e difunde este tipo de conteúdo.

A proposta, apresentada por senadores democratas e republicanos, define falsificações digitais como representações visuais, criadas através do uso de “software, machine learning, inteligência artificial ou qualquer outro meio computadorizado ou tecnológico”, concebidas para parecerem autênticas.

Entre os indivíduos visados pela DEFIANCE Act estão não só quem produz as imagens ou vídeos falsos com intenção de os distribuir, mas também quem produziu, distribuiu ou recebeu esse conteúdo sabendo que a vítima não consentiu, ou ignorando completamente a falta de consentimento.

Em comunicado, os senadores indicam que o volume de deepfakes que circulam online está a crescer exponencialmente. Ao mesmo tempo, a tecnologia utilizada para criar este tipo de conteúdo é cada vez mais acessível ao público.

“Embora as imagens sejam falsas, o prejuízo causado às vítimas da distribuição de deepfakes sexualmente explícitas é bem real”, realça o senador democrata Dick Durbin.

“Ao apresentarmos esta proposta, estamos a dar o poder de volta às vítimas, lutando contra a distribuição de deepfakes e responsabilizando quem as criou”, afirma o senador.

Em linha com Dick Durbin, o senador republicano Josh Hawley enfatiza que ninguém, seja uma celebridade ou um cidadão comum, deveria passar por um caso semelhante ao que aconteceu com Taylor Swift. “Pessoas inocentes têm o direito de defender as suas reputações”, afirma, acrescentando que a proposta quer tornar isso uma realidade.

Pesquisa por deepfakes pornográficas de Taylor Swift bloqueada na rede social X
Pesquisa por deepfakes pornográficas de Taylor Swift bloqueada na rede social X
Ver artigo

Nos Estados Unidos, vários Estados já avançaram com restrições e medidas para tornar ilegal a partilha de deepfakes pornográficas, porém, não estão a ter o impacto esperado. No Estado de Nova Iorque, legisladores democratas voltaram a apresentar recentemente  uma proposta de lei que tornaria a partilha de imagens pornográficas manipuladas e não-consensuais um crime federal.

A Casa Branca também reagiu ao caso. No final da semana passada, Karine Jean-Pierre, secretária de imprensa da Casa Branca, a indicar que a Administração Biden ficou “preocupada” com a circulação das imagens falsas, manipuladas por IA, nas redes sociais, noticiou a ABC News.

“Embora as empresas responsáveis pelas redes sociais possam tomar decisões independentes acerca da gestão de conteúdo, acreditamos que desempenham um papel importante no que respeita a fazer cumprir as suas regras para prevenir a disseminação de desinformação e de imagens íntimas não-consensuais de pessoas reais”, realçou Karine Jean-Pierre.

Ao que tudo indica, as deepfakes da cantora Taylor Swift terão originado num canal de Telegram dedicado à produção de imagens abusivas de mulheres através de IA. Uma das ferramentas utilizadas pelos membros do grupo é a Microsoft Designer, que permite gerar imagens a partir de texto.

Numa entrevista à NBC, Satya Nadella, CEO da Microsoft, considerou o caso "preocupante e terrível", admitindo que que a indústria tecnológica ainda tem muito por fazer para impedir que situações deste tipo continuem a acontecer.