Uma anterior investigação do The Wall Street Journal mostrou que o serviço de vídeos Reels do Instagram sugere conteúdo sexual relacionado com crianças, mas também adultos. A investigação sugere que jovens ginastas e líderes de claques são os principais alvos, estando em causa os algoritmos e da combinação de anúncios de que usa redes sociais da Meta.

Estes conteúdos, que por norma são proibidos nas plataformas da empresa de Mark Zuckerberg, acabam por aparecer algumas vezes baralhados entre anúncios da Disney, Walmart e Pizza Hut, com conteúdos do Bumble ou Match Group.

O Procurador-Geral do Novo México, nos Estados Unidos, avançou com uma ação judicial contra o Facebook e Instagram por conduzir predadores sexuais a crianças. E os investigadores estatais fizeram os seus próprios testes para chegar às conclusões que pretende levar a Meta a tribunal. Neste caso foram usadas contas com fotografias geradas por IA, que não evitaram a inundação de propostas de cariz sexual e conteúdo para adultos, reporta o mesmo jornal.

Estudo: Algoritmo do Instagram sugere conteúdos de teor sexual a quem segue contas de jovens
Estudo: Algoritmo do Instagram sugere conteúdos de teor sexual a quem segue contas de jovens
Ver artigo

A ação civil deu entrada esta terça-feira no tribunal estatal do Novo México, acusando a Meta de permitir que o Facebook e o Instagram “se tornassem um Marketplace para predadores à procura de crianças para caçar”, cita o jornal. A empresa de Mark Zuckerberg é também acusada de ter falhado em implementar proteções contra a utilização da rede social por crianças abaixo dos 13 anos, apontando às vulnerabilidades relacionadas com a idade no interesse de aumentar as receitas de publicidade. E a ação acusa diretamente o líder da Meta, Mark Zuckerberg pela responsabilidade pelas decisões que agravaram os riscos às crianças nas plataformas da empresa.

As contas de teste foram configuradas para se fazerem passar por adolescentes ou pré-adolescentes. Foram criadas fotografias através de inteligência artificial para alimentar essas contas fictícias. A conclusão dos investigadores é que os algoritmos da Meta recomendaram conteúdo sexual a estas contas, além de terem sido inundadas com mensagens explicitas e propostas sexuais de outros utilizadores.

Algumas das empresas visadas no caso de associação aos conteúdos sexuais direcionados às crianças, como a Bumble, Match Group, Hims e Disney começaram a deixar de anunciar na rede, pressionando a Meta para resolver o problema. A própria empresa de Mark Zuckerberg reagiu, deixando a garantia que se encontra a investigar o caso. E assumiu a responsabilidade e os custos associados às auditorias de segurança para verificar a frequência com que os anúncios de uma empresa surgem ao lado de conteúdos assinalados como inaceitáveis.

A Meta diz que continua empenhada em proteger os utilizadores mais jovens e numa comunicação publicada pelo jornal, refere que utiliza tecnologia sofisticada, contrata especialistas em segurança das crianças, além de reportar os conteúdos ao NCMEC (National Center for Missing & Exploited Children). Além disso diz que partilha a informação e ferramentas com outras empresas e autoridades, incluindo a Procuradoria-Geral.

Centenas de famílias nos Estados Unidos estão a processar Meta, Google, Snap e TikTok por vício das redes sociais
Centenas de famílias nos Estados Unidos estão a processar Meta, Google, Snap e TikTok por vício das redes sociais
Ver artigo

De recordar que as redes sociais, não apenas da Meta, como também da Google, Snap e TikTok estão a ser escrutinadas pelas famílias pelas suas ferramentas viciantes. A ação judicial imposta pelos pais já é considerada uma das maiores contra as empresas de Silicon Valley. À ação juntam-se ainda escolas dos vários distritos espalhados pelos Estados Unidos que culpam as empresas das suas plataformas serem prejudiciais por design. Mas o caso chegou mesmo a dar origem a ações judiciais por Procuradores-gerais em representação de 41 dos Estados Unidos pelos transtornos de saúde mental causados aos utilizadores mais jovens.

Não perca as principais novidades do mundo da tecnologia!

Subscreva a newsletter do SAPO Tek.

As novidades de todos os gadgets, jogos e aplicações!

Ative as notificações do SAPO Tek.

Newton, se pudesse, seguiria.

Siga o SAPO Tek nas redes sociais. Use a #SAPOtek nas suas publicações.