Instagram: algoritmos da rede social promovem redes de pedofilia online

Uma nova investigação revela que os algoritmos do Instagram estão a promover uma rede de pedófilos online concebida para a venda e compra de conteúdo de abuso sexual de crianças.

De acordo com a investigação, realizada por especialistas das universidades de Stanford e Massachusetts Amherst, nos Estados Unidos, em colaboração com o The Wall Street Journal, a rede social do ecossistema da Meta está a ser usada para ligar pedófilos a vendedores de conteúdo através dos seus sistemas de recomendação.

Os especialistas descobriram que a plataforma permite encontrar hashtags explícitos que levam a páginas usadas para publicitar a venda de conteúdo de abuso sexual de crianças. Em muitos dos casos, as contas afirmam ser geridas pelas próprias crianças e contam com nomes de utilizador sexualmente explícitos. Algumas contas podem mesmo estar associadas a redes de tráfico sexual de menores.

A investigação permitiu verificar que, de modo geral, este tipo de contas publica “menus” de conteúdos para venda, com preços para vídeos e imagens. Através das hashtags explícitas, os especialistas do Stanford Internet Observatory encontraram 405 vendedores de conteúdo de abuso sexual de crianças. Deste conjunto, 112 tinham, em conjunto, 22.000 seguidores únicos.

Em muitos dos casos, o Instagram permitiu que utilizadores pesquisassem por temos que a própria rede social sabe que podem estar associados com este tipo de conteúdo ilegal, apresentando um aviso a indicar que os resultados poderiam conter imagens de abuso sexual de crianças.

A opção de ver estes conteúdos foi entretanto removida pela rede social após ter sido contactada pelo jornal norte-americano. No entanto, a empresa não indica por que motivos é que disponibilizava essa opção em primeiro lugar.

Em declarações ao jornal, a empresa liderada por Mark Zuckerberg admite falhas nas suas operações internas e afirma que está a reunir uma equipa para resolvê-las. “A exploração de crianças é um crime horrível”, realça a Meta. “Estamos continuamente a investigar formas para impedir ativamente este tipo de comportamento”.

Segundo a empresa, ao longo dos últimos dois anos, foram desmanteladas 27 redes de pedófilos e espera-se que mais venham a ser removidas da plataforma. A Meta indica também que bloqueou centenas de hashtags que sexualizavam crianças e que implementou restrições nos seus sistemas de modo a impedir a recomendação de termos associados a conteúdo de abuso sexual de menores.

Em resposta aos resultados a investigação, Thierry Breton, comissário europeu para o mercado interno, exigiu à empresa de Mark Zuckerberg que tome uma ação imediata. O comissário indica também que, no final de junho, vai discutir este assunto com o CEO da gigante tecnológica.

Thierry Breton lembra também que a partir do dia 25 de agosto, data em que a Lei dos Serviços Digitais (DSA, na sigla em inglês) entra em vigor, a Meta terá de mostrar à Comissão Europeia que medidas é que está a tomar, caso contrário enfrentará sanções avultadas.

Note-se que o Instagram não foi a única plataforma onde os investigadores se depararam com a promoção de conteúdos de abuso sexual de crianças. No Twitter, por exemplo, foram encontradas 128 contas que estavam a vendê-los. A equipa verificou que, embora a rede social não promovesse as contas de forma semelhante à do Instagram, as mesmas foram removidas muito mais depressa.