Os casos de abuso sexual infantil com conteúdos produzidos através de inteligência artificial estão a aumentar. Dados de um recente relatório da Internet Watch Foundation mostram que, só no primeiro semestre deste ano, foram detectadas 210 páginas online com conteúdos deste tipo.

Em Portugal, o Centro Internet Segura admite que já chegaram pedidos de ajuda relacionados com imagens sexuais de crianças geradas por IA, com denúncias que têm origem na Linha Internet Segura, operada pela Associação Portuguesa de Apoio à Vítima.

Em declarações à agência Lusa, o CIS detalha que a produção deste tipo de conteúdo ilegal é feita por “pares ou colegas de escola”, sendo depois partilhada em grupos no WhatsApp e, por vezes, em Stories no Instagram.

Segundo o CIS, a crescente popularidade das ferramentas com IA está a amplificar este conteúdo, permitindo criar sites rapidamente. A questão torna-se ainda mais complicada quando se considera que ainda não existe, pelo menos para o grande público, uma tecnologia que seja capaz de detetar de maneira eficaz “se um conteúdo foi gerado artificialmente no momento”, indica.

Lembrando que já existem várias plataformas que têm apenas como objetivo criar imagens íntimas de mulheres, o CIS realça que esta é uma “realidade que rapidamente se estendeu ao conteúdo sexual de menores", alertando que, a partir do momento em que imagens de jovens passam a estar disponíveis online, qualquer pessoas pode usá-las para criar material sexual artificial.

Nos casos em que a IA é usada para criar conteúdos maliciosos, "a responsabilidade recai, sempre, sobre quem produz e distribui este tipo de conteúdo", sublinha.

Para reduzir os riscos, o CIS indica que “o acompanhamento das crianças no mundo digital é fundamental”, aconselhando os pais a prestar atenção às imagens que são captadas e partilhadas em diferentes plataformas, mas também a ter “cuidado com os equipamentos a que se dá acesso a crianças”.

No que toca ao acesso às redes sociais, os jovens que já têm idade para poder utilizá-las devem ser incentivados a manterem perfis privados, controlando também quem pode ver o que é publicado e revendo as definições de privacidade.

Os pais devem orientar os seus filhos no que respeita à “importância de limitar a visibilidade de fotos ou informações pessoais”. Entre os aspectos a que devem estar atentos contam-se também links, anexos e downloads de origem desconhecida, mas também pedidos suspeitos de fotos íntimas, dinheiro ou dados pessoais, assim como de migração para outras plataformas online.

Embora admita que as medidas “não eliminam totalmente o risco”, as mesmas “ajudam a reduzir a exposição e fortalecem a proteção de crianças e jovens no ambiente digital”.

Filmes de abusos sexuais de crianças criados com IA serão inevitáveis “caso não se tomem medidas”, aponta relatório
Filmes de abusos sexuais de crianças criados com IA serão inevitáveis “caso não se tomem medidas”, aponta relatório
Ver artigo

Recorde-se que, de acordo com os dados da Internet Watch Foundation, entre janeiro e junho deste ano, o número de vídeos com conteúdo de abuso sexual infantil gerado por IA dispararam. Durante este período, foram detetados 1.286 vídeos individuais e, deste conjunto, 1.006 continham representações extremas de violações, tortura e práticas sexuais com animais.

A organização britânica alerta que os vídeos de abuso sexual infantil gerados por IA tornaram-se tão realistas que se torna cada vez mais difícil de perceber o que é falso e o que é real.

A qualidade do conteúdo gerado deu um "salto enorme" no último ano, realça a Internet Watch Foundation, acrescentando que os criminosos estão agora a produzir este material em grande escala. Sem medidas urgentes, é muito provável que os criminosos possam, um dia, conseguir produzir filmes completos de abuso sexual infantil gerados por IA, alerta a organização.