A Apple revelou que a sua aplicação de mensagens ia começar a ter a capacidade de identificar e alertar utilizadores e entidades sobre conteúdos mais sensíveis, tais como abuso sexual de menores. Mas o seu sistema tem levantado críticas por violar a privacidade dos seus utilizadores e ser usado para outros fins, tais como detetar imagens de conotação política e outros conteúdos. Muitos especialistas afirmam que a tecnologia chega mesmo a violar os protocolos end-to-end. Até o WhatsApp foi à boleia das críticas, comparando-o a um sistema de vigilância que pode ser utilizado por governos totalitários.

Sistema da Apple que deteta imagens de abuso sexual debaixo de críticas por violar privacidade e ser usado para outros fins
Sistema da Apple que deteta imagens de abuso sexual debaixo de críticas por violar privacidade e ser usado para outros fins
Ver artigo

Apesar de a Apple se defender das críticas, alegando ter sido mal interpretada, uma coligação internacional composta por mais de 90 organizações civis e grupos de defensores de direitos, publicaram uma carta aberta à gigante tecnológica para suspender o seu sistema de inspeção. “Apesar do sistema seja intencionado para proteger as crianças e reduzir a propagação de conteúdo de abuso sexual de menores, estamos preocupados que seja usado para censurar o discurso protegido, ameaçar a privacidade e segurança das pessoas em todo o mundo, e tendo consequências desastrosas para muitas crianças”, pode ler-se na carta.

Salientam que a tecnologia de sondagem e alerta do sistema pode resultar em alertas que ameacem a segurança e o bem-estar de jovens LGBTQ+ com pais pouco tolerantes. Destaca ainda que depois da Apple introduzir o sistema nos seus produtos, a empresa vai sofrer enormes pressões e possíveis requerimentos legais de governos em todo o mundo para inspecionar imagens que considere censuráveis.

“É muito desapontante e inquietante ver a Apple a fazer isto, porque no passado foi um grande aliado na defesa da encriptação”, salienta um diretor de segurança à Reuters. Na carta é ainda referido que os algoritmos desenhados para detetar material sexualmente explícito têm provado ser pouco confiáveis. Estes apontam de forma errada arte, informações de saúde, recursos educacionais, e outro tipo de conteúdos.

As organizações afirmam que o sistema da Apple assume que as contas de pais e filhos pertencem a indivíduos com uma relação saudável, mas nem sempre é o caso, pois um adulto abusivo pode ser o titular da mesma. E as notificações parentais podem ter consequências para o bem-estar das crianças.

Na carta é referido que a coligação suporta a proteção de crianças, mas que o sistema anunciado pela Apple coloca tanto as crianças como outros utilizadores em risco, tanto no presente como no futuro. E por isso pede à empresa liderada por Tim Cook que abandone os seus planos e reafirme o seu compromisso na proteção dos dados com encriptação End-to-end dos seus utilizadores. Pede ainda à Apple para consultar com maior regularidade os grupos dedicados a causas civis e a comunidades vulneráveis que possam sofrer um impacto nas mudanças dos seus produtos e serviços.