A Meta, controladora do Facebook, Instagram e WhatsApp, anunciou a formação de uma força-tarefa interna para combater a distribuição de pornografia infantil em suas redes sociais.

O anúncio é uma resposta a uma investigação conjunta do The Wall Street Journal e das universidades de Stanford e Massachusetts Amherst, que revela a operação de redes de compra e venda de pedofilia no Instagram.

O trabalho aponta como determinadas hashtags explicitamente relacionadas a abuso sexual infantil e algoritmos de recomendação eram usados livremente para conectar pedófilos a vendedores destes materiais.

Segundo a pesquisa, perfis encontrados por uma conta de teste no Instagram anunciavam “menus” de conteúdos de pedofilia sob hashtags explícitas como “#pedobait”, “#pedowhore” e “#preteensex”.

As contas que publicavam sob estas hashtags anunciavam venda e comissão (produção sob demanda) de diversos materiais, incluindo vídeos de automutilação e bestialidade.

Uma vez que a conta teste foi exposta a publicações do tipo, os algoritmos das redes sociais da Meta exibiam e recomendavam outros perfis de pornografia infantil.

O Wall Street Journal descreveu o mecanismo:

“Seguindo apenas um punhado destas recomendações foi suficiente para inundar uma conta teste com conteúdos que sexualizam crianças.”

Além das recomendações, a pesquisa constatou que estes conteúdos denunciados eram frequentemente ignorados pela moderação, sob uma mensagem automática que alegava “excesso de demanda.”

Em nota, a Meta informou que a equipe interna lidaria com as questões apontadas pelo relatório. “Exploração infantil é um crime horrível. Nós estamos continuamente investigando formas de se proteger ativamente contra este comportamento.”

A empresa anunciou que só em janeiro deste ano, removeu 490 mil contas que feriam seus termos de proteção a crianças, e que nos últimos dois anos derrubou 27 redes de pedofilia, além de bloquear “milhares de hashtags” sobre o tema.

Instagram não possui proteções suficientes

Embora a investigação tenha analisado a distribuição de pornografia infantil em diversas redes sociais, foi no Instagram que a pesquisa encontrou a situação mais crítica.

Segundo o Wall Street Journal, os investigadores de Stanford encontraram 128 contas que ofereciam material de abuso no Twitter — número que representa “menos de um terço do que encontraram no Instagram”.

Em outras redes, como TikTok e Snapchat, não foi encontrada proliferação deste tipo de material. Fontes ouvidas pelo Wall Street Journal apontam que a controladora do Instagram pode e deve fazer mais para lidar com a questão.

Para Alex Stamos, líder do Observatório da Internet de Stanford e ex-chefe de segurança da Meta, a situação é crítica:

“Uma equipe de três acadêmicos com acesso limitado encontrar uma rede tão grande deveria disparar alarmes na Meta. Eu espero que a empresa volte a investir em investigadores humanos.”

David Thiel, chefe de tecnologia do Observatório da Internet de Stanford, conta que o Instagram não estava encontrando um equilíbrio entre recomendação de conteúdo — voltado para engajamento — e recursos de segurança:

“É preciso colocar proteções para algo que é tão voltado para o crescimento permanecer nominalmente seguro, e o Instagram não fez isso.”

Pornografia infantil é mais uma das crises da Meta

A investigação sobre distribuição de pornografia infantil no Instagram é mais um ponto na crise de imagem da Meta, que vive sob escrutínio pelos malefícios causados aos usuários.

Em 2021, a ex-gerente do Instagram Frances Haugen tornou públicas pesquisas internas da empresa demonstrando efeitos negativos sobre o estado emocional de jovens usuários em questões como imagem corporal e autoestima.