Os algoritmos de recomendação do Instagram
estão promovendo a disseminação de redes de pedofilia, de acordo com uma investigação do jornal The Wall Street Journal e de acadêmicos da Universidade de Stanford e da Universidade de Massachusetts Amherst.
Segundo a pesquisa, os algoritmos da rede social "conectam pedófilos e os guiam aos vendedores de conteúdo". Esses conteúdos vendidos são de abuso sexual infantil, e alguns incluem vídeos de automutilação. Nessas redes, os criminosos vendem uma variedade de conteúdos que podem, inclusive, ser encomendados.
Os materiais de pedofilia foram fáceis de serem encontrados no Instagram, já que continham hashtags com variações da palavra "pedofilia" - e, mesmo assim, não foram excluídos pelo sistema de moderação de conteúdo da plataforma.
Os pesquisadores criaram uma conta de teste e visualizaram conteúdos produzidos por essas redes de pedofilia. Em seguida, o Instagram passou a recomendar mais e mais perfis deste tipo. "Seguir apenas algumas dessas recomendações foi o suficiente para inundar uma conta de teste com conteúdo que sexualiza crianças", relata o The Wall Street Journal.
Em resposta à investigação, a Meta, dona do Instagram, disse que está montando uma força-tarefa para tratar do tema. "A exploração infantil é um crime horrível. Estamos continuamente investigando maneiras de nos defender ativamente contra esse comportamento", disse a empresa.
Os pesquisadores, porém, acreditam que a Meta não faz o suficiente para moderar esse tipo de conteúdo. "O fato de uma equipe de três acadêmicos com acesso limitado poder encontrar uma rede tão grande deveria disparar alarmes na Meta", afirmou Alex Stamos, chefe do Observatório da Internet de Stanford e ex-diretor de segurança da Meta.
Os pesquisadores também analisaram outras plataformas. Enquanto o Snapchat e o TikTok não pareceram proliferar conteúdo de pedofilia, redes que promovem esses materiais foram detectadas no Twitter, mas em menor quantidade em relação ao Instagram.