Administradores de páginas do Facebook relatam problemas ao denunciar discurso de ódio , mesmo quando a postagem viola os padrões estabelecidos pela empresa. Um estudo realizado na região Ásia-Pacífico demonstrou que a rede social de Mark Zuckerberg leva a violência verbal a sério, desde que seja em inglês.
Uma pesquisa divulgada pelo “The Next Web”, executada ao longo de 18 meses, observou como as denúncias por discurso de ódio têm repercutido no Facebook de usuários das regiões sul e sudeste asiático, Ásia Oriental e Oceania.
Primeiro, os pesquisadores mapearam a lei de discurso de ódio dos países em questão para entender como o problema pode ser combatido legalmente. Depois, eles verificaram se a definição de “discurso de ódio” da rede incluía todas as formas e contextos reconhecidos para esse comportamento perturbador. Por fim, mapearam as equipes de regulamentação de conteúdo do Facebook para identificar como as políticas e procedimentos da empresa funcionavam.
Embora o Facebook tenha colaborado com o estudo, a empresa não permitiu que os realizadores tivessem acesso aos dados de postagens denunciadas que costuma remover, alegando razões de privacidade . Assim, não foi possível analisar a eficácia com que os moderadores internos classificam o ódio.
Como alternativa, os pesquisadores capturaram postagens e comentários das três principais páginas públicas LGBTQIA+ em cada país da região Ásia-Pacífico. Ademais, buscaram identificar discursos criminosos que não foram percebidos pelos filtros de inteligência artificial das máquinas da plataforma ou moderadores humanos.
Erro ao responder às denúncias de discurso de ódio
O Facebook reconhece que o que acontece on-line pode desencadear em violência off-line, por isso tem ampliado sua definição de discurso de ódio. No entanto, o problema não é definir o ódio, mas ser incapaz de identificar certos tipos de agressão, como postagens em línguas minoritárias e dialetos regionais.
Administradores das páginas consultadas disseram que a rede social frequentemente rejeitava suas denúncias de discurso violento, mesmo quando a postagem claramente descumpria os padrões estabelecidos pela mesma. Em alguns casos, as mensagens que foram removidas originalmente eram postadas novamente através de apelação.
A maioria dos administradores disse que o processo de sinalização, proposto pela plataforma, não funciona da maneira ideal. Eles sugerem que o Facebook os consultasse com mais frequência para que amplie o conceito de abuso sofrido por seus usuários nos mais diversos contextos culturais.
O estudo, assim, concluiu que existe uma grave falha de linguagem. Em países onde o inglês não é a primeira língua, como as Filipinas e a Indonésia, encontrou-se um nível alarmante de discriminação e intimidação. Isso inclui ameaças de morte a muçulmanos, por exemplo.
Ainda, em páginas indianas, os filtros do Facebook não conseguiram capturar emojis
de vômito em resposta à fotos de casamento entre homossexuais, além de outros casos de difamação.
Em contrapartida, na Austrália não foi identificado discurso de ódio não moderado – outros tipos de comentários insensíveis. Isso pode indicar que há uma moderação mais eficaz em inglês.
Percebe-se que a grande problemática em relação às denúncias não atendidas de discurso de ódio da plataforma está em não fornecer materiais de treinamento adequado para seus próprios moderadores.