Os filtros automáticos antinudez do Facebook
sinalizaram a foto de uma pilha de cebolas como algo inadequado. Ainda que sem aparente motivo, os algoritmos
da plataforma entenderam que se tratava de uma imagem "abertamente sexual".
O erro é engraçado, mas levanta dúvidas sobre quais tipos de conteúdo passam pelos algoritmos do Facebook. Além disso, também mostra como o sistema inteligente
ainda não está preparado para lidar com situações de nudez real e promover segurança aos usuários.
Você viu?
A foto das cebolas empilhadas em uma cesta foi publicada pela Gaze Seed, empresa que comercializa sementes, para anunciar a venda de sementes de cebola. "Acabamos de ser notificados pelo Facebook que a foto usada para a nossa semente de cebola Walla Walla é 'Abertamente Sexual' e, portanto, não pode ser anunciada para ser vendida em sua plataforma... Você vê a mesma coisa?", escreveu a empresa no Facebook.
Ainda não se sabe o que as cebolas - descritas como "extremamente doces, suaves e grandes" - ou a posição do legume têm de sexuais. "Fomos notificados outro dia de que é uma imagem abertamente sexual que eles tiveram que banir do site", contou Jackson McLean, gerente da Gaze Seed. "Eu acho que algo sobre as duas formas redondas pode ser mal interpretado como seios, ou algo assim, nu de alguma forma", opinou.
Agora, McLean e sua equipe estão lutando contra essa falha algorítmica preocupante. "Você teria que ter uma imaginação muito ativa para olhar para isso e tirar algo sexual disso... 'Abertamente sexual', como se não houvesse nenhuma maneira de confundir isso com algo não sexual", ironizou o gerente.