A deputada estadual do Rio de Janeiro Renata Souza (PSOL) publicou um vídeo nas redes sociais nesta quarta-feira (25) no qual aponta racismo algorítmico
na inteligência artificial (IA) do Microsoft Bing que vem sendo usada para criar imagens no estilo Pixar.
Quando a deputada pediu para a IA criar a imagem de uma mulher negra em uma favela, o sistema gerou o desenho de uma mulher segurando uma arma. "Em momento nenhum eu falei sobre armas, em momento nenhum eu falei sobre violência. Eu falei sobre uma mulher negra em uma favela", relata Renata.
Para criar uma imagem no estilo Pixar e participar da trend que ficou famosa nos últimos dias nas redes sociais, os usuários precisam descrever uma cena para a IA. No caso de Renata, a descrição utilizada foi:
"Poster de filme inspirado na Disney Pixar com o título 'Renata Souza'. A personagem principal é uma mulher negra com cabelo afro preso, veste um blazer estilo africano. A cena deverá ser no estilo de arte digital distinto da Pixar, uma favela ao fundo, com foco nas expressões dos personagens, cores vibrantes e texturas detalhadas características de suas animações, com o título 'Renata Souza'".
A imagem gerada pela IA foi a que está no topo desta matéria. "Essa lógica de criminalização das pessoas negras, desses territórios de favela e periferia também está nos algoritmos", afirma Renata.
Racismo algorítmico é o termo utilizado para descrever o racismo presente em sistemas digitais. Como as inteligências artificiais são, no geral, treinadas por informações do mundo real, elas reproduzem preconceitos presentes na sociedade, como o racismo, problema que não é devidamente corrigido pelas empresas de tecnologia.
A IA usada por Renata foi o gerador de imagens do Bing, da Microsoft. O sistema é equipado com a tecnologia DALL-E3, criada para traduzir palavras em imagens. A tecnologia foi criada pela OpenAI, mesma empresa por trás do ChatGPT.
No site da DALL-E3, a OpenAI afirma que "melhorou o desempenho da segurança em áreas de risco, como a geração de figuras públicas e preconceitos prejudiciais relacionados com a sobre/sub-representação visual" em relação à geração anterior, DALL-E2.
Nas redes sociais, Renata disse que está "analisando medidas cabíveis de encaminhamento da denúncia" e que buscará "um canal de diálogo com a direção da empresa que produz o aplicativo Microsoft Bing".
A reportagem entrou em contato com a Microsoft, que disse que investiga o caso. "Acreditamos que a criação de tecnologias de IA confiáveis e inclusivas é um tema crítico e algo que levamos muito a sério. Estamos investigando este relato e tomaremos as medidas adequadas para ajustar nosso serviço. Estamos totalmente comprometidos em melhorar a precisão dos resultados desta nova tecnologia e continuaremos fazendo investimentos adicionais para isso à medida que ela continua a evoluir", afirma a empresa.