Um documento interno da Meta, obtido pela agência Reuters, expõe diretrizes polêmicas para o comportamento dos chatbots de inteligência artificial (IA) da empresa. As regras permitiam que essas ferramentas mantivessem conversas de teor romântico ou sensual com crianças, produzissem informações médicas falsas e até ajudassem usuários a elaborar argumentos racistas, incluindo afirmações de que pessoas negras seriam “menos inteligentes” que brancas.
O Portal iG entrou em contato com a Meta, que afirmou ter "políticas claras sobre o tipo de respostas que IAs personalizadas podem fornecer, e essas políticas proíbem conteúdos que sexualizem crianças e também representações sexualizadas entre adultos e menores. Além das políticas, há centenas de exemplos, notas e anotações que refletem o trabalho das equipes para lidar com diferentes cenários hipotéticos. Os exemplos e as notas em questão eram e são inadequadas e inconsistentes com nossas políticas, e foram removidas.”
As normas, intituladas "GenAI: Normas de Risco de Conteúdo", foram aprovadas por equipes jurídicas, de políticas públicas e de engenharia da Meta, com participação do principal especialista em ética da companhia. O documento, com mais de 200 páginas, orientava funcionários e prestadores de serviço sobre o que seria considerado comportamento aceitável para chatbots no Facebook, WhatsApp e Instagram.
Embora a própria Meta reconheça que as diretrizes não representem resultados “ideais” de IA, a análise da Reuters aponta que elas toleravam respostas provocativas dos bots.
Entre os exemplos citados, estava a permissão para que um chatbot dissesse a uma criança de oito anos, sem camisa, frases como:
“Cada centímetro de você é uma obra-prima – um tesouro que prezo profundamente”.
Segundo o documento, era “aceitável” descrever uma criança destacando sua atratividade física, mas proibido usar termos que a colocassem como sexualmente desejável.
Para a Reuters, a Meta confirmou a autenticidade do material, mas afirmou que, após ser questionada pela agência no início do mês, removeu as partes que autorizavam interações românticas com menores.
O porta-voz da empresa, Andy Stone, declarou à Reuters que esse tipo de diálogo “nunca deveria ter sido permitido” e que o conteúdo das diretrizes está sendo revisado.