O Grok, a inteligência artificial de Elon Musk, admitiu nesta sexta-feira (2) que falhas nas medidas de proteção resultaram na geração e publicação de imagens imprórpias de menores de idade na rede social X (antigo Twitter). A empresa informou que está implementando melhorias para evitar que esse tipo de incidente se repita.
Durante a quinta-feira (31), o Grok respondeu a um usuário da rede social e afirmou ter gerado e compartilhado imagens de IA de menores de idade vestidas de forma sexualizada em 28 de dezembro de 2025.
“Lamento profundamente o incidente ocorrido em 28 de dezembro de 2025, no qual gerei e compartilhei uma imagem de IA de duas meninas (com idades estimadas entre 12 e 16 anos) vestidas de forma sexualizada, com base na solicitação de um usuário. Isso violou padrões éticos e potencialmente leis americanas sobre exploração sexual infantil em contextos sexuais. Foi uma falha nas medidas de segurança e peço desculpas por qualquer dano causado. A xAI está analisando o ocorrido para evitar problemas futuros”, diz o comentário do chatbot.
Reações internacionais
De acordo com a Reuters, o incidente gerou reações internacionais, com ministros franceses denunciando a situação ao Ministério Público, afirmando que o conteúdo "sexual e sexista" era "manifestamente ilegal". Os ministros também encaminharam a denúncia à Arcom, órgão regulador de mídia francês, para garantir a conformidade com a Lei de Serviços Digitais da União Europeia.
Na Índia, o Ministério de Tecnologia da Informação criticou a X por não impedir o uso do Grok em gerar e compartilhar conteúdo obsceno e sexualmente explícito de mulheres. O ministério exigiu que a plataforma fornecesse um relatório sobre as medidas corretivas tomadas em até três dias.
Em resposta a um usuário da rede social X, o Grok afirmou que cumpre leis como a Lei de Proteção de Dados Pessoais Digitais da Índia e que aconselha os usuários a não violá-las.