O governo do Brasil recomendou nesta terça-feira (20) que a empresa controladora da plataforma X (antigo Twitter) impeça que o assistente de inteligência artificial Grok produza ou compartilhe conteúdos sexuais após denúncias sobre a utilização da ferramenta para gerar deepfakes com imagens de pessoas reais.
As acusações se baseiam em reportagens da imprensa nacional e internacional e em testes próprios, que apontam que usuários da plataforma têm produzido imagens e vídeos com caráter sexualizado, erótico ou pornográfico, envolvendo mulheres, crianças e adolescentes, inclusive em situações de nudez ou com roupas íntimas, acessíveis a qualquer usuário.
As primeiras denúncias chegaram à Agência Nacional de Proteção de Dados (ANPD) na quarta-feira (14), por meio de uma representação da Deputada Federal Erika Hilton (PSOL), e foram reforçadas por alegações semelhantes do IDEC, Instituto Alana e da Secretaria de Políticas Digitais da Presidência da República.
Técnicos apontam que a geração desse conteúdo sintético constitui atividade de tratamento de dados pessoais e que sua criação sem consentimento viola direitos fundamentais de imagem, privacidade e autodeterminação informacional.
A gravidade das ocorrências motivou ação conjunta da ANPD, da Secretaria Nacional do Consumidor (Senacom) e do Ministério Público Federal (MPF). As instituições ressaltam que os fatos podem afetar a proteção de dados pessoais, relações de consumo, a dignidade da pessoa humana e outros direitos coletivos, difusos e individuais indisponíveis, especialmente de mulheres, crianças e adolescentes.
As instituições destacam que o caso afronta a prioridade absoluta de proteção à criança prevista na Constituição e no Estatuto da Criança e do Adolescente (ECA), podendo configurar crimes relacionados à exploração sexual de menores, especialmente no ambiente digital, e violência psicológica de gênero pelo Código Penal.
Ainda, os órgãos argumentam que, ao permitir que fotos reais sejam transformadas em conteúdo de nudez, a plataforma rompe a confiança legítima do usuário e age de forma contraditória à sua própria política de uso, violando o princípio da boa-fé. Para menores, a manipulação de imagens afronta o princípio do melhor interesse da criança e compromete o desenvolvimento saudável da personalidade, segundo os documentos que deram base às recomendações do governo.
Recomendações
Entre as medidas recomendadas, está a proibição imediata de geração de imagens, vídeos ou áudios sexualizados envolvendo crianças e adolescentes, bem como de maiores de idade identificáveis sem consentimento . As medidas devem valer para todas as versões e modalidades do Grok.
Também foi solicitado que a empresa implemente, em até 30 dias, procedimentos claros para identificar, revisar e remover conteúdos desse tipo já existentes.
O governo pede que a plataforma suspenda contas envolvidas na produção desses materiais, forneça relatórios mensais às instituições comprovando o cumprimento das ações e crie um mecanismo acessível para que titulares de dados possam denunciar uso irregular ou abusivo do Grok.
Além disso, deve ser elaborado um relatório de impacto sobre a proteção de dados pessoais referente à geração de conteúdos falsos a partir de fotos, vídeos ou áudios enviados por usuários, sempre que esses dados permitirem identificar direta ou indiretamente uma pessoa natural.
As instituições alertam que, caso as recomendações não sejam cumpridas ou apresentem eficácia insuficiente, outras medidas poderão ser adotadas em âmbito administrativo e judicial, garantindo a proteção de mulheres, crianças e adolescentes.
Os órgãos responsáveis pelas denúncias fundamentam que a plataforma não é um agente neutro, pois a funcionalidade foi integrada à sua infraestrutura, podendo ser considerada coautora dos conteúdos gerados conforme interpretação do Marco Civil da Internet, cabendo-lhe o dever de cuidado.
Decisões recentes do STF que reforçam o dever das plataformas de evitar a circulação massiva de crimes graves são citadas como base. O não cumprimento pode levar a sanções previstas no Código de Defesa do Consumidor e na LGPD .