O Ministério Público Federal (MPF), a Secretaria Nacional do Consumidor (Senacon) e a Agência Nacional de Proteção de Dados (ANPD) recomendaram que a rede social X adote medidas para impedir a geração de conteúdo pornográfico baseado em pessoas reais por meio da ferramenta de inteligência artificial Grok. O prazo final para implementação das ações é 27 de janeiro.
A recomendação consta em um documento conjunto, emitido na terça-feira (20), após denúncias de que a ferramenta estaria permitindo a edição automatizada de imagens de terceiros, resultando na criação de deepfakes — imagens falsas da realidade — com teor sexual, erótico e pornográfico, sem autorização das pessoas retratadas.
De acordo com o ofício, há relatos de geração de imagens de mulheres adultas e também de crianças e adolescentes reais, que estariam sendo expostas publicamente na plataforma, acessíveis a usuários de qualquer idade. As instituições alertam que a prática amplia de forma significativa os danos às vítimas.
O próprio Grok reconheceu a produção desse tipo de conteúdo ao ser questionado por usuários. Em uma resposta publicada no X, a ferramenta afirmou ter gerado, em dezembro de 2025, imagens sexualizadas de duas meninas, com idades estimadas entre 12 e 16 anos, a pedido de um usuário.
As denúncias chegaram aos órgãos por meio de cidadãos e parlamentares. Entre as representações estão pedidos feitos por deputados do PT, protocolados pela deputada Maria do Rosário (RS), e pela deputada Erika Hilton (PSOL), que solicitaram investigação do caso ao MPF.
Além de impedir a geração desse tipo de conteúdo, os órgãos também recomendaram:
- a criação, em até 30 dias, de procedimentos técnicos para identificar e remover conteúdos ilegais já publicados;
- a suspensão imediata de contas envolvidas na produção de imagens sexuais com o Grok, com envio de relatórios mensais;
- a implementação de um canal eficaz de denúncias para uso abusivo ou ilegal de dados pessoais;
- a elaboração de um relatório de impacto à proteção de dados sobre o uso do Grok para geração de conteúdos sintéticos.
LEIA TAMBÉM
Receba as notícias no seu WhatsApp
Entre no nosso canal oficial e fique por dentro de tudo que acontece em Sergipe
Entrar no canal →