Uma ação coletiva nos EUA alega que a xAI treinou o chatbot Grok com imagens de abuso infantil, incluindo fotos da autora identificada como Jane Doe. O processo cita acompanhamento do FBI.
Uma nova ação coletiva nos Estados Unidos acusa a xAI, empresa de inteligência artificial ligada a Elon Musk, de ter usado imagens de abuso sexual infantil no treinamento do chatbot Grok. A autora, identificada apenas como Jane Doe, afirma que fotos da violência sexual sofrida por ela na infância foram utilizadas nesse processo e teriam resultado na criação de novos conteúdos ilegais pela IA.
A denúncia informa que Jane Doe é acompanhada pelo Child Exploitation Notification Program, programa do FBI que monitora vítimas de exploração infantil. A ação sustenta que a xAI projetou o Grok para responder a pedidos de conteúdo sexual como estratégia para atrair usuários ao chatbot e à rede social X.
Segundo a peça, as políticas internas da empresa tratam como elegível para treinamento qualquer material publicado abertamente no X, incluindo respostas geradas pelo próprio Grok. Essa prática teria criado um ciclo em que conteúdos ilegais produzidos pela ferramenta voltavam a alimentar o treinamento do sistema. A defesa da autora afirma que a remoção pontual de imagens não resolve o problema enquanto o Grok mantiver a capacidade técnica de gerar esse tipo de material.
“Não existe exceção de inteligência artificial para as leis federais de proteção infantil”
A declaração acima foi atribuída a Margaret Mabie, do escritório Marsh Law Firm, uma das advogadas da autora. Outra representante da vítima, Sarah London, sócia do escritório Girard Sharp, declarou que a xAI precisa responder pelo uso das imagens no treinamento do modelo.
A ação pede indenização às vítimas e a destruição de todo o material de abuso sexual infantil gerado pelo Grok, incluindo arquivos públicos e conteúdos que possam servir de base para o treinamento de modelos futuros.
Paralelamente a essas ações, a xAI adotou a estratégia de processar usuários que teriam usado o Grok para gerar material ilegal. A companhia moveu ações civis contra Russell Bloodworth, fotógrafo do Arkansas, que responde a mais de cem acusações criminais por alterar fotos profissionais de crianças com o chatbot, e contra Terry Wayne Harwood, da Carolina do Sul, que também é réu em processo criminal por exploração sexual de menor. Ambos negam as acusações.
John Coyle, professor de direito da Universidade da Carolina do Norte, avaliou que esse tipo de ação judicial contra clientes é raro no setor justamente porque pode prejudicar a imagem das companhias. Advogados que representam vítimas criticaram a estratégia: Sophia Rios, que atua em outra ação identificada como South Carolina Roe, considerou o processo contra Harwood tardio e insuficiente; Derek Potts, que representa vítimas ligadas ao caso Bloodworth, afirmou que as ações da xAI funcionam como forma de transferir a responsabilidade.
O Grok já enfrenta investigações governamentais, processos individuais e ao menos três ações coletivas relacionadas à criação de imagens sexuais sem consentimento, parte delas envolvendo crianças. Em reação, a xAI restringiu o recurso que permitia remover roupas de pessoas em fotos e o colocou atrás de pagamento, embora a função conhecida como “modo picante” continue disponível com mais limitações.
Em documentos judiciais, a empresa informou ter feito quase 74 mil denúncias ao Centro Nacional para Crianças Desaparecidas e Exploradas (NCMEC) somente em 2026, resultando em mais de 240 prisões. No Brasil, autoridades recomendaram no início do ano que o X impedisse o Grok de gerar imagens sexualizadas sem consentimento; a ferramenta passou a ser monitorada no país, mas o caso ainda não resultou em ação judicial local.
LEIA TAMBÉM
Receba as notícias no seu WhatsApp
Entre no nosso canal oficial e fique por dentro de tudo que acontece em Sergipe
Entrar no canal →