Autoridades denunciam uso indevido da IA de Elon Musk para manipular fotos de mulheres e crianças

Recentemente, governos da França e da Índia manifestaram repúdio público ao funcionamento do Grok, chatbot de inteligência artificial integrado à rede social X, de propriedade de Elon Musk. Segundo autoridades dos dois países, falhas no sistema permitiram que usuários utilizassem a ferramenta para gerar conteúdos sexualmente explícitos, inclusive envolvendo mulheres e menores de idade.

De acordo com relatos encaminhados a promotores e órgãos reguladores, o material produzido foi classificado como sexual, sexista e ilegal. Embora o Grok funcione a partir de comandos de texto fornecidos pelos usuários, uma brecha em seu código-fonte possibilitou a alteração digital de imagens publicadas na plataforma, inserindo-as em contextos obscenos.

Um dos casos mais emblemáticos foi revelado pela Reuters, que entrevistou a brasileira Julie Yukari, de 31 anos, moradora do Rio de Janeiro. Ela contou que publicou uma foto pessoal de réveillon vestindo um vestido, mas usuários solicitaram ao Grok que a imagem fosse modificada para que ela aparecesse apenas de biquíni — pedido que a IA executou.

Após a repercussão, o Grok divulgou um comunicado reconhecendo que falhas técnicas permitiram até mesmo a representação de menores em trajes íntimos, afirmando que correções emergenciais já estavam em andamento para conter o problema.

Na França, ministros acionaram o Arcom, órgão responsável pela regulação de conteúdos digitais e audiovisuais, para verificar se as práticas do Grok violam a Lei de Serviços Digitais da União Europeia. Já na Índia, o Ministério de Tecnologia da Informação exigiu mudanças imediatas nas normas técnicas do X e determinou o envio de um relatório detalhado em até 72 horas, sob risco de a plataforma perder a proteção da lei do “porto seguro”.

Segundo o TechCrunch, a ordem indiana exige a restrição total de conteúdos que envolvam nudez, sexualização, pornografia, pedofilia ou qualquer material ilegal. Caso não cumpra as exigências, o X poderá ser responsabilizado judicialmente por crimes digitais cometidos por seus usuários.

A maioria das vítimas identificadas são mulheres, o que motivou protestos públicos, como o da parlamentar indiana Priyanka Chaturvedi, que criticou duramente o comportamento obsceno de usuários e a falha da plataforma em protegê-los. Autoridades francesas também reforçaram que crianças estão entre as vítimas, ampliando a gravidade do caso.

Gostou? Compartilhe com quem precisa saber: