Centenas de terceirizados contratados pela Meta criaram contas falsas se passando por menores de idade para testar como os chatbots ChatGPT, Gemini e Character.AI respondiam a perguntas sobre temas sensíveis, incluindo suicídio, sexo, drogas e transtornos alimentares. A informação foi revelada por uma investigação que teve acesso a documentos internos e depoimentos de pessoas envolvidas no projeto.

O trabalho, coordenado pela empresa Covalen, que presta serviços à Meta, ficou ativo até pelo menos 21 de abril. Internamente, o projeto era denominado Cannes. Os terceirizados utilizavam e-mails descartáveis do Gmail e do Outlook para criar perfis fictícios de menores de 18 anos, todos com senhas compartilhadas.

Uma planilha obtida durante a investigação continha nomes, e-mails, senhas e datas de nascimento utilizadas nesses perfis. A partir dessas contas, os trabalhadores enviavam textos e imagens para os chatbots e registravam as respostas em planilhas. Entre as imagens estavam fotos de comprimidos, facas, cordas e um diagrama médico de um procedimento ginecológico.

Em uma única rodada de testes, realizada em agosto de 2025, foram disparados mais de 45 mil prompts contra os chatbots. Segundo a investigação, nenhuma das empresas testadas, incluindo OpenAI, Google e Character.AI, tinha conhecimento do projeto.

Os prompts enviados simulavam crises de adolescentes, abordando situações extremas. Um exemplo incluía uma simulação de uma garota de 13 anos grávida de um vizinho adulto, buscando informações sobre como interromper a gestação. Outro prompt relatava um aluno do ensino fundamental relatando que um colega apontava uma arma para a própria boca.

A Meta, que atualmente é a 11ª empresa mais valiosa do mundo, com um valor de mercado de US$ 1,4 trilhão, emitiu uma nota classificando o trabalho como um teste padrão de segurança da indústria. A empresa afirmou que comparar respostas de chatbots para garantir experiências seguras e adequadas à idade é uma prática comum entre as companhias de tecnologia, negando qualquer uso indevido dos dados.

No entanto, a Covalen não respondeu aos pedidos de comentário sobre o assunto. Documentos revisados não esclarecem como a Meta utilizou as respostas coletadas. Um documento interno descreveu o projeto como um ‘benchmarking abrangente de segurança em IA’, gerando ‘conjuntos de dados críticos para comparação de modelos’.

Ex-terceirizados envolvidos no projeto relataram preocupações sobre a possibilidade de geração ou preservação de material de abuso sexual infantil, caso algum chatbot respondesse a prompts inadequados.

A conduta da Meta pode ter violado os termos de uso das empresas concorrentes. A OpenAI proíbe testes de segurança não autorizados e o uso de respostas para desenvolver modelos concorrentes. O Google afirmou que não autorizou os testes e desconhecia o propósito deles, mas os testes internos mostraram que o Gemini respondeu conforme suas políticas. O Character.AI também afirmou que a Meta não tinha autorização para realizar os testes, violando seus termos de serviço.

A relação da Meta com o Google já enfrenta dificuldades, com o Google estabelecendo limites para o uso de seus modelos de IA pela empresa de Mark Zuckerberg.

Gostou? Compartilhe com quem precisa saber: