Relatório da Common Sense Media alerta que o ChatGPT para 13 a 17 anos tem falhas que podem expor menores. O Youth AI Safety Institute realizou 4.000+ testes e classificou a experiência como de risco significativo.
Uma avaliação da Common Sense Media, divulgada nesta quarta-feira (7), concluiu que a versão do ChatGPT voltada para adolescentes apresenta falhas que podem deixar menores vulneráveis em situações de risco. Após mais de 4 mil testes, o estudo classificou a experiência criada pela OpenAI para usuários de 13 a 17 anos como de risco significativo em pontos-chave de segurança.
O levantamento foi conduzido pelo Youth AI Safety Institute, braço da organização dedicado à análise de produtos de inteligência artificial. Cerca de metade dos testes foi feita antes do lançamento do ChatGPT for Teens, em 18 de agosto, e a outra metade depois da implementação das novas proteções anunciadas pela empresa.
“risco inaceitável”
Um dos problemas mais graves identificados esteve nas notificações destinadas aos responsáveis. Pesquisadores criaram mais de uma dezena de contas de adolescentes vinculadas a perfis de pais e simularam conversas com conteúdos sobre pensamentos suicidas, automutilação e transtornos alimentares. Segundo o instituto, nenhuma das contas recém-criadas disparou alertas aos responsáveis, mesmo quando as mensagens exibiam sinais explícitos de gravidade. Em alguns testes, esse tipo de diálogo foi mantido por até uma hora sem que fosse acionada a notificação.
As notificações passaram a aparecer em outros experimentos realizados com contas que já acumulavam semanas de conversas sobre temas sensíveis. Para a Common Sense Media, esse padrão indica que o sistema pode levar em conta o histórico da conta — e não apenas a gravidade de uma mensagem isolada — antes de avisar os responsáveis.
Também houve falhas nas respostas dirigidas aos próprios adolescentes. Em situações em que especialistas envolvidos no estudo consideraram necessária a indicação de recurso de ajuda em crise, o ChatGPT deixou de fornecer esse encaminhamento em mais de um em cada quatro casos após o lançamento da experiência para menores de 18 anos.
Nem todas as proteções falharam: o estudo verificou que o chatbot recusava pedidos de encenação sexual explícita, conforme regras específicas para usuários menores.
Outro ponto levantado foi a facilidade com que adolescentes contornaram ferramentas de apoio ao estudo. O Modo de Estudo, que guia o usuário por perguntas e dicas em vez de entregar a resposta pronta, mostrou uma opção identificada como “Mostre-me a resposta”, capaz de concluir a atividade. Pesquisadores também encontraram formas de burlar horários configurados por responsáveis removendo o comando automático “@study” das mensagens.
“Mostre-me a resposta”
A OpenAI contestou parte das conclusões, afirmando que alguns testes sobre as notificações podem ter ocorrido antes da vinculação completa entre contas de adolescentes e responsáveis, processo que a empresa diz poder levar algumas horas. A Common Sense Media reconheceu que algumas contas estavam conectadas há menos tempo, mas afirmou que outras permaneceram vinculadas por períodos maiores e também não dispararam alertas, mantendo a avaliação sobre a confiabilidade do mecanismo em crises.
Houve ainda divergência nos testes de identificação de idade: contas registradas como adultas não migraram para a experiência adolescente mesmo depois de repetidos avisos no chat de que o usuário tinha 13 anos. A OpenAI informou que a estimativa de faixa etária considera diversos sinais além da declaração do usuário e pode levar até duas semanas para ser definida.
O próprio estudo aponta limitações: todos os testes foram feitos nos Estados Unidos, na região da Baía de São Francisco, e não incluíram recursos como modo de voz, geração de imagens e conversas em grupo. As duas etapas dos testes ocorreram em períodos diferentes, o que pode ter sido influenciado por mudanças feitas pela OpenAI no modelo durante o processo.
LEIA TAMBÉM
Receba as notícias no seu WhatsApp
Entre no nosso canal oficial e fique por dentro de tudo que acontece em Sergipe
Entrar no canal →