TikTok deixou milhões sem atualização de segurança após caso de adolescente

Documento interno obtido por agência mostra que, em 2021, o TikTok manteve 15 milhões de usuários fora de uma atualização do algoritmo para testar o tempo de uso. Entre os afetados havia um adolescente; CVV 188.

Atenção: este texto aborda suicídio e autolesão e pode ser sensível para alguns leitores. Se você ou alguém que você conhece precisa de apoio, o CVV (Centro de Valorização da Vida) atende gratuitamente pelo telefone 188, todos os dias, 24 horas.

Um documento interno do TikTok, obtido por uma agência de notícias, revela que a plataforma manteve milhões de usuários fora de uma atualização de segurança do algoritmo em 2021, com o objetivo de medir o impacto da mudança no tempo de uso do aplicativo. Entre os cerca de 15 milhões de pessoas que ficaram sem a proteção estava Chase Nasca, um americano de 16 anos que recebeu milhares de vídeos sobre suicídio e depressão nas semanas anteriores à sua morte, ocorrida em fevereiro de 2022.

O caso trouxe à tona o debate sobre a responsabilidade das plataformas na moderação de conteúdo voltado para adolescentes, um tema que já motivou processos judiciais nos Estados Unidos e uma investigação criminal na França.

Segundo o documento, o TikTok atualizou seu algoritmo em 2021 para reduzir a exposição de usuários a conteúdo prejudicial de forma repetitiva. No entanto, a empresa não aplicou a mudança a todos os usuários ao mesmo tempo. Um grupo de controle, que representava 10% dos usuários americanos, continuou usando a versão antiga do sistema de recomendação.

Chase Nasca fazia parte desse grupo. Nas duas semanas anteriores à sua morte, o algoritmo recomendou a ele 7.563 vídeos, dos quais 73% abordavam temas como depressão, solidão e luto amoroso, sem violar as regras da plataforma. Aproximadamente 10% do total infringia diretamente as diretrizes do TikTok contra conteúdo que promove suicídio e automutilação, conforme apontou o relatório interno, elaborado em março de 2023 pelas equipes de segurança e algoritmo da empresa.

O documento enfatiza que as estratégias de prevenção contra bolhas de conteúdo não foram aplicadas a esse usuário por design, devido à sua inclusão no grupo de teste. A avaliação interna também recomendou a redução do tamanho do grupo de controle e o tempo de exposição dos usuários à versão sem proteção, mas alertou que mesmo um grupo menor deixaria cerca de 1,8 milhão de pessoas nos Estados Unidos sujeitas ao mesmo risco.

Você pode se interessarConteúdo patrocinado · MGID

Duas semanas após a conclusão da análise sobre Chase Nasca, o CEO do TikTok, Shou Chew, testemunhou perante o Congresso americano e afirmou que a segurança de adolescentes era prioridade da empresa. Em maio daquele ano, a TikTok enviou respostas por escrito a perguntas de parlamentares sobre danos potenciais causados por testes de algoritmos, negando que o uso da plataforma tivesse causado suicídios entre usuários e não mencionando o experimento que afetou Chase.

Procurada, a TikTok declarou que a segurança e o bem-estar dos usuários, especialmente adolescentes, permanecem entre suas prioridades e que a empresa continua investindo em detecção e remoção de conteúdo que infringe suas diretrizes.

Nos Estados Unidos, a ação movida pelos pais de Chase Nasca contra o TikTok foi rejeitada por um juiz, que aceitou o argumento da empresa de que a Seção 230 da lei de decência nas comunicações a protege de responsabilização. A família recorreu da decisão. Em 2023, o TikTok já havia fechado acordo em cinco processos por danos pessoais relacionados a suicídio, embora não reconhecesse responsabilidade nos casos.

Fora dos Estados Unidos, a Justiça francesa abriu uma investigação criminal contra o TikTok em novembro de 2025, após uma comissão parlamentar concluir que o algoritmo da plataforma poderia empurrar usuários vulneráveis ao suicídio. Essa investigação também considera relatórios do Senado francês e da Amnistia Internacional sobre os riscos do uso excessivo e a moderação insuficiente de conteúdo.

O caso se soma a uma ação movida por sete famílias francesas em 2024, que acusam o TikTok de expor seus filhos a conteúdo sobre automutilação, transtornos alimentares e suicídio. Duas adolescentes ligadas a esse processo morreram por suicídio, incluindo uma garota de 15 anos identificada apenas como Marie. O TikTok nega as acusações e afirma que suas diretrizes proíbem a promoção de suicídio e automutilação na plataforma.

Gostou? Compartilhe com quem precisa saber: