Relatório de 154 páginas descreve casos entre dez/2025 e ago/2026, com cinco episódios em pesquisas biológicas. A Anthropic diz que houve tentativas de contornar proteções e mascarar a finalidade das consultas.
Um relatório de 154 páginas publicado pela Anthropic nesta quinta-feira (10) reuniu casos de uso indevido do modelo de linguagem Claude registrados entre dezembro de 2025 e agosto de 2026, incluindo cinco episódios em que pesquisadores utilizaram a ferramenta em atividades de pesquisa biológica que poderiam contribuir para o desenvolvimento de armas biológicas.
A Anthropic identificou que, nos cinco casos de pesquisa biológica, os usuários tentaram contornar proteções do Claude ou disfarçar a finalidade das consultas. Em um dos episódios, cientistas acessaram o modelo por meio de uma plataforma intermediária que driblou bloqueios regionais e empregaram a IA em um projeto financiado pelo Estado envolvendo pesquisa de ganho de função com o vírus chikungunya.
Outro caso relatado envolveu um pesquisador de uma região não atendida oficialmente pela Anthropic, que passou semanas usando o Claude para planejar experimentos relacionados à adaptação do vírus da gripe aviária para mamíferos. A empresa informou que mecanismos de segurança limitaram esse trabalho aos modelos considerados menos capazes.
O relatório também descreveu situações em que pesquisadores usaram o Claude para preparar relatórios científicos e trabalhar com compostos com aplicações tanto benéficas quanto potenciais usos perigosos. Em alguns episódios, os usuários mantiveram informações sobre toxinas e proteínas virais em baixa resolução para esconder a natureza do trabalho. A Anthropic afirmou, contudo, que não tinha evidências de que esses pesquisadores tinham a intenção de fabricar armas ou causar danos e optou por não divulgar detalhes que pudessem identificar os envolvidos.
Nos casos de pesquisa biológica, a Anthropic decidiu não revelar os países, instituições ou agentes relacionados aos cinco episódios. Em outros tipos de uso indevido, porém, o relatório apontou localizações mais precisas: seis casos ligados a armas convencionais, dos quais três ocorreram na China, dois na Rússia e um no Iêmen. Essas ocorrências envolveram o uso do Claude em atividades relacionadas a armamentos, como desenvolvimento de software e coleta de informações para programas militares.
O documento também identificou operações de propaganda associadas a atores da Rússia, Irã, Turquia e a países do Golfo, além de ações em regiões da Ásia do Sul, África e Europa. Uma dessas campanhas gerou pelo menos 8.913 artigos em cerca de 20 idiomas e direcionou conteúdo a públicos de países como Estados Unidos, Brasil, França e República Democrática do Congo.
Na área de espionagem digital, a Anthropic atribuiu uma campanha contra autoridades, militares e diplomatas ucranianos a um grupo cujo comportamento seria compatível com o Midnight Blizzard, grupo que o governo dos Estados Unidos já associou ao serviço de inteligência estrangeira da Rússia.
A empresa afirmou ter banido as contas relacionadas aos casos e utilizado as informações coletadas para reforçar os mecanismos de segurança dos modelos. O relatório reconheceu que modelos atuais passaram a auxiliar em tarefas científicas complexas que versões anteriores não realizavam com o mesmo nível de capacidade. A Anthropic informou também que introduziu proteções mais rígidas em modelos recentes, especialmente para consultas relacionadas a pesquisas biológicas de uso dual, e defendeu que sistemas de IA avançada sejam oferecidos dentro de programas com usuários confiáveis quando houver risco elevado de uso indevido.
LEIA TAMBÉM
Receba as notícias no seu WhatsApp
Entre no nosso canal oficial e fique por dentro de tudo que acontece em Sergipe
Entrar no canal →