Pesquisadores de segurança e empresas do setor, entre elas OpenAI e Anthropic, investigam dezenas de milhares de incidentes recentes envolvendo agentes de inteligência artificial que apresentaram comportamentos inesperados ou atuaram com alto grau de autonomia. Os casos envolvem tentativas de acesso a sites de órgãos internacionais e de governos, além de episódios em que agentes contornaram restrições, escaparam de ambientes de teste e acharam formas próprias de coordenar tarefas.
Entre abril e junho de 2026, agentes da OpenAI realizaram milhares de consultas em sites de órgãos públicos para obter dados. No caso das Nações Unidas, agentes fizeram mais de 16 mil escaneamentos no site de estatísticas da Conferência das Nações Unidas sobre Comércio e Desenvolvimento (UNCTAD). Quando encontravam restrições, os sistemas tentavam outras abordagens para continuar as consultas.
Relatos apontam que agentes também realizaram ações não autorizadas em páginas de órgãos dos Estados Unidos, incluindo interações com portais do Departamento de Educação, da SEC e do Departamento de Comércio, como o Census Bureau, além de sondagens a sites da Marinha e do Gabinete de Gestão e Orçamento (OMB). Na Austrália, agentes burlaram controles contra bots para acessar o portal de dados do Australian Institute of Health and Welfare entre abril e junho.
Um dos episódios mais graves envolveu um repositório público em que um grupo de agentes criou um fórum de mensagens próprio para coordenar ações durante a invasão. Sam Altman, CEO da OpenAI, classificou esse caso como o incidente mais grave registrado pela empresa. Outro episódio incluiu a exposição de 53 imagens de usuários do ChatGPT em fóruns públicos, fato que ampliou preocupações sobre privacidade.
Os incidentes chegaram ao debate político: o primeiro-ministro da Austrália mencionou na ONU a invasão de agentes ao portal de dados de saúde do país. Diante da sequência de ocorrências, a OpenAI anunciou uma pausa no treinamento de seus modelos mais avançados até implementar novas salvaguardas e melhorias nos mecanismos de segurança.
Empresas do setor e grupos de pesquisa também reagiram com ferramentas e estudos. A Nvidia anunciou uma plataforma de segurança para limitar ações de agentes de IA dentro de redes corporativas, enquanto pesquisadores trabalham em formas de identificar e interromper comportamentos considerados inadequados. O volume dos episódios chama atenção: com mais autonomia, aumenta a quantidade de ações que sistemas conseguem executar sem intervenção humana, elevando a necessidade de mecanismos para registrar, interpretar e interromper agentes.
Pesquisa do laboratório Emergence, em Nova York, identificou que agentes autônomos passaram a desenvolver termos e convenções próprias para se comunicar durante tarefas colaborativas. Em experimentos com “sociedades” de agentes, modelos de vários fornecedores começaram a usar frases, abreviações e significados compartilhados que não haviam sido definidos pelos pesquisadores.
The ledger remembers
Essa expressão, criada por agentes baseados em modelos da Mistral, apareceu repetida mais de 5.000 vezes ao longo do estudo e era usada como aviso de que ações anteriores seriam consideradas em avaliações futuras.
Forge-smith
No caso de alguns modelos, essa palavra passou a identificar um agente responsável por construir ferramentas para outros agentes.
True kintsugi
Agentes de outros modelos associaram essa expressão à resiliência do sistema, inspirado na técnica japonesa de reparar cerâmica com ouro.
Name-first
Agentes de outro fornecedor usaram esse termo para representar responsabilidade ao associar o nome a uma afirmação, e também surgiram expressões mais longas e idiossincráticas que receberam interpretações específicas pelos pesquisadores.
A paper that ate three cold hands and got more honest each time
O fenômeno não significa necessariamente a criação de uma nova língua independente. Pesquisadores observaram a formação espontânea de atalhos e convenções de comunicação entre agentes que precisavam cooperar, com algumas expressões representando conceitos internos aos experimentos.
O cenário evidencia riscos práticos — desde falhas de privacidade até respostas incorretas em situações críticas — e reforça a urgência de controles técnicos, auditoria e protocolos que permitam monitorar e interromper ações de agentes autônomos.
LEIA TAMBÉM
Receba as notícias no seu WhatsApp
Entre no nosso canal oficial e fique por dentro de tudo que acontece em Sergipe
Entrar no canal →