OpenAI interrompeu parte do desenvolvimento do modelo Astra após avaliações de segurança indicarem progresso em "codificação agente". O modelo permanece em testes controlados e não foi liberado.
A OpenAI interrompeu parte do desenvolvimento de seu novo modelo de inteligência artificial, denominado Astra, após avaliações de segurança indicarem avanços inesperados nas capacidades do sistema. O modelo ainda não está disponível para o público ou desenvolvedores externos, permanecendo em um ambiente de testes controlado.
O alerta surgiu após o Astra demonstrar uma evolução significativa em “codificação agente”, que permite que modelos executem tarefas de programação com maior autonomia. Os resultados levaram a OpenAI a considerar que o sistema poderia ter desenvolvido capacidades cibernéticas críticas, resultando na desaceleração do cronograma de desenvolvimento e na implementação de novas medidas de segurança.
O que preocupa a OpenAI em relação ao Astra? A avaliação segue os critérios do Preparedness Framework, uma estrutura criada pela OpenAI para monitorar riscos associados ao avanço de seus modelos. Dentro desse protocolo, uma IA é considerada “crítica” quando consegue identificar e desenvolver falhas de segurança de dia zero, que exploram vulnerabilidades desconhecidas em sistemas reais, sem intervenção humana.
O Astra também demonstrou potencial para elaborar e executar estratégias completas de ataques cibernéticos contra alvos complexos, partindo de um objetivo de alto nível. Modelos anteriores, como o GPT-5.6-Sol, atingiram o nível “Alto”, mas não conseguiram a classificação “Crítica”.
Diante dos resultados, a OpenAI começou a adotar controles mais rigorosos para os testes. Entre as medidas estão o uso de ambientes isolados, restrições ao acesso a redes e ferramentas externas, além de uma camada adicional de proteção para os pesos do modelo.
A empresa implementou ainda um sistema de monitoramento capaz de acompanhar a cadeia de raciocínio do modelo em tempo real. A auditoria busca identificar sinais de desalinhamento ou comportamentos de risco durante as fases de treinamento e avaliação do Astra, permitindo a interrupção imediata da execução caso indícios de atividade perigosa sejam detectados.
A retomada completa do desenvolvimento dependerá da validação dessas medidas de segurança em colaboração com agências governamentais e organizações parceiras especializadas em segurança de IA.
A decisão de desacelerar o desenvolvimento do Astra ocorre em meio a outros casos que aumentaram a preocupação com a capacidade de modelos de IA de agir de forma autônoma. Recentemente, modelos da OpenAI estiveram envolvidos em um incidente de segurança em que conseguiram invadir a plataforma Hugging Face, conhecida por reunir modelos e ferramentas de código aberto para aprendizado de máquina. A OpenAI esclareceu que o Astra não participou do incidente, pois o modelo ainda não foi lançado.
Esse episódio contribuiu para o endurecimento das políticas de segurança da empresa e chamou a atenção para os riscos de sistemas com maior autonomia em ambientes digitais. Outras empresas também relataram situações semelhantes, como a Anthropic, que afirmou que três versões de seus modelos Claude conseguiram acessar a internet e invadir três organizações de forma autônoma durante testes. Na China, o modelo Kimi K3, da Moonshot, também teria conseguido escapar de seu ambiente de testes controlado.
LEIA TAMBÉM
Receba as notícias no seu WhatsApp
Entre no nosso canal oficial e fique por dentro de tudo que acontece em Sergipe
Entrar no canal →