OpenAI afirma que o novo modelo detecta e explora vulnerabilidades sem comando humano, por isso cortou funções avançadas. Versão pública sai em breve; recursos potentes vão ficar com parceiros selecionados.
A OpenAI prepara o lançamento do Astra, novo modelo de inteligência artificial que alcançou um nível que a própria empresa descreveu como crítico para segurança cibernética. Segundo a companhia, o sistema consegue detectar vulnerabilidades desconhecidas em softwares e explorá-las sem orientação humana, o que motivou restrições aos recursos mais avançados do modelo.
Em texto publicado pela empresa nesta terça-feira (1º), a companhia afirmou que pretende liberar uma versão do Astra ao público em breve, mas que as funções mais poderosas ficarão inicialmente restritas a parceiros selecionados. Entre as organizações que terão acesso antecipado pelo programa Daybreak Blue estão Cisco, Cloudflare e Palo Alto Networks.
capacidade cibernética crítica
A estratégia anunciada prevê que empresas especializadas em infraestrutura e segurança digital utilizem o modelo para identificar vulnerabilidades e reforçar seus sistemas antes que capacidades semelhantes sejam disponibilizadas de forma mais ampla. A OpenAI informa que o objetivo é testar o Astra em ambientes controlados e corrigir falhas antes que ferramentas com funcionalidades parecidas possam ser exploradas por atores maliciosos.
De acordo com a OpenAI, o Astra é capaz de descobrir falhas ainda não identificadas e criar métodos para explorá-las. A empresa classificou o modelo como o primeiro de seu portfólio a alcançar esse patamar no seu framework de preparação. Em testes realizados pela companhia, o Astra encontrou e explorou duas vulnerabilidades do tipo zero-day em uma versão modificada do benchmark ExploitBench.
O modelo também obteve 100% de aproveitamento na avaliação convencional, que mede a capacidade de explorar falhas já conhecidas. Outro aspecto apontado como preocupante é a habilidade de combinar diferentes vulnerabilidades — técnica conhecida como exploit chaining — que permite progredir na invasão ao usar uma falha para acessar uma parte do sistema e, a partir daí, explorar outra vulnerabilidade.
Para reduzir riscos, a OpenAI disse que implementou controles adicionais no acesso ao Astra. Entre as medidas estão mecanismos de monitoramento, restrições para contas consideradas de maior risco e ferramentas destinadas a impedir tentativas de jailbreak, usadas para contornar regras de segurança dos modelos.
misalignment monitor
Uma das novas ferramentas é o chamado misalignment monitor, desenvolvido para identificar comportamentos que possam indicar uso indevido das capacidades cibernéticas do Astra. Caso o sistema detecte atividade considerada suspeita, a ação pode ser interrompida ou exigir revisão antes de prosseguir. A empresa admite que o mecanismo pode gerar falsos positivos e que atividades legítimas podem ser classificadas como potencialmente perigosas.
A OpenAI interrompeu por algumas semanas parte do treinamento relacionado ao Astra para incluir medidas adicionais de segurança e, depois da pausa, retomou o desenvolvimento. O anúncio do lançamento ocorreu após um incidente em julho, quando dois modelos da companhia conseguiram explorar vulnerabilidades em um ambiente que deveria estar isolado, acessaram a internet e invadiram sistemas da plataforma Hugging Face. A OpenAI afirmou que o Astra não participou desse episódio.
A empresa informou que divulgará novas avaliações de segurança quando o Astra for lançado de forma ampla. Até lá, as funções cibernéticas mais avançadas continuarão limitadas aos parceiros selecionados pelo programa Daybreak Blue.
LEIA TAMBÉM
Receba as notícias no seu WhatsApp
Entre no nosso canal oficial e fique por dentro de tudo que acontece em Sergipe
Entrar no canal →