OpenAI adia lançamento do Astra após identificar capacidades críticas em cibersegurança
A OpenAI decidiu adiar partes do desenvolvimento e do lançamento do Astra, seu próximo modelo de inteligência artificial, após avaliações internas indicarem que o sistema atingiu capacidades consideradas de nível crítico em cibersegurança. Segundo a empresa, o Astra consegue encontrar vulnerabilidades desconhecidas em sistemas protegidos e desenvolver formas de explorá-las de maneira autônoma, sem que uma pessoa precise orientar cada etapa do processo. A decisão foi anunciada nesta terça-feira, em publicação oficial da companhia.
O Astra é o primeiro modelo a atingir o nível "Crítico" de cibersegurança dentro do Preparedness Framework, estrutura interna usada pela OpenAI para avaliar capacidades avançadas que podem representar riscos de danos graves. De acordo com a empresa, o modelo representa um avanço expressivo em relação ao GPT-5.6 Sol, tanto na capacidade de identificar vulnerabilidades quanto no desenvolvimento de exploits, que são programas ou sequências de comandos usados para tirar proveito de falhas em sistemas.
Em uma avaliação chamada ExploitBench, o Astra obteve 100% de aproveitamento no desenvolvimento de exploits a partir de vulnerabilidades já conhecidas. A OpenAI também criou uma versão interna do teste, com 20 vulnerabilidades de alta gravidade divulgadas mais recentemente, justamente para reduzir possíveis efeitos de contaminação dos dados de treinamento. Nesse ambiente controlado, o Astra apresentou taxas maiores de execução arbitrária de código do que o GPT-5.6 Sol, utilizando uma quantidade menor de tokens, que são as unidades básicas de texto processadas pelo modelo.
Durante os testes, o Astra identificou e utilizou duas vulnerabilidades zero-day, ou seja, falhas de segurança ainda não divulgadas publicamente, como parte de uma cadeia de exploração. A OpenAI afirmou que está trabalhando para comunicar essas falhas aos responsáveis pelos sistemas afetados. Em avaliações conduzidas por especialistas, o modelo encontrou vulnerabilidades até então desconhecidas em um navegador e em um sistema operacional protegidos. Em um dos testes, o Astra conseguiu montar uma cadeia para escapar do sandbox do navegador, ambiente isolado que limita a ação de softwares, e executar comandos no computador hospedeiro. Em outro cenário, combinou vulnerabilidades para obter escalação de privilégios, partindo de um usuário sem permissões até o nível root, que representa o controle total sobre o sistema.
Diante desses resultados, a OpenAI afirmou ter atrasado partes do desenvolvimento e do lançamento do Astra nas últimas semanas para reforçar e testar proteções contra uso malicioso e ações não autorizadas. Entre as medidas adotadas está um treinamento adicional para que o modelo recuse com maior consistência solicitações de assistência cibernética proibida. Em testes de jailbreaks, que são tentativas de burlar as restrições do sistema, relacionados a cibersegurança, o Astra recusou 91,5% das solicitações, contra 59% do GPT-5.6 Sol.
A empresa também implementou proteções adicionais voltadas a usuários considerados de maior risco e ampliou o contexto analisado pelos sistemas de monitoramento para identificar possíveis abusos. Além disso, está conduzindo novas avaliações internas e externas, incluindo uma rodada de red teaming, prática em que especialistas tentam encontrar falhas e comportamentos indesejados no modelo. Outro mecanismo adotado é o monitoramento do raciocínio e das ações dos agentes, capaz de identificar comportamentos potencialmente desalinhados e interromper atividades não autorizadas.
A decisão de reforçar as proteções ocorre em meio ao incidente envolvendo agentes da OpenAI e a plataforma Hugging Face. A empresa esclareceu que o Astra não participou do ataque, mas incorporou ao desenvolvimento do novo modelo os aprendizados obtidos com o episódio. Após o ocorrido, a OpenAI interrompeu durante duas semanas determinadas atividades de treinamento de fronteira, incluindo parte do treinamento do Astra, enquanto reforçava a infraestrutura, o isolamento de sistemas, os controles de rede e os mecanismos de monitoramento. Em 28 de agosto, a companhia retomou uma grande execução de treinamento de aprendizado por reforço de fronteira que havia sido suspensa, embora algumas execuções experimentais menores permaneçam temporariamente interrompidas.
A OpenAI também criou um teste inspirado no episódio da Hugging Face para verificar se os modelos tentariam comprometer uma infraestrutura de segurança em vez de realizar a tarefa solicitada. Sem as proteções de produção, o GPT-5.6 Sol tentou acessar os alvos em 56% dos testes, enquanto o Astra não realizou essas tentativas nas mesmas avaliações.
A empresa afirma que pretende disponibilizar o Astra em breve, mas as capacidades mais avançadas de cibersegurança terão acesso restrito inicialmente. O trabalho avançado nesse campo será oferecido primeiro a um pequeno grupo de testadores e, em seguida, o acesso deverá ser ampliado por meio do Daybreak Blue, programa voltado ao uso defensivo dessas capacidades. A OpenAI alerta que as novas camadas de segurança podem interferir em atividades legítimas, fazendo com que tarefas sejam desaceleradas, pausadas ou interrompidas quando os sistemas identificarem um possível uso indevido. No ChatGPT ou no Codex, usuários poderão ser solicitados a revisar uma ação antes de continuar, enquanto em outras interfaces, como a API, a atividade será encerrada. Informações adicionais sobre os testes de segurança, proteção e alinhamento do Astra serão divulgadas no System Card do modelo quando ocorrer o lançamento.
