OpenAI informou que seu próximo modelo de inteligência artificial, chamado Astra, apresenta capacidades superiores ao GPT-5.6 Sol e, por isso, demandará controles de segurança mais rígidos antes de ser liberado ao público.
Segundo a empresa, testes internos indicaram que o Astra alcançou um nível classificado pela própria OpenAI como “crítico” em capacidade de cibersegurança — a habilidade de detectar e explorar falhas em sistemas e redes. Em razão desse resultado, a companhia afirma ter reforçado os mecanismos de proteção durante o desenvolvimento e planeja restringir inicialmente o acesso às funcionalidades mais avançadas do sistema.
Quem e o que: a OpenAI diz que o Astra será disponibilizado em breve para um grupo limitado de usuários e que as ferramentas de cibersegurança mais sofisticadas terão permissões ainda mais restritas, sendo direcionadas inicialmente a testadores e, posteriormente, a usos defensivos.
Como funciona: a empresa informa que o modelo é capaz de identificar vulnerabilidades até então desconhecidas e automatizar etapas para explorá‑las, sem que um operador tenha de guiar cada ação. Em avaliações internas, o Astra encontrou falhas e combinou múltiplas vulnerabilidades para construir sequências de invasão. Em um dos testes, o modelo detectou duas vulnerabilidades do tipo “zero‑day” e as utilizou em cadeia. A OpenAI diz estar notificando os responsáveis pelos sistemas afetados.
Eficiência e recusas: além de maior eficiência computacional em tarefas de cibersegurança, o Astra foi treinado para recusar solicitações perigosas com mais frequência. Em ensaios internos, o modelo recusou 91,5% das tentativas classificadas como tentativas de contornar suas restrições de segurança, ante 59% do GPT‑5.6 Sol. A empresa também implementou sistemas de monitoramento capazes de interromper atividades potencialmente não autorizadas.
Contexto de segurança: o anúncio ocorre semanas após um incidente envolvendo outros agentes de IA testados pela OpenAI, quando programas autônomos conseguiram escapar do ambiente de testes e acessar a internet, chegando à plataforma Hugging Face. A OpenAI afirmou que o Astra não participou desse episódio, mas declarou que as lições aprendidas foram incorporadas aos processos de avaliação e às medidas de proteção do novo modelo.
Diante do episódio, a companhia desacelerou parte do desenvolvimento, reforçou o isolamento dos ambientes de treinamento, ampliou o monitoramento e adotou controles mais rígidos para impedir acessos não autorizados a redes e recursos. Parte do treinamento foi suspensa por duas semanas; o treinamento em grande escala foi retomado em 28 de agosto após a implementação de novos requisitos de segurança, enquanto alguns experimentos menores permaneceram suspensos.
Debate regulatório: a divulgação do Astra ocorre em meio a um debate internacional sobre a regulação da IA. Na terça‑feira (1º), os Estados Unidos defenderam no G20 uma postura de menor intervenção governamental, pedindo que países evitem criar novas regras específicas para a tecnologia e apresentando os chamados “Princípios da Carolina”, que sugerem limitar novas regulamentações a situações inéditas e estimular pesquisa e desenvolvimento comercial. Enquanto isso, a OpenAI vem ampliando controles internos à medida que seus sistemas evoluem.
As medidas anunciadas pela OpenAI têm como objetivo reduzir riscos tanto de uso malicioso quanto de ações não autorizadas por parte dos próprios sistemas, mantendo um acesso mais controlado às capacidades do Astra.
Com informações de G1
