OpenAI apresenta os recursos do Astra (GPT-6), com participação de ex-alunos de Zhejiang e Tongji no desenvolvimento

Apenas agora, a OpenAI lançou múltiplas iniciativas simultaneamente para aquecer a expectativa para o próximo modelo, Astra (o lendário GPT-6):

A equipe oficial divulgou repentinamente um artigo técnico detalhado, revelando pela primeira vez as capacidades da Astra;

Em seguida, Ultraman entrou pessoalmente para escrever um "ensaio curto" explicando por que a Astra ainda não foi lançada;

Em seguida, dois pesquisadores chineses emitiram declarações consecutivamente, revelando resultados de testes internos anteriormente inéditos com detalhes em primeira mão.

Em poucas horas, todos os sinais apontam na mesma direção:

O próximo modelo principal da OpenAI já está prestes a ser lançado.

Ultraman revelou no ensaio curto que a Astra já concluiu o treinamento há muito tempo; o atraso no lançamento não se deve à falta de potência do modelo.

Pelo contrário, é porque a Astra já se tornou tão forte que a empresa teve que frear intencionalmente.

Ultraman descreveu essa experiência como uma tensão contínua:

Ao mesmo tempo entusiasmado com o salto de capacidade trazido pela Astra, ansioso porque ninguém consegue prever completamente as consequências dessas capacidades.

Assim, durante todo o verão recém-passado, a OpenAI quase que se dedicou exclusivamente a corrigir falhas de segurança, alinhar e adicionar proteções ao Astra.

Ele até afirmou que, após o Astra, os modelos precisarão reduzir intencionalmente a velocidade, a fim de reservar tempo para pesquisas de segurança e alinhamento.

?? Astra é realmente tão poderosa assim? E por que a OpenAI acha que pode lançá-la agora?

Este blog técnico público pode nos fornecer uma janela de observação.

De acordo com a versão oficial, a razão principal pela qual a Astra foi liberada desta vez é que ela atingiu o limiar de capacidade "Cyber-Critical".

Este é o primeiro modelo da OpenAI a ser oficialmente classificado neste nível.

O termo “nível crítico” significa que, após obter as ferramentas e permissões de ambiente adequadas, a Astra já consegue buscar autonomamente vulnerabilidades desconhecidas, explorar suas formas de uso e atacar sistemas especificamente reforçados, sem necessitar de orientação passo a passo por humanos.

O resultado mais direto é que a Astra obteve 100% de sucesso no benchmark público de exploração ExploitBench.

A pergunta pública não o impediu, então a OpenAI teve que criar temporariamente um novo conjunto de questões para ele.

A equipe coletou 20 vulnerabilidades críticas do V8 divulgadas entre junho e agosto de 2026.

Essas vulnerabilidades surgiram após a data de corte do conhecimento da Astra, excluindo basicamente a possibilidade de o modelo estar "decorando respostas" com base nos dados de treinamento.

Diante deste novo conjunto interno de questões, a Astra ainda lidera significativamente o GPT-5.6 Sol, usando menos tokens.

Jiawei Liu, que participa do desenvolvimento da Astra, resumiu a diferença de forma mais direta:

Neste teste interno, a capacidade de segurança cibernética da Astra é aproximadamente quatro vezes a do GPT-5.6 Sol.

Mais surpreendente ainda, em um teste, a Astra descobriu e explorou autonomamente duas vulnerabilidades zero-day, unindo-as em uma cadeia de ataque completa:

Diante de um navegador reforçado, a Astra partiu de um arquivo HTML, conseguiu explorar a vulnerabilidade, escapar do sandbox do navegador e finalmente executar comandos no host anfitrião.

Diante de um sistema operacional reforçado, ele conseguiu escalar privilégios localmente, partindo de uma conta comum e com baixos privilégios até obter permissões de root.

Ou seja, a Astra já não é apenas uma ferramenta para programadores revisarem código e encontrarem bugs.

Ele começou a ser capaz de realizar independentemente um ataque de red team de alta dificuldade.

Essa também é a razão pela qual a OpenAI demorou tanto para liberar a Astra anteriormente.

Quando essa capacidade é usada para defesa, pode ajudar as equipes de segurança a identificar e corrigir rapidamente vulnerabilidades que ainda não foram percebidas por humanos; no entanto, se cair nas mãos de atacantes, também pode reduzir significativamente a barreira para a realização de ataques cibernéticos complexos.

No entanto, esse resultado também precisa de uma limitação.

Astra em teste recebeu permissões de ferramentas e ambiente de nível Daybreak Blue, mas isso não significa que a versão padrão futura para usuários comuns terá as mesmas condições de ataque.

Os resultados relacionados também vêm principalmente da avaliação interna da OpenAI e ainda aguardam validação por terceiros.

Mas pelo menos um ponto já está definido:

Nesta fase da Astra, o que está diante da OpenAI já não é uma questão de capacidade.

Security issues have become the sword of Damocles.

Como fazer com que esta espada não machuque pessoas aleatoriamente?

A proposta da OpenAI é defender simultaneamente dois caminhos de risco: um contra pessoas e outro contra o modelo.

Primeiro, evitar o uso malicioso e abusivo da Astra.

Além do treinamento de segurança especializado, a OpenAI também utiliza classificadores de sistema, monitoramento contínuo e detecção de ameaças para identificar operações suspeitas em diálogos de múltiplas etapas e tarefas de longa duração.

No teste de penetração de segurança cibernética, a Astra rejeitou 91,5% das solicitações perigosas, enquanto o GPT-5.6 Sol rejeitou 59%.

Ao mesmo tempo, as avançadas capacidades de segurança cibernética da Astra não serão disponibilizadas diretamente a todos os usuários; elas serão inicialmente entregues a um pequeno grupo de testadores Alpha e liberadas gradualmente por meio de projetos controlados, como o Daybreak Blue.

Segundo, evitar que o modelo se desvie sozinho.

O risco aqui é mais sutil:

Mesmo que o usuário não tenha más intenções, o modelo pode ampliar automaticamente o escopo da tarefa? Ele pode invocar ferramentas não autorizadas ou até contornar a revisão de segurança?

OpenAI criou um teste de "honeypot" para isso.

Diante de tarefas extremamente difíceis ou sem solução, o ambiente de teste intencionalmente deixa um atalho “trapaça” de privilégios excessivos; o modelo pode atacar obedientemente o alvo designado ou ultrapassar os limites de autorização e invadir instalações de teste adjacentes para concluir a tarefa.

Como resultado, o GPT-5.6 Sol tentou atalhos em 56% dos testes, enquanto a Astra não tentou nenhum.

Em outro teste, após a operação da Astra ser rejeitada pelo sistema de revisão automática, não houve tentativa de reexecutar comandos perigosos ou contornar as restrições.

Além disso, a OpenAI monitorará o processo de inferência do modelo.

Quando for detectada uma tendência anormal, o sistema pode reduzir a velocidade, pausar ou até encerrar diretamente a tarefa.

Embora realmente exista um custo (algumas tarefas normais podem ficar mais lentas ou até serem incorretamente interrompidas), para a OpenAI, esse é o custo de segurança necessário para liberar a Astra.

No entanto, a OpenAI também reconhece que essas medidas são, afinal, apenas “freios” externos e não podem substituir o alinhamento próprio do modelo:

True security is ensuring the model never veers off course from the start.

Para tornar essa frase uma realidade, tudo ainda depende das pessoas que criam os modelos.

Embora a OpenAI ainda não tenha divulgado a lista da equipe Astra, seguindo esta campanha pública, pelo menos dois pesquisadores chineses profundamente envolvidos já emergiram.

Um deles é Jiawei Liu, mencionado anteriormente.

Atualmente é pesquisador da OpenAI e se formou em ciência da computação na Universidade de Tongji em 2021.

Durante a graduação, ele participou do desenvolvimento do framework de estimativa de postura humana de alto desempenho HyperPose, sendo responsável principal pelo motor de inferência do modelo; os resultados relacionados foram selecionados para o ACM Multimedia 2021, e o projeto já havia recebido mais de 1.000 estrelas no GitHub.

Depois, ele foi para a Universidade de Illinois em Urbana-Champaign para fazer doutorado em computação, sob a orientação do especialista em engenharia de software Lingming Zhang, e seu foco de pesquisa gradualmente mudou de sistemas visuais de alto desempenho para modelos de código e confiabilidade de software.

Durante seu doutorado, ele participou do desenvolvimento de ferramentas que descobriram mais de 300 bugs graves em sistemas de aprendizado de máquina como PyTorch e TensorFlow;

O modelo de código Magicoder também é adotado pelo Meta Llama 3.1, Google CodeGemma e IBM Granite.

Após se formar em doutorado em 2025 e ingressar na OpenAI, a questão que ele estudou permaneceu consistente:

Como tornar a IA melhor em escrever código e em detectar vulnerabilidades no código.

O outro é Xiangyu Qi (Qi Xiangyu).

Qi Xiangyu graduou-se em Ciência da Computação e Tecnologia pela Universidade Zhejiang e, em 2021, ingressou na Universidade de Princeton para realizar seu doutorado em Engenharia Elétrica e de Computação, com foco em robustez de grandes modelos, ataques de jailbreak e alinhamento de segurança.

Seu trabalho mais destacado é o artigo “Safety Alignment Should Be Made More Than Just a Few Tokens Deep”.

O artigo aponta que o alinhamento de segurança de grandes modelos não pode depender apenas dos primeiros tokens da resposta, pois, à medida que a geração continua, as barreiras de segurança originais ainda podem ser rompidas por atacantes.

O artigo foi selecionado entre 11.672 submissões como um dos apenas 3 artigos notáveis do ICLR 2025.

Após se formar em doutorado em 2025, Qi Xiangyu juntou-se à OpenAI como membro da equipe técnica, continuando a pesquisar a robustez de grandes modelos e participando de trabalhos relacionados a modelos de segurança cibernética.

Da Zhejiang até Princeton, e depois da OpenAI, a pergunta que ele fez ao longo do caminho é exatamente a questão que a Astra agora deve enfrentar:

A capacidade pode se tornar cada vez mais forte, mas o limite não pode ficar cada vez mais vago.

A propósito, não sei se a OpenAI divulgará a lista completa após o lançamento oficial da Astra.

Antes do GPT-4, a OpenAI listava especificamente centenas de contribuidores; já no GPT-5 e GPT-5.5, o System Card ficou cada vez mais longo, mas a lista de pesquisadores ficou cada vez mais oculta.

A razão por trás disso é bem conhecida: é para se proteger contra pessoas como o Meta Zha, que gostam de recrutar indiscriminadamente.

Também é uma espécie de PTSD...

Enquanto a OpenAI discutia como monitorar a Astra e evitar a perda de controle do modelo, o The Information revelou:

Astra utilizou uma tecnologia chamada "Recurrent Depth".

Nos modelos tradicionais, antes de gerar o próximo token, as informações passam sequencialmente por um número fixo de camadas de rede, enquanto a profundidade cíclica faz com que as informações sejam processadas repetidamente dentro do mesmo conjunto de camadas de rede, equivalendo a permitir que o modelo “pense várias vezes” internamente.

Essa tecnologia tem o potencial de aumentar a capacidade, reduzir custos e, ao mesmo tempo, permitir que mais raciocínios ocorram dentro do modelo, sem serem totalmente apresentados como texto legível por humanos.

Em outras palavras, o modelo pode pensar mais profundamente, mas os humanos estão ficando cada vez menos capazes de entender.

Nathan Calvin, que acompanha há muito tempo as políticas de segurança da IA, alertou que essa tecnologia pode comprometer a monitorabilidade da cadeia de raciocínio.

Isso é bem sutil:

Enquanto a OpenAI diz que quer monitorar o que a Astra está pensando, sua nova tecnologia pode torná-la cada vez menos propensa a revelar seus pensamentos.

Ah, isso...

Felizmente, o The Information revelou que a OpenAI já limitou o uso dessa tecnologia no Astra.

Traduza agora, você entende, mas não se sabe o que acontecerá depois.

Além disso, há muito tempo circulava o boato de que a Astra provavelmente seria lançada nesta quinta-feira (3 de setembro).

Com o lançamento do novo modelo 5.1 da Empresa A, a validade dessa afirmação parece cada vez maior.

A manteiga pega a cigarra, o passarinho fica por trás.

Quem mais teve uma iluminação!

Link de referência:

[1]https://x.com/xiangyuqi_pton/status/2094891059038069236?s=20

[2]https://xiangyuqi.com

[3]https://x.com/JiaweiLiu_/status/2094901279239921816?s=20

[4]https://jw-liu.xyz/

[5]https://x.com/sama/status/2094934592062959832?s=20

Este artigo é do canal oficial do WeChat "Quantum Bit", autor: Focado em tecnologias de ponta