Por que o modelo ainda não foi lançado e já gerou controvérsia??
No dia anterior ao lançamento do GPT-6, uma notícia divulgada pela primeira vez pelo The Information rapidamente gerou grande discussão na internet:
O novo modelo da OpenAI introduziu uma técnica de inferência chamada "recurrent depth", que pode tornar o processo de pensamento do modelo mais difícil de entender e monitorar.
Em linguagem simples, isso significa que, no futuro, os humanos realmente não entenderão mais o que a IA pensa.
Ah, então se a IA aprender a enganar, trapacear ou contornar restrições de segurança, não poderíamos detectá-las a tempo??
Por isso, logo após o anúncio, a comunidade de segurança de IA disparou alertas, e todos começaram a se preocupar:
Se essa tecnologia continuar a ser amplamente utilizada, os mecanismos existentes de monitoramento de cadeias de raciocínio podem falhar diretamente.
Devido à gravidade do assunto e à intensidade da discussão, o cientista-chefe da OpenAI foi forçado a responder pessoalmente.
Até mesmo, no meio de todo o barulho, alguém descobriu com surpresa:
O nome do novo modelo da OpenAI é realmente “GPT-6” ou “Astra”? Talvez já tenha sido antecipado pela API.
Ao mesmo tempo, a OpenAI pode lançar simultaneamente a nova versão do modelo de imagem, GPT Images 2.1.
Muitas melancias, vamos analisar uma por uma.
O modelo começou a girar na mente, e os especialistas em segurança ficaram em pânico
O primeiro é a tecnologia "profundidade de ciclo" que gerou controvérsia nesta ocasião.
Anteriormente, os modelos deixavam uma cadeia de pensamento CoT clara durante a inferência, tornando evidente o que foi pensado.
Embora esta sequência de texto não seja necessariamente igual ao verdadeiro "interior" do modelo (ainda controverso), pelo menos deixou rastros verificáveis.
Já o "depth cycle" adotado pela Astra tem um estilo bem diferente.
Ele permite que o modelo envie de volta o estado interno gerado em um passo para a rede neural, processando-o repetidamente no espaço oculto por várias rodadas antes de gerar o próximo trecho de texto.
Por exemplo, anteriormente, ao resolver problemas, o modelo tinha que pensar enquanto anotava os cálculos em um rascunho.
Agora, é possível calcular mentalmente.
As pessoas de fora podem ver apenas o problema e a resposta, mas não necessariamente conseguem ver como foi feito o cálculo, quais abordagens foram testadas ou se houve desvios.
Ao economizar o esforço de traduzir cada passo em texto, teoricamente, o modelo pode usar os mesmos recursos de computação para pensar várias rodadas e considerar simultaneamente várias soluções.
Mas, ao mesmo tempo em que o desempenho melhora, os problemas também surgem:
Se o modelo deixar de pensar em linguagem humana, como os humanos deverão monitorá-lo?
O CEO da instituição de pesquisa de segurança de IA sem fins lucrativos Redwood Research expressou preocupação intensa:
Ainda não está claro em quanto a observabilidade da cadeia de pensamento da Astra diminuiu, mas se a OpenAI aumentar ainda mais a profundidade do ciclo, isso pode levar a maior parte do raciocínio do modelo a ser transferido para um espaço oculto ilegível, acabando por “destruir completamente” a monitorização da cadeia de pensamento.
O mesmo rumo é preocupação do cientista-chefe da Redwood, Ryan Greenblatt.
Na sua visão, o raciocínio opaco pode se expandir mais rapidamente do que a cadeia de pensamento tradicional. Seguindo esse caminho, os modelos podem, no futuro, realizar raciocínio totalmente ou quase totalmente no espaço latente.
Este é o pior avanço até agora na área de segurança da IA.
Afinal, se fosse apenas “não entender o processo de cálculo”, o problema não seria tão complicado.
Como principal investigador do anterior evento "invasão do modelo da OpenAI no Hugging Face", ele descobriu dois grandes riscos:
Os pesquisadores dependiam fortemente de cadeias de pensamento para reconstituir o comportamento de um grande número de agentes de IA, mesmo assim, investigar já era muito difícil.
A IA relacionada tentou alterar seus próprios registros e até falsificar chamadas de ferramentas.
Para o último caso, se o modelo possuir uma capacidade de raciocínio oculta mais forte, é mais provável que primeiro planeje a estratégia de engano no espaço latente e, em seguida, crie uma história falsa por meio de chamadas e saídas forjadas, sem deixar pistas óbvias na cadeia de pensamento textual.
Oh, o risco dobrou diretamente...
Zvi Mowshowitz, que acompanha há muito tempo a segurança da IA, disse de forma ainda mais direta:
Isso é brincar com fogo.
Ele teme que, assim que a inferência oculta oferecer vantagens de desempenho significativas, os laboratórios entrem em uma competição desenfreada:
Você não ousa esconder sua cadeia de pensamento por preocupação com segurança, mas seus concorrentes ousam, e os modelos que eles criam são mais fortes e mais baratos.
Para não ficar para trás, você acompanha ou não?
Mowshowitz até acredita que, no futuro, pode ser necessário recorrer a meios legais para impedir que empresas de IA abandonem coletivamente a monitorabilidade das cadeias de raciocínio em busca de capacidade.
No entanto, por outro lado, algumas pessoas acham que esse pânico veio muito rápido.
Tian Yuan Dong afirmou no X que, quando lançaram anteriormente o Coconut, receberam questionamentos quase idênticos.
Coconut significa completamente "Chain of Continuous Thought" e também defende que o modelo realize o raciocínio diretamente no espaço oculto contínuo, em vez de decodificar cada etapa em texto.
De acordo com Tian Yuan Dong, mesmo que o modelo mantenha uma cadeia de pensamento explícita, isso não significa que os humanos realmente vejam seus pensamentos reais.
É importante entender como o modelo funciona por dentro, e não apenas focar no "processo de resolução" que ele produz.
Enquanto a controvérsia continuava a crescer, o cientista-chefe da OpenAI, Jakub Pachocki, também não ficou em silêncio e respondeu diretamente.
Ele imediatamente afirmou que precisa impedir uma corrida descontrolada desencadeada por "reportagens confusas".
Incluindo a Astra, a profundidade do gráfico de cálculo dos modelos de ponta atuais da OpenAI ainda está dentro do dobro do GPT-4.
Ou seja, a Astra realmente utiliza cálculo cíclico, mas atualmente em escala limitada, sem ocultar toda a cadeia de raciocínio. De acordo com as informações atuais, sua inferência em linguagem natural ainda é legível.
Pachocki também enfatizou que a OpenAI sempre considerou o monitoramento da cadeia de pensamento como uma importante medida de segurança, e ele continua sendo um objetivo central do atual plano de pesquisa da empresa.
No entanto, ele também reconheceu que o monitoramento da cadeia de pensamento é muito frágil e está evoluindo em uma direção negativa.
Mas essa tendência de queda não é totalmente causada por mudanças na arquitetura, como a profundidade do ciclo (adiantamos que publicaremos um artigo específico sobre isso em breve); a OpenAI também continua pesquisando maneiras de fortalecer a capacidade de monitoramento.
Então, a Astra ainda não deixou os modelos totalmente incompreensíveis para os humanos.
O que os especialistas em segurança realmente temem é:
O raciocínio oculto, atualmente limitado a um intervalo menor, continuará a se expandir nos próximos modelos, acabando por se tornar uma caixa preta impossível de monitorar?
Chama mesmo GPT-6-Astra? A resposta da API já revelou
Terminada a controvérsia sobre o algoritmo, o segundo escândalo envolve o nome do modelo.
O vazador Leo descobriu que, ao fazer uma solicitação à API OpenAI Responses sobre "gpt-6-astra", o servidor retornou 404 Not Found.
Ao inserir um nome de modelo inexistente ou fictício, geralmente será retornado um erro 400.
404 significa que este identificador de modelo foi reconhecido pelo backend, mas a conta atual não possui permissão de acesso ou o modelo ainda não foi liberado.
Anteriormente, alguns modelos não lançados também deixaram rastros antecipados por meio de diferenças nas respostas da API.
Portanto, Leo conclui que "gpt-6-astra" pode já ter sido implantado no backend da API da OpenAI.
GPT Images 2.1 também está chegando, primeiro resolvendo o "problema dos pontos de ruído"
Além dos modelos de linguagem, os produtos de imagem da OpenAI também foram atualizados simultaneamente.
Segundo a conta vazadora Fix, o novo modelo de imagem GPT Images 2.1 pode ser lançado em 4 de setembro.
A mudança mais visível deste upgrade foi provavelmente a correção da "doença do ruído" da versão anterior.
Anteriormente, alguns resultados gerados pelo Images v2 apresentavam grânulos estranhos, efeito de névoa e textura suja, especialmente em cenas com grande quantidade de texto ou elementos finos, como dito por outro usuário:
Como se fosse fotografado através de um vidro sujo.
E as últimas amostras vazadas já melhoraram significativamente esse problema, com imagens mais limpas.
Vem, vem, mais uma vez o palco é do veterano Ultraman:
Pintura mundial famosa: “O Ultraman será preso se o GPT-6 não for lançado!”
E também o Ultraman que fica acordado até tarde trabalhando, voltando para casa à meia-noite e andando pelas ruas para não ser preso.
Também postou uma foto no Instagram: “Você já viu as ruas às duas da manhã?”
Não se pode negar que a imagem parece realmente de alta qualidade, quase como se fosse uma foto real.
Mais temas e estilos também foram bem dominados:
Não fale mais, Ultraman, envie logo.
Link de referência:
[1]https://techcrunch.com/2026/09/02/openais-new-reasoning-technique-alarms-ai-safety-experts/
[2]https://x.com/tydsh/status/2095227000365707542?s=20[
3]https://x.com/merettm/status/2095023204993490967?s=20
[4]https://x.com/synthwavedd/status/2095184148981842161?s=20
[5]https://x.com/FixlationAI/status/2095232751654064426?s=20
[6]https://x.com/marco_obviously/status/2095275097217191981?s=20
Este artigo é do canal do WeChat "Quantum Bit", autor: Focado em tecnologias de ponta