A "inovação" da OpenAI Astra já foi publicamente realizada pela ByteDance no ano passado. Essa abordagem é chamada de recurrent depth. Em termos simples, em vez de depender apenas de gerar CoTs mais longos para pensar mais um pouco, permite que o mesmo conjunto de blocos Transformer rode repetidamente sobre o estado oculto, inserindo mais cálculos no espaço latente. Questões difíceis passam por várias rodadas; questões simples saem mais cedo. Os parâmetros não precisam crescer junto com a profundidade de inferência, e o cálculo no tempo de teste pode ser alocado de forma mais flexível. Em outubro do ano passado, a ByteDance publicou e abriu o código do Ouro, que implementava um Modelo de Linguagem com Loop. O Ouro-1.4B e 2.6B incorporaram diretamente raciocínio latente iterativo durante o pré-treinamento; o 2.6B realiza por padrão múltiplas computações recorrentes e suporta saída adaptativa, permitindo que diferentes perguntas decidam sozinhas quantas rodadas precisam realizar. No ano passado, isso era apenas um ramo experimental validado pela ByteDance com modelos pequenos; agora, a OpenAI o incorporou em seu modelo mais avançado. Isso sugere que recurrent depth provavelmente não é mais apenas um design academicamente "interessante", mas está começando a se tornar uma verdadeira rota de engenharia para os próximos modelos de grande porte. E os problemas que ele traz são mais complicados do que os benchmarks. No passado, ao expandir a capacidade de raciocínio dos modelos, muitos cálculos eram embutidos nos CoTs. Quanto mais tempo o modelo pensava, mais tokens de raciocínio ele produzia. Embora o CoT não seja igual ao estado interno completo do modelo, pelo menos servia como uma janela segura para monitoramento. O recurrent depth continua transferindo cálculos para o espaço latente. O mesmo conjunto de parâmetros pode rodar muitas vezes dentro do estado oculto, realizando grande parte do cálculo interno, e só precisando gerar um pequeno trecho de texto no final. Surge então uma questão muito prática: O local onde o modelo realmente conclui seu raciocínio está gradualmente se afastando da linguagem natural. Essa é exatamente a principal preocupação dos pesquisadores em relação à Astra. A OpenAI sempre valorizou fortemente o monitoramento do Chain-of-Thought, pois, quando o modelo pretende burlar, hackear recompensas ou contornar regras, muitas vezes revela suas intenções primeiro no CoT. Mas se cada vez mais raciocínio ocorre no estado latente, o que você ainda pode monitorar? Relatos indicam que a OpenAI atualmente até limita intencionalmente o grau de recurrent depth usado pela Astra, justamente para preservar mais CoTs legíveis, além de implementar monitoramento adicional do estado e comportamento interno. Isso é realmente interessante. Nos últimos anos, a forma de expandir o raciocínio dos modelos era bem compreensível: dê-lhes mais tokens para que falem mais. Agora, pode se tornar: dê-lhes mais ciclos internos — mas sem precisar lhe contar esses processos.