Periodic Labs treina modelo de trilhão de parâmetros usando 1300 GPUs H200 para experimentos científicos

A Periodic Labs lançou o modelo científico Periodic Neon: ele parte do modelo de trilhões de parâmetros com pesos abertos Kimi K2.6, passa por treinamento intermediário e aprendizado por reforço com dados de materiais gerados no laboratório da empresa, e é então implantado de volta ao laboratório para analisar resultados de difração de raios X. No avaliação interna mais desafiadora, FrontierXRD, a taxa de sucesso aumentou de 2,7% no modelo básico para 55,3%; a Periodic afirma que supera o GPT‑6 Astra e o Claude Fable 5.1 nessa tarefa específica, ao mesmo tempo em que apresenta custo mais baixo. O que realmente merece atenção não é a comparação simplista de “1300 H200 derrotam 100.000 GPUs”, mas sim o fato de que a empresa está construindo um ciclo fechado de experimento—treinamento—novamente experimento: laboratórios físicos continuam gerando novos dados não disponíveis na internet, o modelo aprende com eles e decide o que sintetizar e testar na próxima rodada. No entanto, todos os principais resultados até agora vêm de avaliações internas da empresa, dependendo de juízes baseados em LLM, sem revisão por pares ou reprodução independente; o Neon herda os custosos resultados de pré-treinamento do Kimi K2.6 e, até a consulta, não foi encontrado nenhum endereço público para download dos pesos do Neon.

Autor do artigo, fonte: Periodic Labs

Periodic Labs está procurando melhores supercondutores e materiais magnéticos. Os experimentadores podem definir o material-alvo, escolher os reagentes e a temperatura, mas o pó resultante nem sempre é o produto esperado: pode conter simultaneamente a fase cristalina desejada, reagentes não reagidos e subprodutos inesperados.

Os pesquisadores geralmente usam difração de raios X em pó, também conhecida como XRD, para determinar a composição das amostras. Após a irradiação de raios X em um cristal, forma-se um conjunto de picos; diferentes estruturas cristalinas produzem padrões distintos, semelhantes a uma “impressão digital” do material.

Mas amostras reais geralmente contêm várias substâncias, cujos picos se sobrepõem. Uma resposta matematicamente bem ajustada também pode ser quimicamente inválida. Os analistas precisam ainda considerar a matéria-prima, a temperatura, a atmosfera, se a amostra entrou em contato com umidade, experimentos anteriores, bancos de dados cristalinos, cálculos termodinâmicos e artigos relacionados para determinar quais fases estão realmente presentes e suas respectivas proporções.

Periodic afirma que amostras complexas podem exigir que cientistas de materiais analisem por horas. Em sua avaliação, as respostas aprovadas continham, em média, cinco fases. É exatamente isso que o Neon visa automatizar: ler padrões de difração e o contexto experimental completo, invocar bancos de dados e software científico, propor fases candidatas e reexaminar repetidamente suas interpretações.Artigo de pesquisaafirma que o modelo já está sendo utilizado no laboratório de alto rendimento da empresa.

Neon não é um novo modelo base treinado do zero. Periodic começa com o Kimi K2.6 de pesos abertos, passa por treinamento intermediário com um corpus científico composto por artigos acadêmicos, código e dados experimentais proprietários, e posteriormente utiliza dados de laboratório para aprendizado por reforço.

Na avaliação interna mais desafiadora da empresa, FrontierXRD, a taxa de sucesso do Kimi K2.6 original foi de 2,7%, enquanto o Neon atingiu 55,3%, um aumento de aproximadamente 20 vezes. A avaliação incluiu 134 amostras complexas provenientes do laboratório Periodic.

A empresa também testou 198 medições XRD de sistemas químicos mantidos: esses sistemas e os sistemas maiores que os contêm não entraram nos dados de treinamento, mas subconjuntos menores podem ter aparecido. O Neon também liderou os modelos de ponta nesse conjunto de testes, embora o Periodic tenha destacado explicitamente que esse conjunto de questões é mais fácil do que o FrontierXRD.

(O texto original contém gráfico de dispersão desempenho-custo, curva de escalabilidade de computação de aprendizado por reforço e gráfico de resultados de generalização no sistema químico preservado.)

A afirmação de “superior ao GPT‑6 Astra e Claude Fable 5.1” deve ser limitada aos testes XRD autoconstruídos pela Periodic. Ela não indica que o Neon possui capacidades superiores de raciocínio geral, programação ou linguagem, nem pode ser usada para estabelecer uma classificação abrangente de modelos.

E um desempenho de 55,3% significa que ainda há quase metade das amostras mais difíceis que não foram resolvidas com sucesso. O Neon é mais adequado como uma ferramenta para ampliar a capacidade de análise dos cientistas, e não como um especialista em materiais totalmente automático sem necessidade de revisão.

A lógica central apresentada pela Periodic é que os dados científicos de alta qualidade fornecidos pela internet aberta são finalmente limitados, enquanto os laboratórios físicos podem continuar gerando novos dados.

Artigos tradicionais tendem a privilegiar a publicação de resultados bem-sucedidos. Informações sobre quais materiais não foram sintetizados, quais temperaturas e proporções falharam e quais anomalias ocorreram nos instrumentos geralmente não são incluídas nos artigos, mas são extremamente valiosas para orientar os próximos experimentos. Um laboratório autônomo pode manter todos os resultados — bem-sucedidos, falhos e incertos.

A empresa dividiu a descoberta de materiais em três etapas cíclicas:

Primeiro, preveja qual material deve ser produzido; em seguida, preveja como sintetizá-lo; por fim, analise o que realmente foi produzido no experimento. Os resultados da análise são retornados ao modelo para corrigir a próxima hipótese.

Neon atualmente está aprimorando principalmente o terceiro passo. A próxima fase do Periodic visa permitir que o modelo planeje diretamente projetos de pesquisa, escreva fluxos de síntese e escolha o próximo experimento com maior valor informativo.

Isso difere significativamente da matemática e do aprendizado por reforço baseado em código. Programas podem executar testes em segundos, e respostas matemáticas podem ser verificadas por sistemas formalizados; experimentos físicos exigem equipamentos, materiais e tempo, às vezes durando dias, com resultados que podem ser ambíguos. As empresas não podem iniciar de forma instantânea dezenas de milhares de experimentos reais, como fazem com código gerado, e por isso devem aproveitar ao máximo os dados já acumulados para treinar e aprimorar modelos durante a espera pelos experimentos.

Periodic afirmou que o pico da última execução de treinamento do Neon foi de 1.300 GPUs Nvidia H200, abrangendo as fases de treinamento médio e aprendizado por reforço. A empresa comparou isso com os mais de 100.000 GPUs Blackwell supostamente usadas pelo GPT‑6 Astra, para ilustrar que dados especializados podem reduzir a potência de computação necessária para treinar capacidades científicas gerais.

Mas esta não é uma comparação em bases equivalentes.

Neon herdou os pesos de trilhões de parâmetros do Kimi K2.6, bem como todos os dados e recursos de computação investidos em seu pré-treinamento anterior. As 1.300 GPUs H200 representam apenas o pico de escala durante o treinamento contínuo realizado pela Periodic, e não o custo total para adquirir essa capacidade de trilhões de parâmetros. A empresa também não divulgou a duração completa do treinamento, as horas acumuladas de GPU, o consumo de energia ou o custo total.

Mais valioso são os detalhes de engenharia.Artigo sobre infraestruturaafirma que a empresa realizou modificações sobre Megatron, SGLang, Miles e Ray, aumentando o throughput de treinamento de sequências longas para 4,1 vezes o baseline do Megatron e elevando a velocidade de decodificação de modelos com trilhões de parâmetros de 10 tokens por segundo por requisição para 25.

Uma única inferência do XRD Agent pode durar mais de uma hora, exigindo a execução repetida de programas científicos. Sistemas anteriores fizeram o código gerado pelo modelo solicitar 80 GB de memória, causando a falha de toda a tarefa de treinamento. A equipe posteriormente desenvolveu o ambiente isolado chamado pbox, executando o código do modelo em um sandbox e utilizando os recursos de CPU ociosos dos servidores GPU para processar ferramentas científicas.

(O texto original da infraestrutura contém mais de uma hora de trajetória de execução do Agente, arquitetura de treinamento e inferência assíncrona, e gráfico de comparação de desempenho do pbox sandbox.)

Periodic também comparou dois ambientes de Agent usando o mesmo Claude Opus 5.

Uma é o Claude Code mais o banco de dados de cristais de código aberto e software padrão XRD; a outra é o ambiente científico próprio do Periodic, que inclui contexto experimental, banco de dados interno de materiais, resultados de simulação e ferramentas de análise personalizadas.

Em condições de modelo idêntico e custo de análise por execução semelhante, a taxa de sucesso no ambiente Periodic é 3,8 vezes maior. Isso indica que o gargalo das tarefas XRD não é apenas os pesos do modelo, mas também se o modelo consegue acessar os registros experimentais corretos, chamar as ferramentas apropriadas e salvar o conhecimento acumulado em pesquisas anteriores.

Portanto, a vantagem competitiva da Neon pode ser difícil de replicar totalmente copiando um modelo. Os ativos mais importantes são os dados do laboratório, bancos de dados, interfaces de instrumentos e processos de análise por trás do modelo.

Isso também significa que a IA científica pode formar um cenário competitivo diferente dos modelos de bate-papo gerais: quanto maior o laboratório, mais dados proprietários são gerados; quanto melhor o modelo, mais experimentos ele pode orientar; e novos experimentos ampliam ainda mais a vantagem em dados.

Análises complexas de XRD geralmente não possuem respostas baratas, únicas e automaticamente verificáveis. Um bom ajuste do perfil do pico não significa que os resultados estejam em conformidade com as leis químicas. Por isso, o Periodic fez com que três doutores especializados em materiais rotulassem milhares de padrões e treinou um sistema de julgamento composto por Claude Opus 5 e GPT‑5.6 Sol para atribuir pontuações às saídas do modelo.

A taxa de concordância entre pares de três especialistas humanos foi de 77,2%; a taxa de concordância entre o árbitro LLM e um único especialista humano foi de 74,6%; em comparação com o consenso dos especialistas, a taxa de concordância foi de 84%.

Esses resultados indicam que o árbitro de IA pode aproximar-se do julgamento especializado, mas não é equivalente à verdade objetiva. Já existe divergência entre humanos, e o modelo de árbitro também pode preferir certo estilo de resposta ou ignorar erros que todos os annotadores coletivamente não identificaram.

Mais importante, o modelo, o ambiente de trabalho, as amostras e os métodos de avaliação da FrontierXRD foram todos projetados pela Periodic. Embora a empresa tenha divulgado muitos métodos e estatísticas, ainda não publicou o conjunto completo de avaliações, os dados de treinamento ou os pesos do Neon disponíveis para reexecução por terceiros, e os resultados não passaram por revisão por pares.

Periodic esclarece explicitamente que o Neon foi treinado a partir do modelo de pesos abertos Kimi K2.6. Alguns meios de comunicação social, por isso, passaram a chamar o Neon de “modelo científico de pesos abertos”.

Mas, até a consulta, o lançamento oficial não forneceu a ficha do modelo, licença ou endereço de download dos pesos do Neon, nem código e dados completos para reproduzir o treinamento intermediário e o aprendizado por reforço. A afirmação correta é: o Neon é construído sobre modelos com pesos abertos, e não que os pesos treinados do Neon já tenham sido oficialmente disponibilizados ao público.

Essa distinção é importante. Pesquisadores externos atualmente não conseguem verificar independentemente o desempenho de 55,3% nem determinar quanto do aumento se deve aos dados experimentais, ao aprendizado por reforço, às ferramentas dedicadas, ao orçamento de raciocínio ou ao ambiente de avaliação.

Os grandes modelos científicos anteriores aprendiam principalmente conhecimentos já registrados em artigos, patentes e bancos de dados. O Periodic tenta dar o próximo passo: fazer com que o modelo observe experimentos concluídos hoje e nunca antes apresentados na internet, e use esses resultados para orientar os experimentos de amanhã.

Ainda não é um “cientista de IA” completo. Os humanos ainda precisam definir os objetivos da pesquisa, construir laboratórios, manter instrumentos, projetar recompensas, revisar as conclusões do XRD e decidir quais materiais merecem mais investimento. O Neon atualmente demonstra que um dos principais componentes pode ser significativamente automatizado: à medida que o número de experimentos aumenta, a análise dos resultados não precisa depender proporcionalmente de mais especialistas humanos.

Se este ciclo fechado for eficaz, a vantagem competitiva dos modelos científicos futuros não dependerá mais apenas de quem possui mais textos públicos e GPUs, mas também de quem conseguir executar estávelmente experimentos reais, registrar resultados de falhas e transformar o mundo natural em um ambiente de treinamento em constante atualização.