Periodic Labs forme un modèle de mille milliards de paramètres en utilisant 1300 GPU H200 pour des expériences scientifiques

Periodic Labs a publié le modèle scientifique Periodic Neon : il part du modèle à poids ouverts de mille milliards de paramètres Kimi K2.6, est entraîné en milieu de parcours avec des données matérielles générées par les laboratoires de l'entreprise et appris par renforcement, puis déployé de retour au laboratoire pour analyser les résultats de diffraction des rayons X. Sur l'évaluation interne la plus difficile, FrontierXRD, le taux de réussite est passé de 2,7 % pour le modèle de base à 55,3 % ; Periodic affirme qu'il surpasse GPT‑6 Astra et Claude Fable 5.1 sur cette tâche spécifique, tout en coûte moins cher. Ce qui mérite vraiment attention n'est pas la simple comparaison « 1300 H200 contre 100 000 GPU », mais la boucle fermée que l'entreprise établit entre expérience, entraînement et nouvelle expérience : les laboratoires physiques génèrent continuellement de nouvelles données non disponibles sur Internet, le modèle en apprend et détermine ensuite quoi synthétiser et détecter lors du prochain cycle. Toutefois, tous les principaux résultats proviennent pour l'instant d'évaluations internes, reposent sur des juges LLM, et n'ont pas encore fait l'objet d'une revue par les pairs ni d'une reproductibilité indépendante ; Neon hérite des coûteux résultats de pré-entraînement de Kimi K2.6, et à la date de la recherche, aucune adresse publique de téléchargement des poids de Neon n'a été trouvée.

Auteur et source de l'article : Periodic Labs

Periodic Labs recherche de meilleurs supraconducteurs et matériaux magnétiques. Les chercheurs peuvent définir le matériau cible, choisir les matières premières et la température, mais la poudre obtenue n'est pas toujours le produit attendu : elle peut contenir à la fois la phase cristalline cible, des matières premières non réagies et des sous-produits inattendus.

Les chercheurs utilisent généralement la diffraction des rayons X sur poudre, également appelée XRD, pour déterminer la composition d'un échantillon. Lorsqu'un rayonnement X irradie un cristal, il produit un ensemble de pics ; différentes structures cristallines génèrent des motifs distincts, similaires à une « empreinte digitale » du matériau.

Mais les échantillons réels contiennent souvent plusieurs substances dont les pics se chevauchent. Une réponse mathématiquement bien ajustée peut également être chimiquement irréaliste. Les analystes doivent également prendre en compte la composition des matières premières, la température, l'atmosphère, la possibilité que l'échantillon ait été en contact avec l'humidité, les expériences précédentes, les bases de données cristallines, les calculs thermodynamiques et les articles pertinents pour déterminer quelles phases sont réellement présentes et leurs proportions respectives.

Periodic affirme que des échantillons complexes peuvent nécessiter des heures d'analyse par des scientifiques des matériaux. Dans ses évaluations, les réponses reconnues contiennent en moyenne cinq phases. C'est précisément ce que Neon automatise : lire les schémas de diffraction et le contexte expérimental complet, appeler des bases de données et des logiciels scientifiques, proposer des phases candidates, puis vérifier de manière itérative ses interprétations.Article de rechercheaffirme que le modèle est déjà utilisé dans le laboratoire à haut débit de l'entreprise.

Neon n'est pas un nouveau modèle de base entraîné depuis zéro. Periodic commence avec le modèle à poids ouverts Kimi K2.6, subit une formation intermédiaire avec un corpus scientifique composé d'articles académiques, de code et de données expérimentales propriétaires, puis utilise des données de laboratoire pour l'apprentissage par renforcement.

Sur l'évaluation interne la plus difficile de l'entreprise, FrontierXRD, le taux de réussite de l'original Kimi K2.6 était de 2,7 %, tandis que Neon a atteint 55,3 %, soit une amélioration d'environ 20 fois. L'évaluation comprenait 134 échantillons complexes provenant du laboratoire Periodic.

L'entreprise a également testé 198 mesures XRD provenant de systèmes chimiques conservés : ces systèmes ainsi que les systèmes plus larges les contenant n'ont pas été inclus dans les données d'entraînement, mais des sous-systèmes plus petits pourraient avoir été présents. Neon a de nouveau surpassé les modèles de pointe testés sur cet ensemble de tests, bien que Periodic ait clairement indiqué que cet ensemble de questions est plus facile que FrontierXRD.

(L'original contient un graphique en nuage de points performance-coût, une courbe d'extension des ressources de calcul pour l'apprentissage par renforcement, ainsi qu'une figure des résultats de généralisation sur les systèmes chimiques.)

La mention « supérieur à GPT‑6 Astra et Claude Fable 5.1 » doit être limitée aux évaluations XRD réalisées par Periodic. Elle ne signifie pas que Neon possède une capacité supérieure en matière de raisonnement général, de programmation ou de langage, et ne peut pas servir à établir un classement global des modèles.

Et un taux de 55,3 % signifie que près de la moitié des échantillons les plus difficiles n'ont pas été résolus avec succès. Neon est mieux adapté en tant qu'outil pour élargir les capacités d'analyse des scientifiques que comme expert matériel entièrement automatisé sans supervision.

La logique centrale proposée par Periodic est que les données scientifiques de haute qualité fournies par Internet ouvert sont finalement limitées, tandis que les laboratoires physiques peuvent constamment générer de nouvelles données.

Les articles traditionnels privilégient particulièrement la publication de résultats positifs. Les matériaux qui n'ont pas été synthétisés, les températures et les proportions qui ont échoué, ainsi que les anomalies observées sur les instruments, ces informations ne sont généralement pas incluses dans les articles, pourtant elles sont extrêmement précieuses pour orienter les expériences suivantes. Un laboratoire autonome peut conserver tous les résultats — réussis, échoués ou incertains.

L'entreprise divise la découverte de matériaux en trois étapes cycliques :

Tout d'abord, prédire quel matériau devrait être synthétisé ; ensuite, prédire comment le synthétiser ; enfin, analyser ce qui a réellement été produit lors de l'expérience. Les résultats de l'analyse sont ensuite renvoyés au modèle pour corriger les hypothèses suivantes.

Neon améliore actuellement principalement la troisième étape. La prochaine étape de Periodic vise à permettre au modèle de planifier directement des projets de recherche, d'écrire des procédures de synthèse et de sélectionner l'expérience suivante la plus informative.

Cela diffère fondamentalement des mathématiques et de l'apprentissage par renforcement par code : un programme peut exécuter des tests en quelques secondes, et les réponses mathématiques peuvent être vérifiées par un système formel ; en revanche, les expériences physiques nécessitent des équipements, des matériaux et du temps, parfois plusieurs jours, et les résultats peuvent être ambigus. Les entreprises ne peuvent pas lancer instantanément des dizaines de milliers d'expériences réelles comme elles le font avec la génération de code ; elles doivent donc exploiter pleinement les données déjà accumulées pour entraîner et améliorer leurs modèles pendant l'attente des expériences.

Periodic affirme que la taille maximale de la dernière exécution d'entraînement de Neon était de 1 300 Nvidia H200, couvrant les phases d'entraînement à moyen terme et d'apprentissage par renforcement. L'entreprise la compare aux plus de 100 000 GPU Blackwell supposément utilisés par GPT‑6 Astra pour démontrer que des données spécialisées peuvent réduire la puissance de calcul nécessaire à l'entraînement de capacités scientifiques générales.

Mais ce n'est pas une comparaison sur la même base.

Neon hérite des poids de paramètres trillions de Kimi K2.6, ainsi que de toutes les données et ressources de calcul investies dans son pré-entraînement précédent. Les 1300 cartes H200 ne représentent que la taille maximale atteinte lors de l'entraînement continu par Periodic, et non le coût total pour acquérir cette capacité de paramètres trillions. L'entreprise n'a pas non plus divulgué la durée complète de l'entraînement, les heures GPU cumulées, la consommation énergétique ou les coûts totaux.

La valeur réside davantage dans ses détails techniques.Article sur l’infrastructureindique que l’entreprise a modifié Megatron, SGLang, Miles et Ray pour atteindre un débit d’entraînement de séquences longues 4,1 fois supérieur à sa base Megatron, et pour augmenter la vitesse de décodage des modèles à mille milliards de paramètres de 10 tokens par requête et par seconde à 25.

Une inférence de XRD Agent peut durer plus d'une heure, nécessitant l'exécution répétée de programmes scientifiques. Les systèmes initiaux ont conduit le modèle à demander 80 Go de mémoire, provoquant l'échec de l'ensemble de la tâche d'entraînement. L'équipe a ensuite développé un environnement isolé appelé pbox, dans lequel le code du modèle est exécuté dans un sandbox, tout en utilisant les ressources CPU inutilisées des serveurs GPU pour traiter les outils scientifiques.

(L'original de l'infrastructure contient plus d'une heure de trajectoire d'exécution de l'Agent, une architecture d'entraînement et d'inférence asynchrone, ainsi qu'un graphique de comparaison des performances du sandbox pbox.)

Periodic a également comparé deux environnements d'agent en utilisant le même Claude Opus 5.

L'une consiste en Claude Code associé à une base de données de cristaux open source et à un logiciel XRD standard ; l'autre est l'environnement scientifique propre à Periodic, qui inclut le contexte expérimental, une base de données interne de matériaux, des résultats de simulation et des outils d'analyse personnalisés.

Dans des conditions où les modèles sont identiques et le coût d'analyse par session similaire, le taux de réussite de l'environnement Periodic est 3,8 fois supérieur à celui du précédent. Cela indique que les goulots d'étranglement des tâches XRD ne se limitent pas aux poids du modèle, mais incluent également la capacité du modèle à accéder aux bons enregistrements d'expériences, à appeler les outils appropriés et à conserver les acquis des recherches précédentes.

Ainsi, l'avantage concurrentiel de Neon pourrait être difficile à reproduire entièrement en copiant un modèle. Les actifs les plus importants sont les données de laboratoire, les bases de données, les interfaces d'instruments et les processus d'analyse derrière le modèle.

Cela signifie également que l'IA scientifique pourrait créer un paysage concurrentiel différent de celui des modèles de discussion généraux : plus le laboratoire est grand, plus il génère de données propriétaires ; plus le modèle est performant, plus il peut guider d'expériences ; de nouvelles expériences renforcent encore l'avantage en matière de données.

L'analyse complexe du XRD ne possède généralement pas de réponse standard bon marché, unique et vérifiable automatiquement. Un bon ajustement des formes de pics ne signifie pas que les résultats respectent les lois chimiques. Ainsi, Periodic a fait annoter des milliers de motifs par trois doctorants spécialisés en matériaux, puis a entraîné un système de jugement composé de Claude Opus 5 et de GPT‑5.6 Sol pour évaluer les sorties du modèle.

Le taux d'accord bipartite entre trois experts humains est de 77,2 % ; le taux d'accord entre le juge LLM et un seul expert humain est de 74,6 % ; par rapport au consensus des experts, il est de 84 %.

Ces résultats indiquent que les juges IA peuvent approximer les jugements d'experts, mais ne sont pas équivalents à la vérité objective. Des divergences existent déjà entre les humains, et les modèles de jugement peuvent également privilégier un certain style de réponse ou omettre des erreurs que tous les annotateurs n'ont pas identifiées.

Il est plus important de noter que le modèle, l’environnement de travail, les échantillons et la méthode d’évaluation de FrontierXRD ont tous été conçus par Periodic. Bien que l’entreprise ait publié de nombreuses méthodes et statistiques, elle n’a pas encore publié l’ensemble complet des évaluations, les données d’entraînement ou les poids Neon permettant une reproductibilité externe, et les résultats n’ont pas fait l’objet d’une revue par les pairs.

Periodic précise que Neon a été entraîné à partir du modèle à poids ouverts Kimi K2.6. Certains médias sociaux ont donc appelé Neon « modèle scientifique à poids ouverts ».

Mais à la date de la recherche, la publication officielle ne fournit pas de fiche modèle, de licence ni d'adresse de téléchargement des poids de Neon, ni de code et de données permettant de reproduire intégralement l'entraînement intermédiaire et l'apprentissage par renforcement. La formulation exacte devrait être : Neon est construit sur des modèles à poids ouverts, et non que les poids de Neon entraînés ont été officiellement rendus publics.

Cette distinction est importante. Les chercheurs externes ne peuvent actuellement pas vérifier indépendamment le résultat de 55,3 %, ni déterminer quelle partie de l'amélioration provient des données d'expérimentation, de l'apprentissage par renforcement, des outils dédiés, du budget d'inférence ou de l'environnement d'évaluation.

Les grands modèles scientifiques précédents ont principalement appris à partir de connaissances déjà publiées sous forme d'articles scientifiques, de brevets et d'enregistrements dans des bases de données. Periodic tente de franchir la prochaine étape : permettre au modèle d'observer des expériences venant juste d'être réalisées et jamais apparues sur Internet, puis d'utiliser ces résultats pour guider les expériences de demain.

Il n'est pas encore un « scientifique IA » complet. Les humains doivent toujours déterminer les objectifs de recherche, construire des laboratoires, entretenir les instruments, concevoir des récompenses, examiner les conclusions XRD et décider quels matériaux méritent d'être poursuivis. Neon démontre pour l'instant qu'un maillon clé peut être fortement automatisé : à mesure que le nombre d'expériences augmente, l'analyse des résultats ne nécessite pas une augmentation proportionnelle d'experts humains.

Si ce cycle fermé fonctionne, l'avantage compétitif des modèles scientifiques futurs ne dépendra plus uniquement de qui possède le plus de textes publics et de GPU, mais aussi de qui peut exécuter de manière stable des expériences réelles, enregistrer les résultats d'échec et transformer le monde naturel en un environnement d'entraînement mis à jour en continu.