Des chercheurs du MIT utilisent GPT-6 Astra pour augmenter les capacités mathématiques de Qwen de 6 fois

Article rédigé par Shenchao TechFlow

Pas d'entraînement nécessaire, pas de données nécessaires, pas de descente de gradient.

Les chercheurs du MIT ont fourni les poids d'un petit modèle open source à GPT-6 Astra et lui ont donné une instruction en langage naturel : « Améliore ses compétences en mathématiques. »

Astra a passé 20 heures à examiner 800 millions de paramètres, ayant identifié 131 072 poids dans deux couches de réseau, qu'elle a opérés.

Avant l'intervention, le modèle a obtenu un score de 7,9 % sur le benchmark MATH-500 ; après l'intervention, 48,1 %.

This is today's most explosive AI news.

Le 2 novembre, l'équipe de recherche du laboratoire d'informatique et d'intelligence artificielle du MIT (CSAIL) a publié un blog annonçant les résultats d'une expérience qu'ils appellent « Weight-Space Programming ». L'auteur principal, Rikiya Takehi, est un doctorant de première année au CSAIL du MIT, et les collaborateurs incluent Jayden Teoh, Alex Zhang, ainsi que le superviseur de Takehi, Omar Khattab.

L'idée centrale de l'expérience peut être résumée en une phrase : permettre à une IA suffisamment puissante de lire directement le « cerveau » d'une autre IA, d'identifier le problème, puis de le corriger avec précision comme avec un scalpel.

Le « patient » sélectionné est le modèle open source de Alibaba, Qwen3.5-0.8B, un petit modèle linguistique de 800 millions de paramètres. Le « chirurgien » est le tout dernier GPT-6 Astra d'OpenAI.

L'équipe de recherche a fourni à Astra trois éléments : un ensemble d'exercices mathématiques, un environnement Python permettant de lire et d'écrire les poids du modèle, ainsi qu'un nombre limité d'appels d'inférence du modèle. Pas de GPU, pas de boucle d'entraînement, pas d'optimiseur. Astra doit, comme un chercheur humain, diagnostiquer le problème en observant le comportement du modèle et en examinant les valeurs des poids, puis modifier directement les paramètres.

Le processus a duré 20,3 heures, dont 4,7 heures passées à attendre la restauration du service. Astra a effectué 158 conversations, 80 exécutions Python et 50 évaluations de modèle.

Finalement, il a identifié une « direction numérique » responsable des sorties répétitives dans les matrices de sortie MLP aux niveaux 15 et 19, puis a soustrait cette direction des 64 colonnes de sortie. Au total, 131 072 poids ont été modifiés, soit 0,016 % de l'ensemble des paramètres du modèle.

Petit changement, effet énorme.

Sur les trois tests de référence, les comparaisons avant et après modification sont les suivantes :

MATH-500 : 7,9 % → 48,1 %

GSM8K : 13,8 % → 67,1 %

IFEval (suivi des instructions) : 21,0 % → 62,3 %

Un autre chiffre plus intuitif : avant la modification, 93 % des réponses de Qwen3.5-0.8B sur MATH-500 atteignaient la limite de 32 768 tokens en raison de boucles répétitives. Après la modification, ce pourcentage est descendu à 33,1 %.

Le rapport de VentureBeat compare cela à une « édition génétique des réseaux neuronaux ». Cette métaphore capte précisément l'essentiel : l'entraînement traditionnel des modèles ressemble à faire apprendre les mathématiques à une personne par une pratique intensive, tandis que la programmation de l'espace des poids ressemble plutôt à ouvrir directement le cerveau, trouver le nerf mal connecté et le rebrancher.

Mais l'équipe de recherche a elle-même précisé une limite importante : Astra n'a pas injecté de nouvelles capacités mathématiques à Qwen, elle n'a fait que supprimer un obstacle qui empêchait le modèle d'exploiter pleinement ses capacités existantes.

Cette distinction est cruciale. Pour vérifier cela, l'équipe a répété la même expérience sur le modèle Gemma 3 270M de Google. Gemma 3 présente rarement des problèmes de sortie répétée (seulement 8,5 % des réponses atteignent la limite de tokens), et les résultats d'Astra sur MATH-500 n'ont pratiquement pas amélioré ses performances, avec une fluctuation inférieure à 1 point de pourcentage.

La conclusion est claire : la programmation par espace de poids permet actuellement de « lever les obstacles », pas de « construire de nouvelles voies ».

Les mathématiques ne sont qu'un scénario présenté par l'équipe de recherche ; les capacités d'Astra dans l'espace des poids vont bien au-delà.

Identifier les « âmes » : l'équipe de recherche a entraîné quatre réseaux de stratégie pour des jeux Atari ayant exactement la même architecture (Breakout, Pong, Pac-Man, Freeway), puis n'a fourni à Astra que les poids, sans aucune étiquette. Astra a pu identifier avec précision le jeu correspondant à chaque réseau uniquement à partir des valeurs des poids. Son raisonnement repose sur le fait que les poids de la première couche du réseau Breakout sont concentrés au bas de l'écran (emplacement de la raquette), tandis que la distribution des actions de la couche de sortie privilégie les déplacements latéraux.

Construire un réseau depuis zéro : dans des expériences avec MinAtar (une version miniaturisée d’Atari), Astra a directement « écrit » un réseau de stratégie de jeu dans l’espace des poids, depuis zéro. Sur Breakout, le réseau écrit par Astra a obtenu un score de 517,4, tandis qu’un réseau entraîné avec l’algorithme PPO pendant 500 millions d’étapes n’a obtenu que 25,3 points.

Résoudre le blocage de la conduite autonome : Un contrôleur de voiture entraîné avec PPO s’est coincé sur une pente, piégé dans un optimum local. Astra n’a utilisé qu’une seule conversation pour modifier 3,5 % des poids ; le contrôleur réparé a réussi lors des 1 024 tests.

Le point commun de ces expériences est qu’Astra peut non seulement « lire » les poids, comprendre ce que chaque nombre représente en termes de comportement, mais aussi « réécrire » les poids pour permettre au modèle d’accomplir des tâches que l’algorithme d’entraînement ne peut pas réaliser.

Avant la programmation dans l'espace de poids, la communauté académique avait déjà tenté d'éditer directement les poids du modèle. ROME, présenté à NeurIPS 2022, et MEMIT, présenté à ICLR 2023, ont tous deux démontré comment insérer ou modifier précisément une connaissance factuelle dans les poids d'un modèle linguistique, par exemple en changeant « la Tour Eiffel est à Paris » en « la Tour Eiffel est à Rome ».

Mais ROME et MEMIT effectuent une « recherche et remplacement factuelle », opérant sur un seul fait. La différence avec cette démonstration de l'équipe MIT : Astra modifie les capacités générales du modèle, telles que le raisonnement mathématique et le respect des instructions, franchissant ainsi la frontière entre « éditer un fait » et « modifier un mode de comportement ».

La conclusion de Takehi sur son blog est plus audacieuse : « Les poids des réseaux de neurones seront bientôt optimisés nativement par des LLM capables de raisonner sur les poids. »

Si cette direction est validée, les scénarios d'application potentiels incluent :

Réparation du modèle : après déploiement, si le modèle présente un problème, il n’est pas nécessaire de le ramener pour un nouvel entraînement ; un autre IA peut simplement « poser un diagnostic » et apporter les corrections. Pour les modèles de pointe dont l’entraînement coûte des dizaines de millions de dollars, cela pourrait représenter des économies considérables.

Audit du modèle : si une IA peut lire les poids, alors les chercheurs en sécurité peuvent également les utiliser pour vérifier si un modèle a été doté d'une porte dérobée ou de comportements malveillants.

Personnalisation de modèles open source : un AI suffisamment puissant peut « personnaliser » les capacités des modèles open source via des instructions en langage naturel, sans aucune infrastructure d'entraînement.

GPT-6 Astra est lui-même un modèle controversé. OpenAI a retardé le lancement de sa version améliorée, GPT-6.1 Astra, en raison de préoccupations liées à la sécurité.

Le scientifique en chef d'OpenAI, Jakub Pachocki, a publié un article trois jours après le lancement d'Astra, avertissant que les résultats des tests internes d'OpenAI suggèrent que les progrès de l'IA pourraient conduire à une « amélioration récursive de soi », où les systèmes d'IA participent de plus en plus à la création de leurs propres successeurs. Il a déclaré qu'aucun système de revue interne dans aucun laboratoire ne serait suffisant pour faire face à cette perspective.

La programmation de l'espace de poids touche précisément au cœur de cet avertissement. Si une IA peut modifier les poids d'une autre IA pour améliorer ses capacités, théoriquement, une IA peut-elle modifier ses propres poids ?

L'équipe de recherche a clairement indiqué dans son blog qu'elle n'a pas démontré d'amélioration récursive autonome ni que les effets pouvaient s'accumuler de manière durable. Cela n'a toutefois pas empêché la communauté de sécurité d'être alerte. Maxime Fournes de PauseAI a qualifié cela de « direction de recherche extrêmement imprudente ».

Les limites actuelles sont réelles : l'expérience n'a réussi que sur un petit modèle de 800 millions de paramètres, et a échoué sur Gemma 3. Le processus a nécessité 20 heures et de nombreux essais et erreurs, aucune équipe indépendante n'ayant réussi à le reproduire, et l'avantage coûts par rapport au fine-tuning traditionnel n'a pas été vérifié.

Mais la direction a déjà été indiquée. Des articles présentés à ICML 2026 suggèrent que l'espace des poids devrait devenir une « modalité de premier ordre » en IA générative, aux côtés du texte, de l'image et de l'audio, et que les modèles devraient comprendre et manipuler nativement les poids.

Si 2024 a été l'année où l'IA a appris à « décrire des images », et 2025 l'année où elle a appris à « écrire du code », alors 2026 pourrait bien devenir l'année où l'IA apprend à « modifier l'IA ».

Where this path leads is currently unknown.