L'équipe du MIT CSAIL a proposé une méthode appelée « programmation de l'espace des poids », permettant à GPT-6 Astra de lire et de modifier directement les poids du réseau neuronal. Sur le modèle Qwen3.5-0.8B, un ajustement de seulement 0,016 % des poids a permis d'augmenter le score MATH-500 de 7,9 % à 48,1 %, corrigeant significativement les problèmes de boucle d'inférence. Les expériences ont également validé la capacité d'Astra à comprendre les poids, réparer les défaillances et générer des réseaux depuis zéro, mais ses performances restent limitées aux modèles simples et ne peuvent pas encore remplacer l'entraînement ou générer de manière générale des modèles complexes.Auteur et source de l'article : Big Data Digest
L'IA sort encore un coup dur !
L'équipe du MIT CSAIL a proposé une méthode appelée « Weight-Space Programming » : sans entraînement ni calcul de gradient, permettre à GPT-6 Astra de lire et de modifier directement les poids du réseau neuronal.

Lors des expériences avec Qwen3.5-0.8B, Astra n'a modifié que 0,016 % des poids, augmentant le score du modèle sur MATH-500 de 7,9 % à 48,1 %, GSM8K de 13,8 % à 67,1 %, et le score d'adhésion aux instructions IFEval de 21,0 % à 62,3 %.
Cela signifie que les grands modèles commencent à acquérir la capacité de comprendre et de modifier directement les paramètres des réseaux neuronaux.

This work was led by MIT CSAIL PhD students Rikiya Takehi and Jayden Teoh, with collaborators Alex Zhang and Omar Khattab. The research team published their findings on the Sparks of Weight-Space Programming research blog.

Qu'est-ce que la programmation par espace de poids ?
Les poids sont les paramètres fondamentaux des réseaux de neurones, déterminant comment le modèle traite les informations d'entrée et génère la sortie finale.
L'entraînement des modèles traditionnels nécessite généralement de préparer les données, de calculer la perte et les gradients, puis d'ajuster continuellement les poids à l'aide d'un optimiseur. Ce processus repose sur une grande quantité de calculs, et les paramètres internes du modèle sont difficiles à comprendre directement par les humains.
La programmation de l'espace de poids offre une approche différente :
Considérez les poids du réseau de neurones comme un objet pouvant être lu, analysé et modifié par un grand modèle.
Le modèle général utilise directement l'objectif en langage naturel pour déterminer la fonction du réseau, détecter les structures anormales et modifier les paramètres correspondants.
Dans cette étude, Astra a principalement accompli trois types de tâches : 1. Lire les poids et déterminer la tâche pour laquelle le réseau de neurones a été entraîné ; 2. Modifier les poids pour corriger des défaillances spécifiques dans le réseau ; 3. Générer des poids ex nihilo pour construire de petits réseaux dotés de fonctions spécifiques.
L'équipe de recherche a d'abord testé la capacité d'Astra à comprendre les poids des réseaux neuronaux.

Dans le premier ensemble d'expériences, les chercheurs ont formé quatre petits réseaux de neurones identiques en structure à l'aide de PPO pour jouer à Breakout, Pong, Pac-Man et Freeway.
Astra obtient l'ensemble des poids initiaux, mais ne connaît pas les noms des jeux candidats et ne peut pas observer les comportements en exécutant le réseau. Finalement, elle identifie correctement le jeu correspondant à chacun des quatre réseaux.

Dans le deuxième ensemble d'expériences, les chercheurs ont entraîné trois modèles de diffusion pour générer respectivement des cercles, des triangles et des carrés. Astra a également réussi, en se basant uniquement sur les poids, à déterminer l'objectif de génération de chaque modèle.

La troisième expérience a été étendue aux modèles linguistiques. Les chercheurs ont entraîné trois petits Transformer de 7,2 millions de paramètres pour apprendre respectivement le code Python, le japonais romaji et l'anglais. Même en ne fournissant que les poids des couches intermédiaires, en supprimant les couches d'entrée et de sortie, Astra a pu identifier le type de corpus d'entraînement et détecter les têtes d'attention copiées dans le réseau.
Ces expériences montrent que les grands modèles généraux pourraient non seulement traiter du texte et du code, mais aussi extraire des informations fonctionnelles sur les réseaux de neurones à partir des poids.
Deuxièmement, modifiez uniquement le poids de 0,016 % pour corriger la boucle d'inférence

The Qwen3.5-0.8B experiment is the most focused part of this study.
Ce modèle tend à entrer dans des boucles de raisonnement après avoir activé le mode réflexion, produisant répétitivement des contenus similaires sans parvenir à fournir une réponse finale en temps utile. Lors des tests de référence, 93 % des réponses de MATH-500 ont atteint la limite de 32768 tokens.
Astra accède aux poids du modèle via une interface Python et vérifie le comportement du modèle à l'aide d'exercices provenant des jeux de données GSM8K et MATH, sans pouvoir utiliser d'informations d'entraînement ou de gradient, ni accéder à l'ensemble de test final.
Après analyse, Astra a identifié le problème dans certaines structures MLP des niveaux 15 et 19 et a supprimé une direction liée aux sorties en double.
Cette modification concerne 131072 poids, soit environ 0,016 % du poids total du modèle. Après la modification, le pourcentage de réponses de MATH-500 atteignant la limite de tokens est passé de 93 % à 33,1 %.
Ainsi, cette amélioration des résultats n'est pas principalement due à l'ajout de nouvelles connaissances mathématiques au modèle, mais à la correction de dysfonctionnements qui entravaient sa capacité à effectuer un raisonnement. Certaines questions que le modèle pouvait déjà résoudre produisent désormais des réponses complètes et correctes.

Cependant, bien que le correctif final soit petit, le processus d'analyse n'est pas simple. L'expérience la plus performante a utilisé 50 demandes d'évaluation, 158 conversations et 80 exécutions Python, pour une durée totale de 20,3 heures.
Trois : Écrire les poids d'un réseau de neurones depuis zéro
L'équipe de recherche a également testé la capacité d'Astra à générer des paramètres réseau depuis zéro.
Dans les trois jeux MinAtari Breakout, Seaquest et Asterix, Astra reçoit les règles du jeu, le code source et l'architecture du réseau, mais ne peut pas utiliser les données d'entraînement, la fonction de perte, les gradients ou les essais dans l'environnement.
Il a généré directement un nouveau réseau qui dépasse, dans les trois jeux, le réseau correspondant entraîné par PPO pendant 100 millions d'étapes.
Par rapport au réseau PPO entraîné sur 500 millions d'étapes, le réseau généré par Astra obtient environ 20 fois plus de points dans Breakout, des performances proches dans Asterix et environ 60 % des points du dernier dans Seaquest.
Dans l'expérience de go 9×9, Astra a généré un réseau d'environ 1,48 million de paramètres. À mesure que le nombre d'évaluations en avant autorisées augmente, les performances du réseau continuent de s'améliorer ; avec 50 évaluations en avant, il a battu un réseau PPO de taille équivalente entraîné sur 20 millions de parties.
Ces résultats indiquent que les grands modèles pourraient déjà être capables de convertir directement une partie de la logique algorithmique en poids de réseau neuronal en fonction de la description de la tâche.
Cependant, les expériences pertinentes restent principalement concentrées sur des réseaux simples et de petite taille ; il faut encore vérifier s'il est possible de les étendre à des modèles plus grands et plus complexes.
Pour distinguer la « correction de pannes » de l'« amélioration des capacités », l'équipe de recherche a également mené des expériences complémentaires sur Gemma 3 270M.

Gemma 3 270M présente rarement des boucles d'inférence ; les principales erreurs proviennent du raisonnement arithmétique et algébrique. Astra a tenté plusieurs modifications ciblées, mais les améliorations du score MATH-500 n'ont jamais dépassé environ 1 point de pourcentage, et il n'a pas été possible de confirmer une amélioration stable du modèle.
Cela indique que la programmation de l'espace de poids est actuellement plus adaptée pour traiter des défaillances de modèle claires et ciblées, telles que des boucles anormales ou des comportements spécifiques, mais ne permet pas d'ajouter directement des connaissances ou des capacités de raisonnement que le modèle ne possède pas initialement.
En parallèle, le fait qu'Astra n'ait pas réussi à identifier uniquement à partir des poids quel modèle a été formé avec des comportements de flatterie indique que sa compréhension des poids n'est pas stable et qu'il existe encore des limites de tâche.
Currently, these results are early findings released by the research team and require further independent replication and systematic evaluation.
Si cette méthode peut être étendue davantage, elle pourrait être utilisée pour identifier les pannes du modèle, supprimer les comportements anormaux, améliorer l'interprétabilité, ou même générer des réseaux spécifiques selon des exigences en langage naturel.
Cependant, les expériences actuelles ne suffisent pas à prouver qu'elles peuvent remplacer l'entraînement, ni à signifier que les grands modèles sont déjà capables de « construire » d'autres modèles de manière généralisée.
Le sens plus important de cette étude réside dans le fait qu'elle présente une nouvelle forme d'interaction :
Il ne s'agit plus seulement de générer du texte et du code, mais aussi de comprendre et d'écrire des réseaux de neurones eux-mêmes.
Source :Big Data Digest
Avertissement de risque et clause de non-responsabilité
Le marché comporte des risques ; les investissements doivent être effectués avec prudence. Ce document ne constitue pas un conseil d'investissement personnel et ne tient pas compte des objectifs, de la situation financière ou des besoins spécifiques de chaque utilisateur. Les utilisateurs doivent évaluer si les opinions, points de vue ou conclusions présentés dans ce document sont adaptés à leur situation particulière. Les investissements basés sur ce document sont à votre seule responsabilité.


