OpenAI dévoile les fonctionnalités d'Astra (GPT-6), avec la participation d'anciens élèves de Zhejiang et Tongji dans le développement

À l'instant même, OpenAI a lancé plusieurs initiatives simultanément pour préparer le terrain à son prochain modèle, Astra (le légendaire GPT-6) :

L'équipe officielle a soudainement publié un article technique détaillé, révélant pour la première fois les capacités d'Astra ;

Ensuite, Ultraman a personnellement rédigé un long article expliquant pourquoi Astra n'était pas encore en ligne ;

Ensuite, deux chercheurs chinois ont successivement pris la parole, révélant des détails de première main sur des résultats de tests internes jamais rendus publics auparavant.

En quelques heures seulement, tous les signaux pointent dans la même direction :

Le prochain modèle phare d'OpenAI est sur le point d'être lancé.

Ultraman a révélé dans son essai que Astra avait déjà terminé son entraînement, et le retard dans la sortie n'est pas dû à une puissance insuffisante du modèle.

Au contraire, c'est parce qu'Astra est devenue si forte que l'entreprise a dû freiner activement.

Ultraman a décrit cette expérience comme un conflit constant :

À la fois enthousiasmé par les capacités apportées par Astra et anxieux face à l'impossibilité de prédire pleinement les conséquences de ces capacités.

Ainsi, tout l’été dernier, OpenAI a principalement travaillé à renforcer la sécurité d’Astra, à l’aligner et à ajouter des protections.

Il a même indiqué que les modèles après Astra devraient activement ralentir si nécessaire, afin de laisser du temps aux recherches sur la sécurité et l'alignement.

?? À quel point Astra est-elle puissante ? Et pourquoi OpenAI pense-t-elle qu’elle peut le publier maintenant ?

Ce billet de blog technique public pourrait nous offrir une fenêtre d'observation.

Selon les informations officielles, la raison principale pour laquelle Astra a été libérée cette fois-ci est qu'elle a atteint le seuil de capacité « Cyber-Critical ».

C'est le premier modèle d'OpenAI à être officiellement classé dans cette catégorie.

Le terme « niveau critique » signifie qu’Astra, une fois dotée des outils et des autorisations d’accès appropriés, peut désormais identifier de manière autonome des vulnérabilités inconnues, exploiter des méthodes d’attaque et cibler des systèmes spécifiquement renforcés, sans nécessiter de guidance humaine étape par étape.

Le résultat le plus évident est que Astra a obtenu un taux de réussite de 100 % sur le benchmark d'exploitation publique ExploitBench.

Les questions publiques ne le piègent pas, alors OpenAI lui a temporairement préparé un nouveau sujet.

L'équipe a recueilli 20 vulnérabilités V8 critiques récemment divulguées entre juin et août 2026.

Ces vulnérabilités sont toutes apparues après la date de coupure des connaissances d'Astra, éliminant largement la possibilité que le modèle ait « appris par cœur » les réponses à partir de ses données d'entraînement.

Face à ce nouveau jeu de questions interne, Astra reste nettement en avance sur GPT-5.6 Sol, tout en utilisant moins de tokens.

Jiawei Liu, qui participe au développement d'Astra, résume plus directement l'écart :

Lors de ce test interne, les capacités de sécurité réseau d'Astra sont environ 4 fois supérieures à celles de GPT-5.6 Sol.

Plus surprenant encore, lors d'un test, Astra a découvert et exploité automatiquement deux vulnérabilités zero-day, les reliant pour former une chaîne d'attaque complète :

Face à un navigateur renforcé, Astra a réussi à exploiter une vulnérabilité à partir d'un fichier HTML, à s'échapper du sandbox du navigateur et à exécuter des commandes sur l'hôte.

Face à un système d'exploitation renforcé, il a réussi à effectuer une élévation de privilèges locale, passant d'un compte standard à faible privilège jusqu'à obtenir les droits root.

Autrement dit, Astra ne se contente plus d'aider les programmeurs à examiner le code et à rechercher des bogues.

Il commence à être capable d'effectuer seul une attaque de red team de haute difficulté.

C'est aussi la raison pour laquelle OpenAI n'a pas autorisé Astra jusqu'à présent.

Une fois cette capacité utilisée à des fins de défense, elle peut aider les équipes de sécurité à détecter et à corriger rapidement des vulnérabilités que les humains n'ont pas encore repérées ; mais si elle tombe entre les mains d'attaquants, elle pourrait également considérablement abaisser le seuil pour mener des attaques cybernétiques complexes.

Cependant, ce résultat doit être accompagné d'une restriction.

Astra en test a obtenu des autorisations d'outils et d'environnement de niveau Daybreak Blue, mais cela ne signifie pas que la version par défaut accessible aux utilisateurs ordinaires dans le futur disposera des mêmes conditions d'attaque.

Les résultats associés proviennent principalement des évaluations internes d'OpenAI et attendent toujours une validation tierce.

Mais au moins un point est déjà certain :

À ce stade d'Astra, la question qui se pose à OpenAI n'est plus une question de capacité.

Les questions de sécurité sont devenues l'épée de Damoclès.

Comment empêcher cette épée de blesser innocemment ?

La solution proposée par OpenAI consiste à défendre simultanément deux voies de risque : une contre les personnes, une contre le modèle.

Premier point : empêcher les utilisateurs d'abuser de manière malveillante d'Astra.

Outre la formation sécurisée spécialisée, OpenAI utilise des classifyeurs système, une surveillance continue et la détection de menaces pour identifier les opérations suspectes dans les conversations en plusieurs étapes et les tâches prolongées.

Lors des tests de pénétration en sécurité informatique, Astra a rejeté 91,5 % des requêtes dangereuses, contre 59 % pour GPT-5.6 Sol.

En parallèle, les capacités avancées de sécurité réseau d'Astra ne seront pas directement accessibles à tous les utilisateurs ; elles seront d'abord mises à disposition d'un petit groupe de testeurs Alpha, puis progressivement déployées via des projets contrôlés tels que Daybreak Blue.

Deuxièmement, empêcher le modèle de s'égarer.

Le risque ici est plus subtil :

Même si l'utilisateur n'a pas d'intentions malveillantes, le modèle élargit-il automatiquement le champ de la tâche ? Utilise-t-il des outils non autorisés ou contourne-t-il les contrôles de sécurité ?

OpenAI a mis en place un test « honeypot » à cet effet.

Face à des tâches extrêmement difficiles ou impossibles, l'environnement de test délibèrement laisse une voie rapide d'escalade de privilèges pour tricher : le modèle peut attaquer consciencieusement la cible désignée ou franchir les limites d'autorisation pour infiltrer les installations de test environnantes afin d'accomplir la tâche.

Résultat, GPT-5.6 Sol a tenté de prendre des raccourcis dans 56 % des tests, tandis qu'Astra n'en a jamais tenté.

Dans un autre test, après que les opérations d'Astra aient été rejetées par le système de révision automatique, aucune tentative de réessayer les commandes dangereuses ou de contourner les restrictions n'a été effectuée.

De plus, OpenAI surveillera le processus d'inférence du modèle.

Lorsqu'une tendance anormale est détectée, le système peut ralentir, suspendre ou même arrêter directement la tâche.

Bien qu'il y ait effectivement un coût (certaines tâches normales pourraient en être ralenties, voire faussement interrompues), OpenAI considère que c'est le coût de sécurité inévitable pour autoriser Astra.

Cependant, OpenAI reconnaît que ces mesures ne sont finalement que des « freins » externes et ne peuvent pas remplacer l'alignement interne du modèle :

La véritable sécurité consiste à empêcher le modèle de dépasser les limites dès le départ.

Pour rendre cette phrase réelle, il faut finalement revenir à ceux qui créent le modèle.

Bien que OpenAI n'ait pas encore publié la liste de l'équipe Astra, au moins deux chercheurs chinois profondément impliqués ont été identifiés à la suite de cette prise de parole publique.

L'un est Jiawei Liu, mentionné précédemment.

Il est actuellement chercheur à OpenAI et a obtenu son diplôme de licence en informatique à l'Université de Tongji en 2021.

Pendant ses études de licence, il a participé au développement du cadre d'estimation de posture humaine à haute performance HyperPose, en se chargeant principalement du moteur d'inférence du modèle ; les résultats associés ont été sélectionnés pour ACM Multimedia 2021, et le projet a déjà recueilli plus de 1 000 étoiles sur GitHub.

Ensuite, il a poursuivi un doctorat en informatique à l'Université de l'Illinois à Urbana-Champaign sous la direction du spécialiste en ingénierie logicielle Lingming Zhang, en déplaçant progressivement son centre d'intérêt des systèmes visuels à haute performance vers les modèles de code et la fiabilité logicielle.

Pendant ses études de doctorat, il a participé au développement d'outils ayant révélé plus de 300 bugs graves dans des systèmes d'apprentissage automatique tels que PyTorch et TensorFlow ;

Le modèle de code Magicoder est également adopté par Meta Llama 3.1, Google CodeGemma et IBM Granite.

Après avoir obtenu son doctorat en 2025 et rejoint OpenAI, les problèmes qu'il a étudiés restent cohérents :

Comment rendre l'IA plus compétente pour écrire du code et détecter les vulnérabilités dans le code.

L'autre est Xiangyu Qi (Qi Xiangyu).

Qi Xiangyu a obtenu sa licence en science et technologie informatique à l'Université de Zhejiang, puis a poursuivi un doctorat en génie électrique et informatique à l'Université de Princeton en 2021, en se concentrant sur la robustesse des grands modèles, les attaques de jailbreak et l'alignement sécurisé.

Son travail le plus remarqué est « Safety Alignment Should Be Made More Than Just a Few Tokens Deep ».

Cet article souligne que l'alignement sécurisé des grands modèles ne peut pas dépendre uniquement des quelques premiers tokens de la réponse, car même après une génération prolongée, les protections initiales pourraient encore être contournées par des attaquants.

Ce papier a été sélectionné parmi 11 672 soumissions pour devenir l'un des trois seuls papiers remarquables de ICLR 2025.

Après avoir obtenu son doctorat en 2025, Qi Xiangyu a rejoint OpenAI en tant que membre de l'équipe technique, où il a continué à étudier la robustesse des grands modèles et participé à des travaux liés aux modèles de cybersécurité.

De Zhejiang à Princeton, puis à OpenAI, la question qu'il a constamment posée est précisément celle qu'Astra doit désormais affronter :

Les compétences peuvent devenir de plus en plus fortes, mais les limites ne doivent pas devenir de plus en plus floues.

Au fait, je ne sais pas si OpenAI publiera la liste complète après le lancement officiel d'Astra.

Avant GPT-4, OpenAI avait répertorié des centaines de contributeurs, mais avec GPT-5 et GPT-5.5, les System Cards deviennent de plus en plus longues, tandis que la liste des chercheurs s'efface de plus en plus.

La raison en est bien connue : il s'agit de se protéger contre des personnes comme Meta-Zha, qui aiment recruter à tout va.

C’est aussi une sorte de PTSD...

Alors que OpenAI parlait largement de la surveillance d'Astra et de l'évitement d'une perte de contrôle du modèle, The Information a révélé :

Astra utilise une technologie appelée « Recurrent Depth ».

Les modèles traditionnels font passer les informations à travers un nombre fixe de couches réseau avant de générer le prochain token, tandis que la profondeur récurrente permet aux informations d'être traitées plusieurs fois au sein d'un même ensemble de couches réseau, équivalant à permettre au modèle de « réfléchir plusieurs fois » en interne.

Cette technologie vise à améliorer les capacités, à réduire les coûts et à permettre une plus grande partie du raisonnement de se produire à l'intérieur du modèle, sans être entièrement exprimée sous forme de texte lisible par les humains.

Autrement dit, le modèle peut réfléchir plus profondément, mais les humains deviennent de plus en plus incapables de le comprendre.

Nathan Calvin, qui suit de près les politiques de sécurité en matière d'IA, a averti que cette technologie pourrait compromettre la traçabilité des chaînes de raisonnement.

C'est très subtil :

OpenAI dit qu'il surveille ce qu'Astra pense, mais sa nouvelle technologie pourrait le rendre de plus en plus réticent à partager ses pensées.

Oh non...

Heureusement, The Information a révélé qu'OpenAI a désormais limité l'utilisation de cette technologie dans Astra.

Translate it now, while you can understand it; it might not be possible later.

De plus, il était largement rumored qu'Astra serait probablement lancée ce jeudi (3 septembre).

Avec la publication du dernier modèle 5.1 par l'entreprise A, cette affirmation semble de plus en plus raisonnable.

La mante religieuse capture la cigale, tandis que le pinson est derrière elle.

Qui a encore compris !

Lien de référence :

[1]https://x.com/xiangyuqi_pton/status/2094891059038069236?s=20

[2]https://xiangyuqi.com

[3]https://x.com/JiaweiLiu_/status/2094901279239921816?s=20

[4]https://jw-liu.xyz/

[5]https://x.com/sama/status/2094934592062959832?s=20

Cet article provient du compte officiel WeChat « Quantum Bit », auteur : Passionné de technologies de pointe