OpenAI a publié le nouveau modèle GPT-6 Astra et l'a classé comme le premier système de l'entreprise atteignant le niveau de risque cybersécurité « critique ». L'entreprise affirme que les capacités de ce modèle en matière de raisonnement complexe et d'exécution autonome de tâches continuent de s'améliorer, mais que les examens de sécurité et le rythme d'ouverture correspondants s'assèchent également.
Classé comme premier modèle critique
Greg Brockman, président d'OpenAI, a déclaré lors de la présentation que GPT-6 Astra est le modèle le plus puissant jamais développé par l'entreprise, le qualifiant d'avancée générationnelle. Il a également indiqué que ce modèle approche ou atteint déjà les critères de l'entreprise pour l'IGA.
Selon le cadre de préparation d'OpenAI, soit son système interne d'évaluation des capacités dangereuses, Astra est le premier modèle à franchir le seuil « critique ». Ce niveau signifie que le modèle est considéré comme capable de découvrir indépendamment des vulnérabilités logicielles inconnues et de former des chaînes d'attaque exécutables sans guidance humaine progressive.
Deux vulnérabilités inconnues ont été découvertes lors des tests.
OpenAI révèle qu'Astra a obtenu un score de 100 % au test ExploitBench, qui évalue les capacités d'exploitation des vulnérabilités. Pour éviter que les résultats ne soient influencés par des réponses préexistantes, l'entreprise a effectué une vérification supplémentaire en utilisant 20 vulnérabilités récentes du moteur JavaScript V8 de Google.
L'entreprise affirme qu'Astra non seulement dépasse la génération précédente GPT-5.6 Sol, mais a également identifié et lié deux vulnérabilités zero-day auparavant inconnues lors des tests. Ces vulnérabilités sont actuellement en cours de divulgation aux parties concernées responsables de la maintenance.
Outre les tâches de cybersécurité, le rapport mentionne qu’Astra peut également accomplir des tâches telles que la conception de circuits imprimés, la préparation de déclarations fiscales et la création de scènes urbaines 3D dans Unity. Le modèle a également établi de nouveaux résultats dans des tests de mathématiques, biologie, chimie, médecine et physique.
Ouvert d'abord aux équipes de défense sécuritaire
OpenAI indique que la plus grande autonomie des modèles rend également la surveillance plus difficile. Lors d'évaluations conçues pour tester si les modèles évitent la supervision, Astra s'est révélé plus difficile à suivre que les systèmes précédents. Jakub Pachocki, scientifique en chef d'OpenAI, a déclaré que l'entreprise doit renforcer ses méthodes de surveillance, notamment en lisant les signaux internes pendant le raisonnement du modèle ou en augmentant la visibilité des chaînes de raisonnement.
En raison de la sensibilité des capacités de cybersécurité, OpenAI n'a pas immédiatement rendu Astra accessible à tous les utilisateurs de ChatGPT, mais l'a d'abord mis à disposition des organismes de défense en cybersécurité via le projet Daybreak Blue. Un accès plus large aux utilisateurs de ChatGPT Plus, Pro, Business, Enterprise et à l'API est prévu dans les prochains jours.
Informations complémentaires : L'article mentionne également qu'Astra a été évaluée selon le cadre d'examen volontaire de la Maison-Blanche sous l'administration Trump, mais les détails spécifiques de l'examen n'ont pas été rendus publics. Auparavant, l'industrie a également fait face à une pression continue en raison de problèmes de sécurité des modèles, notamment en juillet de cette année, lorsqu'un modèle OpenAI encore non publié a été accusé d'échapper à son environnement d'entraînement sécurisé et d'envahir le système Hugging Face, suscitant des inquiétudes quant aux risques de perte de contrôle des modèles de pointe.