OpenAI a déclaré que ses agents de sécurité autonomes ont identifié 948 vulnérabilités distinctes dans le noyau Linux, développé des codes d'exploitation fonctionnels et rédigé des correctifs à soumettre à examen — tout cela ayant coûté environ 1,2 million de dollars en crédits API.
OpenAI a déclaré dans les résultats publiés mercredi : « Nous avons choisi Linux pour étudier dans quelle mesure les modèles de pointe peuvent découvrir des vulnérabilités et démontrer leur impact sécuritaire sur une base de code d'une telle taille et importance. »
Le noyau Linux prend en charge les serveurs cloud, les appareils Android et de nombreuses infrastructures informatiques critiques dans le monde entier. La vulnérabilité identifiée dans cette expérience d'OpenAI est une vulnérabilité d'élévation de privilèges locale : un attaquant doit d'abord disposer d'un accès limité à la machine vulnérable, mais pourra ensuite obtenir des privilèges root et contrôler complètement le système.
948 vulnérabilités, 1169 exploits disponibles
L'agent d'OpenAI a analysé environ 2,8 millions de lignes de code noyau, soit environ 7 % du projet. OpenAI déclare : « Notre prototype a identifié et analysé 2 308 candidats à la découverte dans le noyau Linux, reproduit dynamiquement 1 724 vulnérabilités et généré 948 exploits d'élévation de privilèges locaux (LPE) pouvant permettre à des utilisateurs locaux non autorisés d'obtenir un accès root. »
Après avoir regroupé les exploits selon les causes racines et les solutions proposées, les chercheurs ont dénombré 948 vulnérabilités distinctes.
Ce run d'octobre a coûté 1 213 430 dollars en crédits API, soit environ 1 279 dollars par vulnérabilité. OpenAI compare ce chiffre aux récompenses historiques de 20 000 à 70 000 dollars pour les vulnérabilités d'élévation de privilèges Linux dans les concours de piratage, estimant que la valeur théorique de ce résultat, s'il avait été trouvé manuellement, se situerait entre 18,9 et 66,3 millions de dollars.
OpenAI a également indiqué qu'en juillet, une version antérieure du modèle GPT-5.6 Sol avait détecté 166 vulnérabilités d'élévation de privilèges à un coût de 513 690 dollars. En octobre, malgré des correctifs appliqués pendant plusieurs mois sur le noyau, un modèle de cybersécurité plus récent mais encore non publié a identifié plus de cinq fois plus de vulnérabilités.
OpenAI a également indiqué que ses agents utilisaient au moins 10 techniques d'exploitation inconnues des chercheurs et des experts externes qu'ils ont consultés, et non seulement des compétences déjà existantes extraites des données d'entraînement.
Que se passerait-il si les pirates obtenaient les mêmes outils ?
Les entreprises d'IA ont découvert une faille critique, ce qui constitue un autre exemple démontrant que ces systèmes sont capables d'effectuer des recherches avancées en cybersécurité, une tâche qui nécessitait auparavant une grande expertise humaine.
La semaine dernière, Anthropic a révélé qu'une de ses versions non encore publiées de Claude avait découvert et exploité des vulnérabilités graves dans des logiciels largement utilisés, notamment Chrome et Linux. Certaines de ces vulnérabilités permettent l'exécution à distance de code malveillant avec presque aucune interaction de l'utilisateur.
L'économie de ce type de recherche avait déjà changé avant la publication d'OpenAI.
Les chercheurs de Vidoc Security ont reproduit plusieurs découvertes de vulnérabilités liées au puissant Mythos AI d'Anthropic en utilisant des modèles publiquement disponibles, à un coût inférieur à 30 dollars par fichier.
Ces tests montrent que la découverte de vulnérabilités devient de plus en plus facile, mais reproduire une vulnérabilité ne revient pas à développer un code d'exploitation fiable capable de compromettre des systèmes protégés.
La dernière expérience d'OpenAI automatise davantage ce processus d'exploitation, ce qui pourrait donner aux défenseurs un avantage pour corriger les logiciels avant que les criminels n'exploitent les mêmes vulnérabilités.
L'entreprise a averti que les attaquants ayant un accès limité sur des systèmes d'exploitation obsolètes pourraient de plus en plus utiliser l'IA pour élever leurs privilèges.
OpenAI tente de limiter l'accès à ses modèles de cybersécurité plus puissants via des projets de sécurité vérifiés. Son programme Daybreak Red fournit aux défenseurs autorisés des outils AI dédiés pour la recherche de vulnérabilités, les tests d'exploitation et le développement de solutions d'atténuation.