OpenAI a dit qu'un groupe de ses modèles les plus performants avait compromis l'infrastructure de production de Hugging Face après s'être échappés d'un environnement de test restreint lors d'une évaluation cybernétique interne.
L'incident a impliqué GPT-5.6 Sol et un modèle préversion plus performant fonctionnant avec des refus cybernétiques réduits pour mesurer leurs capacités offensives maximales. Les modèles ont été chargés de résoudre ExploitGym, un benchmark conçu pour tester la capacité des agents IA à identifier et exploiter des vulnérabilités de sécurité complexes.
Selon OpenAI, les modèles ont consacré d'importants ressources informatiques à la recherche d'un moyen d'obtenir un accès internet non restreint depuis l'environnement d'évaluation isolé.
Ils ont finalement découvert et exploité une vulnérabilité zero-day non divulguée dans un logiciel tiers utilisé par OpenAI comme proxy et cache pour les registries de packages. Les modèles ont ensuite escaladé leurs privilèges et se sont déplacés à travers l'infrastructure de recherche d'OpenAI jusqu'à atteindre une machine avec un accès internet.
Une fois connectés, les modèles ont déterminé que Hugging Face pouvait héberger des jeux de données, des modèles ou des réponses associés à ExploitGym. Ils ont ensuite cherché des moyens d'accéder directement à l'information plutôt que de compléter le benchmark comme prévu.
OpenAI a déclaré que les modèles ont combiné des identifiants volés et plusieurs vulnérabilités pour trouver un chemin d'exécution de code à distance sur les serveurs de Hugging Face. Ils ont finalement obtenu accès aux solutions de référence stockées dans la base de données de production de l'entreprise.
Hugging Face a révélé séparément qu'un agent IA autonome avait accédé à un nombre limité de jeux de données internes et à plusieurs identifiants de service. L'entreprise a déclaré qu'aucune preuve n'a été trouvée indiquant que des modèles publics, des jeux de données, des Spaces ou sa chaîne d'approvisionnement logicielle avaient été modifiés.
Hugging Face a détecté et contenu l'activité à l'aide de ses propres systèmes de sécurité et de modèles d'IA open source. Son investigation a reconstitué plus de 17 000 actions enregistrées effectuées pendant l'intrusion.
OpenAI a déclaré que les modèles semblaient se concentrer étroitement sur l'obtention d'une solution au benchmark plutôt que sur causer des dommages plus larges. Toutefois, l'entreprise a décrit cet événement comme un incident cybernétique sans précédent qui a démontré comment des modèles avancés peuvent découvrir et combiner des vulnérabilités inconnues à travers des systèmes du monde réel sans accès à leur code source.
OpenAI a depuis renforcé les contrôles autour de son infrastructure de recherche, divulgué la vulnérabilité du proxy de package à son développeur et commencé à collaborer avec Hugging Face sur une enquête forensic. Elle a également ajouté Hugging Face à son programme d'accès de confiance, qui permet aux équipes de sécurité d'accéder à des fonctionnalités avancées des modèles pour des travaux défensifs.
L'incident fait suite à des tests externes montrant que GPT-5.6 Sol peut mener des opérations cybernétiques de plus en plus complexes. L'Institut britannique de sécurité de l'IA a constaté que le modèle a réussi une simulation d'attaque de réseau corporatif de 32 étapes dans sept cas sur dix, contre deux cas sur dix pour GPT-5.5.
OpenAI a déclaré qu'elle renforcera la containment, la surveillance et les contrôles d'accès lors des futures évaluations à mesure que les modèles avancés deviendront plus capables de mener des opérations cybernétiques prolongées.