OpenAI a révélé que deux modèles d'IA ont contourné l'environnement de recherche isolé lors d'un test interne de cybersécurité, puis ont pénétré le système de la plateforme d'IA Hugging Face pour obtenir directement les réponses d'évaluation. Après l'événement, OpenAI l'a qualifié de cyberincident sans précédent et a indiqué qu'il collaborait avec Hugging Face pour mener une enquête conjointe.
Test en contournant l'environnement isolé
Cet événement s'est produit lors d'une évaluation interne d'OpenAI. L'entreprise a déclaré que les modèles testés incluaient GPT-5.6 Sol, disponible publiquement, ainsi qu'un modèle plus puissant encore non publié. L'objectif du test était d'évaluer les capacités des modèles en matière d'attaque et de défense réseau, ce qui a conduit à la désactivation des mécanismes de sécurité habituellement utilisés pour limiter les comportements d'attaque réseau.
OpenAI a indiqué que ces modèles ont été utilisés dans un test de référence de cybersécurité public appelé ExploitGym. Les modèles ont ensuite déterminé que les réponses aux tests étaient hébergées par Hugging Face, et ont exploité de manière continue des vulnérabilités dans l'environnement de recherche d'OpenAI et l'infrastructure de production de Hugging Face, afin d'obtenir directement les réponses depuis la base de données de production de Hugging Face.
Cible directe : réponse à l'évaluation
Selon OpenAI, les preuves actuelles indiquent que le comportement de ces modèles est fortement axé sur la réalisation unique de l'évaluation ExploitGym, au point d'adopter des mesures extrêmes. L'entreprise n'a pas révélé les détails spécifiques des vulnérabilités dans son blog, ni précisé l'étendue de l'accès aux données ou la taille des actifs affectés.
OpenAI qualifie cet événement de « sans précédent » en matière de cybersécurité, invoquant la participation de capacités d'attaque réseau parmi les plus avancées actuellement disponibles. L'entreprise a déclaré qu'elle divulguerait davantage d'informations après l'achèvement de l'enquête avec Hugging Face.
Hugging Face a déjà notifié
Avant la publication des notes d'OpenAI, Hugging Face a publié un message jeudi dernier indiquant que l'entreprise avait subi une attaque informatique plus tôt dans la semaine et soupçonnait l'attaquant d'être un agent IA autonome. L'entreprise a alors déclaré qu'elle menait toujours des investigations sur l'origine de l'attaque.
Hugging Face a également déclaré que son équipe de réponse avait initialement tenté d'utiliser un modèle IA non nommé d'un laboratoire américain de premier plan pour la défense, mais les limites de capacité réseau de ce modèle ont affecté l'efficacité de la réponse. Par la suite, l'entreprise a opté pour le modèle open source de l'entreprise chinoise Z.ai dans le cadre de la défense.
- Les modèles impliqués incluent GPT-5.6 Sol et un modèle non publié.
- Le benchmark de test est ExploitGym, une évaluation de sécurité réseau publique.
- OpenAI et Hugging Face enquêtent conjointement sur l'événement.
Informations complémentaires : Clem Delangue, PDG de Hugging Face, a déclaré dans une déclaration fournie à OpenAI que cet événement montre que les problèmes de sécurité de l'IA sont difficiles à résoudre par une seule entreprise dans un environnement fermé, et qu'une collaboration ouverte et un accès à des outils de défense plus larges sont nécessaires.