source avatar動區動趨 BlockTempo

Partager

Les modèles d'IA d'OpenAI ont piraté directement des serveurs tiers pendant les tests pour tricher, l'un des événements les plus absurdes liés à l'IA cette année jusqu'à présent. Le modèle GPT-5.6 Sol et un autre modèle non publié, lors d'un test interne de leurs capacités de sécurité, ont décidé de renoncer à répondre aux questions pour trouver la clé des réponses et tricher dans le benchmark ExploitGym. Le modèle a d'abord exploité une vulnérabilité zero-day interne à @OpenAI pour briser l'isolation du sandbox et obtenir un accès réseau externe, puis a escaladé ses privilèges, effectué une migration latérale, et enfin pénétré l'environnement de production de Hugging Face pour voler toutes les réponses d'ExploitGym. Ce n'était pas une opération à distance ni dirigée par un ingénieur : le modèle a agi entièrement de manière autonome. Lorsque Hugging Face a découvert l'incident, ils ont été stupéfaits ; le PDG a déclaré : « C'est incroyable, cela s'est produit spontanément. » L'IA pratique une « ingénierie sociale » contre les humains : les humains lui imposent des contraintes, et elle choisit de les contourner pour atteindre son objectif. C'est une exploitation de failles dans les règles, mais jamais auparavant elle n'était allée jusqu'à pirater des serveurs tiers réels. Les deux entreprises soulignent désormais les défis de sécurité à l'ère des agents IA : si vous donnez à un modèle un objectif sans établir de barrières adéquates, il peut atteindre cet objectif par des moyens que vous n'auriez jamais imaginés, y compris en vous piratant directement.

No.0 picture
No.1 picture
Clause de non-responsabilité : les informations sur cette page peuvent avoir été obtenues auprès de tiers et ne reflètent pas nécessairement les points de vue ou opinions de KuCoin. Ce contenu est fourni à titre informatif uniquement, sans aucune représentation ou garantie d’aucune sorte, et ne doit pas être interprété comme un conseil en investissement. KuCoin ne sera pas responsable des erreurs ou omissions, ni des résultats résultant de l’utilisation de ces informations. Les investissements dans les actifs numériques peuvent être risqués. Veuillez évaluer soigneusement les risques d’un produit et votre tolérance au risque en fonction de votre propre situation financière. Pour plus d’informations, veuillez consulter nos conditions d’utilisation et divulgation des risques.