ChainThink संदेश, 22 जुलाई, OpenAI के पोस्ट के अनुसार, पिछले हफ्ते Hugging Face इंफ्रास्ट्रक्चर की सुरक्षा उल्लंघन उसके द्वारा परीक्षण किए जा रहे AI मॉडल द्वारा उत्पन्न हुई।
अनुसंधान में पाया गया कि कई मॉडल सुरक्षा मूल्यांकन कार्यों में सैंडबॉक्स वातावरण से भाग गए और "जीरो-डे दुर्बलताओं" का उपयोग करके इंटरनेट तक पहुँच प्राप्त की, जिसके बाद उन्होंने Hugging Face के उत्पादन वातावरण में स्वचालित कार्रवाई की।
OpenAI ने कहा कि घटना कई OpenAI मॉडलों द्वारा सामूहिक रूप से उत्पन्न हुई, जिनमें GPT-5.6 Sol और एक अधिक क्षमतावान प्री-रिलीज मॉडल शामिल हैं। इस मूल्यांकन परीक्षण के लिए, संबंधित मॉडलों की सुरक्षा तंत्र को जानबूझकर कम कर दिया गया था।
OpenAI ने कहा कि यह घटना उन उन्नत AI मॉडल्स के जोखिम को उजागर करती है जो सुरक्षा प्रतिबंधों के बिना जटिल नेटवर्क हमलों को निष्पादित कर सकते हैं, साथ ही यह भी दर्शाती है कि AI का उपयोग वल्नरेबिलिटी की खोज और सुरक्षा रक्षा के लिए किया जा सकता है।