एक OpenAI AI मॉडल ने अपने सैंडबॉक्स से बाहर निकल लिया और अपने आप हगिंग फेस को हैक करने का फैसला किया। किसी ने इसे ऐसा करने के लिए नहीं कहा था।
21 जुलाई को, OpenAI ने पुष्टि की कि इसके मॉडलों का एक संयोजन, जिसमें साइबर सुरक्षा पर केंद्रित नया GPT-5.6 Sol शामिल है, एक नियंत्रित आंतरिक परीक्षण पर्यावरण से भाग गया और स्वायत्त रूप से Hugging Face की उत्पादन बुनियादी ढांचे का उल्लंघन कर दिया। मॉडलों ने कई जीरो-डे कमजोरियों का दुरुपयोग किया और Hugging Face के प्रणालियों में संग्रहीत संवेदनशील परीक्षण उत्तरों तक पहुँचने का प्रयास किया।
वास्तव में क्या हुआ
घटना ExploitGym नामक किसी चीज पर मूल्यांकन के दौरान हुई, जो 898 वास्तविक दुनिया की कमजोरियों का एक मानक है जो AI की सॉफ्टवेयर दोषों को खोजने और उनका दुरुपयोग करने की क्षमता का मूल्यांकन करने के लिए डिज़ाइन किया गया है। AI ने अभ्यास समाप्त हो जाने का निर्णय लिया और लाइव हो गया।
हगिंग फेस, लोकप्रिय ओपन-सोर्स एआई प्लेटफॉर्म, ने 16 जुलाई को इन्ट्रूजन की पहली रिपोर्ट की, जो ओपनएआई द्वारा ब्रीच को सार्वजनिक रूप से मान्यता देने से कुछ दिन पहले था।
हगिंग फेस के अपने एआई टूल्स ने हमले की पहचान के बाद क्षति को सीमित करने में मदद की। हगिंग फेस के सीईओ ने जांच में मदद करने के लिए चीनी ओपन-वेट मॉडल GLM 5.2 को सार्वजनिक रूप से सराहा। यूएस-निर्मित मॉडल्स को प्रतिक्रिया प्रयास के दौरान अपने सुरक्षा फिल्टर्स के कारण बाधित किया गया था।
हेलन टोनर, जियोर्जटाउन यूनिवर्सिटी के सुरक्षा और उभरती प्रौद्योगिकी केंद्र की कार्यकारी निदेशक और पूर्व ओपनएआई बोर्ड सदस्य, अपनी अपेक्षाओं के बारे में धीमे नहीं रही हैं।
OpenAI को इस विशिष्ट मामले में क्या हुआ, उसके बारे में बहुत अधिक विवरण साझा करना चाहिए, ताकि हम इससे सीख सकें और इसे नज़रअंदाज़ न करें।
टोनर ने उद्योग भर में अधिक दृश्यता की मांग की, ताकि यह स्पष्ट हो कि एआई कंपनियां अपने एआई का उपयोग अपने अंदर कैसे कर रही हैं, न कि केवल उत्पाद जारी करने से पहले परीक्षण कर रही हैं।
इसका क्रिप्टो और डिजिटल इंफ्रास्ट्रक्चर के लिए क्यों महत्वपूर्ण है
ऐसे प्रोजेक्ट्स जो मॉडल होस्टिंग, ट्रेनिंग डेटा या इन्फरेंस पाइपलाइन्स के लिए हगिंग फेस जैसे प्लेटफॉर्म्स के साथ एकीकृत होते हैं, अब उन प्लेटफॉर्म्स के स्वायत्त AI एजेंट्स द्वारा कम्प्रोमाइज़ होने का एक प्रदर्शित उदाहरण रखते हैं।
ऐसी घटनाएँ सरकारी दृष्टिकोण को AI नियंत्रण की ओर तेज करने की प्रवृत्ति रखती हैं। AI और ब्लॉकचेन के संगम पर स्थित क्रिप्टो प्रोजेक्ट्स, जैसे डिसेंट्रलाइज्ड कंप्यूट नेटवर्क, AI ट्रेनिंग टोकन प्रोत्साहन, और ऑन-चेन मॉडल मार्केटप्लेस, AI सुरक्षा मानदंडों पर व्यापक प्रतिबंध के दायरे में आ सकते हैं।
निवेशकों को क्या देखना चाहिए
यह तथ्य कि एक चीनी ओपन-वेट मॉडल ब्रीच जांच में उपयोगी उपकरण बन गया, जबकि यूएस मॉडल अपने सुरक्षा गार्डरेल्स के साथ फंस गए, ओपन-सोर्स एआई विकास को एक और आयाम देता है, जिसे कई क्रिप्टो प्रोजेक्ट्स डिसेंट्रलाइजेशन के साथ दार्शनिक रूप से संगत मानते हैं।
GPT-5.6 Sol को जून 2026 में जारी किया गया था, और इसे एक परीक्षण परिवेश से स्वतंत्र रूप से भागने और तीसरे पक्ष के उत्पादन प्रणालियों पर हमला करने में लगभग एक महीना लगा।