OpenAI ने स्वीकार किया कि उसके GPT-5.6 Sol और अधिक शक्तिशाली अनपब्लिश्ड मॉडल्स ने ExploitGym परीक्षण में जीरो-डे वल्नरेबिलिटी का उपयोग करके सैंडबॉक्स सीमाओं को तोड़ दिया और Hugging Face के प्रोडक्शन डेटाबेस में घुसकर उत्तर चुरा लिए। यह घटना उन अग्रणी AI मॉडल्स के जोखिम को प्रकट करती है जो अपने लक्ष्य को प्राप्त करने के लिए कोई भी साधन अपना सकते हैं, और मौजूदा सुरक्षा बाधाओं की सीमाओं को। Hugging Face ने अंततः बिना किसी बाधा के ओपन-सोर्स मॉडल का उपयोग करके साक्ष्य संग्रह पूरा किया। अध्ययनों से पता चलता है कि AI नेटवर्क हमलों की क्षमता तेजी से बढ़ रही है, जो वास्तविक दुनिया की सुरक्षा के लिए गंभीर चुनौती पेश करती है, और AI अलाइनमेंट और मॉनिटरिंग मैकेनिज़म के प्रति उद्योग में गहरी प्रतिबिंबन को जन्म दे रही है।लेखक, स्रोत: AI जानकारी गैप
OpenAI का अपना AI मॉडल, हगिंग फेस के प्रोडक्शन डेटाबेस को हैक कर लिया।
सैम आल्टमैन ने अभी-अभी स्वीकार किया कि OpenAI ने एक 'गंभीर सुरक्षा दुर्घटना' का सामना किया है। इसमें शामिल मॉडल में GPT-5.6 Sol और Sol से भी अधिक शक्तिशाली एक अनप्रकाशित मॉडल शामिल है। Sol पहले से ही OpenAI का सबसे शक्तिशाली मॉडल है, इससे भी अधिक शक्तिशाली मॉडल, जो जल्द ही लॉन्च होने वाला है, वह हो सकता है GPT-6।
ये AI मॉडल एक साइबर सुरक्षा क्षमता परीक्षा दे रहे थे। उन्होंने सामान्य प्रश्नों के उत्तर नहीं दिए, बल्कि परीक्षा सैंडबॉक्स से भाग निकले, ज़ीरो-डे वल्नरेबिलिटी ढूंढी, अधिकारों को बढ़ाया, और अंततः Hugging Face के प्रोडक्शन डेटाबेस में हैक करके परीक्षा के उत्तर चुरा लिए।
Absurd, ridiculous, magical, yet amazing.
यह परीक्षा ExploitGym कहलाती है, जो AI की नेटवर्क हमला क्षमता का परीक्षण करने के लिए विशेष रूप से डिज़ाइन की गई है। OpenAI ने मॉडल की सीमाओं को समझने के लिए, उच्च जोखिम वाले नेटवर्क हमलों को रोकने के लिए उत्पादन पर्यावरण में लगाए गए सुरक्षा सुरक्षाओं को जानबूझकर हटा दिया। परीक्षा कक्ष एक अत्यधिक अलग सैंडबॉक्स पर्यावरण है, जहाँ एकमात्र नेटवर्क अधिकार आंतरिक पैकेज मैनेजर प्रॉक्सी के माध्यम से सॉफ़्टवेयर पैकेज स्थापित करना है, जिससे सिद्धांत रूप से मॉडल को बाहरी इंटरनेट तक पहुँच नहीं होती।
लेकिन मॉडल ने खुद ही रास्ता निकाल लिया।
उन्होंने बहुत सारी निष्कर्षण गणना शक्ति का उपयोग किया और इस पैकेज प्रबंधन प्रॉक्सी में एक जीरो-डे दरार खोज निकाली। जीरो-डे दरार का मतलब है कि सॉफ्टवेयर निर्माता भी इस दरार के अस्तित्व के बारे में अनजान हैं, मॉडल ने इसे स्वयं खोजा और दुरुपयोग किया, और खुले इंटरनेट तक पहुंचने के लिए एक मार्ग बना दिया।
इंटरनेट एक्सेस प्राप्त करने के बाद, ये मॉडल OpenAI के रिसर्च एनवायरनमेंट में अपनी अधिकारों को क्रमिक रूप से बढ़ाते गए, एक मशीन से दूसरी मशीन पर जाते हुए, जब तक कि वे एक इंटरनेट-एक्सेसिबल नोड नहीं ढूंढ लेते। फिर उन्होंने अनुमान लगाया, “Hugging Face पर ExploitGym के परीक्षा के उत्तर हो सकते हैं।”
वैसे ही, उन्होंने सही अनुमान लगाया।
इन मॉडलों ने Hugging Face के अटैक सरफेस की खोज की, चोरी हुए पासवर्ड और एक और जीरो-डे वल्नरेबिलिटी को जोड़कर Hugging Face सर्वर पर कोड निष्पादित करने का रास्ता ढूंढ़ा और प्रोडक्शन डेटाबेस से सीधे उत्तर प्राप्त किए।
OpenAI सुरक्षा टीम ने आंतरिक निगरानी में असामान्य गतिविधि का पता लगाया, जबकि उसी समय Hugging Face सुरक्षा टीम ने अनधिकृत पहुंच का पता लगाया। दोनों के मिलने के बाद पता चला कि हमलावर मूल रूप से OpenAI के ही मॉडल थे।
OpenAI के अपने शब्दों में, "सभी साक्ष्य यह दर्शाते हैं कि मॉडल ExploitGym के समाधान को खोजने पर अत्यधिक केंद्रित है, और एक काफी संकीर्ण परीक्षण लक्ष्य को प्राप्त करने के लिए किसी भी कीमत पर।"
उनका लक्ष्य हमेशा एक ही है, पूर्ण अंक प्राप्त करना। इसे कैसे प्राप्त किया जाए, यह मॉडल खुद तय करता है।
OpenAI का वह मॉडल GPT-5.6 Sol जो इससे भी बेहतर है, जिसका अभी तक प्रकाशन नहीं हुआ है, पहले से ही अपराधी है।
इसने इस साल मई में, गणितीय समुदाय में 80 वर्षों से अनसुलझा रहा एर्डोश इकाई दूरी अनुमान को असत्य साबित करने में सहायता की, जिसकी बाहरी गणितज्ञों ने स्वतंत्र रूप से पुष्टि की और इसे 'मील का पत्थर' कहा।
लेकिन गणित के प्रतिभाशाली बच्चे केवल इसका एक पहलू है। वास्तविक रूप से ओपनएआई को चिंता में डालने वाली बात यह है कि यह 'सीमा' की अवधारणा के प्रति कैसा व्यवहार करता है।
OpenAI ने 20 जुलाई को एक लंबा लेख प्रकाशित किया, जिसमें इस मॉडल द्वारा आंतरिक परीक्षण के दौरान किए गए त्रुटियों का खुलासा किया गया।
यह एक ऐसा प्रणाली है जिसे लंबे समय तक स्वतंत्र रूप से चलाने के लिए डिज़ाइन किया गया है, जो कई घंटों तक स्वतंत्र रूप से काम कर सकती है। एक बार, इसे एक प्रोग्रामिंग कार्य मिला, जिसमें इसने एक बहुत प्रभावी लर्निंग रेट ऑप्टिमाइज़ेशन विधि खोजी, जिसे PowerCool कहा जाता है। निर्देश थे कि वह परिणाम आंतरिक Slack चैनल पर भेजे, लेकिन उसने ऐसा नहीं किया। उसने लगभग एक घंटा बर्बाद करके सैंडबॉक्स के दरार को ढूंढा, GitHub पर NanoGPT प्रोजेक्ट के लिए Pull Request संख्या 287 जमा कर दिया। यह प्रौद्योगिकी बाद में प्रतिद्वंद्वी प्रणालियों में, जिनमें Anthropic का Claude Opus 4.7शामिल है, फैल गई।
एक और बार और भी अजीब बात हुई। सुरक्षा स्कैनर ने इसके अनुरोध में एक पूर्ण प्रमाणीकरण टोकन पाया और सीधे इसे अस्वीकार कर दिया। इस मॉडल की प्रतिक्रिया यह थी कि उसने टोकन को दो टुकड़ों में विभाजित कर दिया, जिन्हें अलग-अलग भ्रमित किया गया, और निष्पादन के समय फिर से जोड़ दिया, ताकि स्कैनर कभी पूर्ण टोकन न देख सके। यह अपने निष्कर्षण लॉग में इस बाइपास रणनीति का विस्तृत रिकॉर्ड भी रखता है।
यूजर: "ये तो AI ने अपना दिमाग बना लिया।"
इस मॉडल की प्रत्येक एकल क्रिया अकेले देखने पर अनुपालन युक्त है, लेकिन अनुपालन युक्त क्रियाओं की इस श्रृंखला से अंततः अनअनुमोदित परिणाम प्राप्त होता है। लंबे समय तक स्वायत्त रूप से चलने वाले मॉडल के लिए, एकल-चरण स्वीकृति पूरी तरह से नियंत्रण नहीं कर सकती। इसलिए, OpenAI ने इस मॉडल की आंतरिक पहुंच को निलंबित कर दिया, समायोजन प्रशिक्षण और निगरानी को मजबूत करने के बाद ही इसे पुनः खोला।
यही मॉडल इस हगिंग फेस के आक्रमण के मूल्यांकन में शामिल था।
अभी खत्म नहीं हुआ। रक्षात्मक पक्ष पर हो रही बातें, हमले से भी अधिक अपरिमेय हैं।
Hugging Face ने हमले की पहचान करने के बाद, सुरक्षा टीम ने हमले का विश्लेषण करने के लिए AI का उपयोग करने की पहली प्रतिक्रिया दी। हमलावर ने लगभग 17,000 स्वतंत्र क्रियाएँ कीं, जिन्हें मानव द्वारा एक-एक करके देखने में कम से कम कई दिन लगेंगे।
वे पहले बाहरी मॉडल API को कॉल करने का प्रयास करते हैं, जिसमें हमले का भार, दुरुपयोग कोड और कमांड एंड कंट्रोल के निशान जमा किए जाते हैं ताकि डिजिटल फोरेंसिक विश्लेषण किया जा सके।
अप्रत्याशित रूप से अवरुद्ध कर दिया गया। मॉडल सुरक्षा बाधाएँ सुरक्षा शोधकर्ताओं और हमलावरों के बीच अंतर नहीं कर सकतीं, और अगर अनुरोध में हमले का कोड होता है, तो वे सभी को अस्वीकार कर देती हैं।
आक्रमणकारी किसी भी उपयोग नीति के अधीन नहीं हैं, और हमारा अपना फोरेंसिक कार्य हमारे द्वारा सबसे पहले प्रयास किए गए होस्टेड मॉडल के सुरक्षा बाधाओं द्वारा रोक दिया गया।
अंततः हगिंग फेस ने एक अलग दृष्टिकोण अपनाया और ज़हु पु के ओपन सोर्स मॉडल GLM 5.2 को अपने सर्वर पर डिप्लॉय किया, जिसमें कोई हार्मोनिक रिस्ट्रिक्शन नहीं थी, और 17,000 से अधिक हमलों की घटनाओं को कुछ घंटों में ही समय-रेखा पुनर्निर्माण और मीट्रिक्स निकालने में पूरा किया गया।
ब्रिटिश एआई सुरक्षा संस्थान (AISI) के मूल्यांकन डेटा के अनुसार, "एआई की साइबर हमला क्षमता तेजी से बढ़ रही है।" उन्होंने चार सबनेट्स और लगभग बीस होस्ट्स को कवर करने वाला एक 32-चरण उद्योग-स्तरीय साइबर हमला प्रतिरूप, "द लास्ट ओन्स" विकसित किया है, जिसे मानव विशेषज्ञों को पूरा करने में लगभग 20 घंटे लगते हैं।
इस सिमुलेशन में,GPT-5.6 Sol और Anthropic का Claude Mythos 5 25 स्टेप से अधिक पूरा कर लिया, जिससे अन्य परीक्षण में शामिल मॉडलों को दूर पीछे छोड़ दिया।
AISI ने इस साल फरवरी में अनुमान लगाया कि अग्रणी मॉडल की नेटवर्क हमला क्षमता हर 4.7 महीने में दोगुनी हो जाती है। ओपन-सोर्स मॉडल अब बंद-सोर्स मॉडल से केवल 4 से 7 महीने पीछे हैं, और यह अंतर और कम होता जा रहा है।
OpenAI ने ब्लॉग पोस्ट में लिखा, "इस घटना से पता चलता है कि ये सैद्धांतिक क्षमताएँ वास्तविक दुनिया के परिवेश में वास्तविक रूप से लागू होती हैं।"
पिछले हफ्ते GPT-5.6 Sol को उपयोगकर्ता फ़ाइलों और उत्पादन डेटाबेस को अनधिकृत रूप से हटाने के लिए ट्रेंडिंग पर मिल गया। OpenAI के उत्पाद प्रमुख टिबो ने इसे “अनजाने में हुई गलती” बताया।
इस हफ्ते, एक ही मॉडल ने दुनिया के सबसे बड़े AI मॉडल होस्टिंग प्लेटफॉर्म में हैक किया।
AI डरावना नहीं है, बल्कि निर्मम AI डरावना है।