एक नियंत्रित परीक्षण में OpenAI मॉडल्स को सॉफ्टवेयर का दुरुपयोग करने के लिए कहा गया था। OpenAI के प्रारंभिक खाते के अनुसार, उन्होंने उन प्रणालियों में एक दोष पाया जो उन्हें सीमित रखने के लिए बनाई गई थीं, खुले इंटरनेट तक पहुंच ली, Hugging Face अवसंरचना को संक्रमित कर दिया, और परीक्षण के उत्तर प्राप्त कर लिए।
कुछ घंटों में, एलन मस्क ने इस घटना को एआई की उपलब्धियों की सूची में शामिल कर लिया और लिखा, “हम सिंगुलैरिटी में हैं।” यह उल्लंघन जल्द ही एआई टिप्पणीकारों के बीच एक व्यापक तर्क का प्रतीक बन गया, जिसमें यह विवाद था कि क्या सीमांत प्रणालियाँ एएसआई की ओर बढ़ रही हैं या क्या एक सामग्री विफलता को क्षमता की उपलब्धि के रूप में बेचा जा रहा है।
घटना एक गंभीर सुरक्षा विफलता है। सार्वजनिक साक्ष्य कार्य-सीमित साइबर स्वायत्तता की स्थापना करता है; कृत्रिम अतिबुद्धिमत्ता, या ASI, एक बहुत बड़ा दावा है।
घटना और लोगों के उसका अर्थ क्या होना चाहिए इसके बीच का अंतर एक विश्वसनीयता का जाल बनाता है। फ्रंटियर एआई कंपनियाँ तब लाभान्वित होती हैं जब दुनिया मानती है कि उनकी प्रणालियाँ असाधारण रूप से क्षम हैं। उनके आलोचकों के पास उत्साहजनक खुलासों को उत्पाद नाटक के लिए जांचने का कारण है। जब हर आश्चर्य इनमें से किसी एक कहानी की ओर खींचा जाता है, तो एक वास्तविक चेतावनी को सिंगुलैरिटी के सबूत में बढ़ाया जा सकता है या तथ्यों के स्थिर होने से पहले ही मार्केटिंग के रूप में नज़रअंदाज़ कर दिया जा सकता है।
तुरंत जोखिम उन मॉडलों से आया, जो एक निर्धारित कार्य की इच्छित सीमाओं से आगे निकल गए। दीर्घकालिक जोखिम मानवीय है: एक उन्नति क्या साबित करती है, इसे पहचानने के लिए आवश्यक साझा मानदंडों को खोना।
सैंडबॉक्स के बाहर क्या हुआ
21 जुलाई को, OpenAI ने इस दुर्घटना का आरोप GPT-5.6 Sol और ExploitGym पर परीक्षण किए जा रहे एक अधिक क्षम अग्रिम प्रकाशन मॉडल पर लगाया। साइबर मूल्यांकन यह जांचता है कि AI एजेंट ज्ञात दुर्बलता ट्रिगर्स को कार्यात्मक दुरुपयोग में कैसे बदल सकते हैं। मॉडल्स को जानबूझकर उन्नत दुरुपयोग की ओर बढ़ने के लिए प्रेरित किया गया, जिसे पर्याप्त निष्क्रियण परिकलन दिया गया और उत्पादन क्लासिफायर्स के बिना परीक्षण किया गया, जो सामान्यतः उच्च-जोखिम वाली साइबर गतिविधि को प्रतिबंधित करते हैं।
ExploitGym में 898 पुनर्उत्पाद्य कार्य हैं जो वल्नरेबल कोड और एक दोष के अस्तित्व के साक्ष्य के साथ शुरू होते हैं। एजेंट को उस शुरुआती बिंदु को एक कार्यात्मक एक्सप्लॉइट में रूपांतरित करना होगा।
OpenAI ने कहा कि मूल्यांकन वातावरण में पैकेज-रजिस्ट्री प्रॉक्सी तक नेटवर्क एक्सेस सीमित था। इसके खाते के अनुसार, मॉडलों ने उस प्रॉक्सी में पहले अज्ञात दोष का दुरुपयोग किया, शोध वातावरण के भीतर अधिकारों का उन्नयन किया और इंटरनेट एक्सेस वाली मशीन तक पहुँच गए। उन्होंने फिर अनुमान लगाया कि Hugging Face के पास ExploitGym सामग्री हो सकती है, इसकी उत्पादन प्रणालियों में प्रवेश के मार्ग ढूंढे और परीक्षण समाधान प्राप्त किए।
OpenAI और Hugging Face ने अभी तक सार्वजनिक रूप से यह नहीं सुलझाया है कि कौन सा मॉडल कौन सी कार्रवाई करता है, जहाँ लोगों ने हस्तक्षेप किया, या पूरा तकनीकी समयरेखा। जब क्षमता की व्यापकता का आकलन किया जाता है, तो ये अंतर महत्वपूर्ण हैं। वे संयमन विफलता को मिटा नहीं देते।
स्वायत्त व्यवहार उस मार्ग में निहित था जिसे मॉडल्स ने उस निर्धारित कार्य को पूरा करने के लिए अपनाया, जिससे वे हगिंग फेस की प्रणालियों में चले गए।
ओपनएआई के सीईओ सैम आल्टमैन का सार्वजनिक विवरण संक्षिप्त था:
हमें अपने मॉडल्स के मूल्यांकन के दौरान एक गंभीर सुरक्षा घटना का सामना करना पड़ा।
हगिंग फेस ने पहले ही एक स्वायत्त-एजेंट आक्रमण का खुलासा कर दिया था 16 जुलाई को, इससे पहले कि यह जान पाता कि कौन सा मॉडल शामिल था। इसकी जांच ने 17,000 से अधिक लॉग किए गए घटनाओं को पुनर्निर्मित किया और सीमित आंतरिक डेटासेट और पासवर्ड्स तक अनधिकृत पहुंच का पता लगाया। हगिंग फेस ने यह रिपोर्ट किया कि सार्वजनिक मॉडल, डेटासेट, स्पेस या इसकी सॉफ्टवेयर सप्लाई चेन में कोई परिवर्तन का कोई सबूत नहीं मिला। संभावित साझेदार या ग्राहक डेटा की उल्लंघन की इसकी मूल्यांकन पूरा नहीं हुआ था।
हगिंग फेस के सीईओ क्लेमेंट डेलांग की X पर प्रतिक्रिया ने यही दर्शाया कि यह घटना क्यों अलग महसूस हुई:
यह काफी मन को हैरान कर देने वाला है कि यह सब स्वयं ही हो गया!
उसका आश्चर्य समझ में आता है। लेकिन शब्द “स्वतंत्र रूप से” भारी काम कर रहा है, और इसका अर्थ घटना के चारों ओर अब जमा हो रहे बड़े दावों की तुलना में अधिक विशिष्ट है।
यहाँ स्वायत्तता का क्या अर्थ है
एक स्वायत्त एजेंट एक निर्धारित कार्य के भीतर क्रियाओं की एक अनुक्रम का चयन और निष्पादन कर सकता है। यह अवलोकन यह स्थापित नहीं करता कि इसमें सामान्य निर्णय लेने की क्षमता है, इसने अपना स्वयं का अंतिम लक्ष्य बनाया है, या यह अपनी मूलबुत्तिक बुद्धिमत्ता में सुधार कर सकता है। सार्वजनिक रिकॉर्ड इस दौरान संभव हर मानव हस्तक्षेप को भी सुलझाता नहीं है।
यहाँ, उद्देश्य विशेष और स्पष्ट था। व्यवहार उसी तरह का है जिसे गूगल डीपमाइंड स्पेसिफिकेशन गेमिंग कहता है: डिज़ाइनर के इरादे का उल्लंघन करते हुए अक्षरशः उद्देश्य को पूरा करना। एक छात्र जिसे परीक्षा में अच्छा स्कोर करने के लिए कहा गया हो, वह सामग्री सीखने के बजाय उत्तर पत्रिका चुरा सकता है। स्कोर बढ़ता है, जबकि परीक्षा असफल हो जाती है।
यह उपमा अभी भी एक गंभीर उल्लंघन का वर्णन करती है। यह शॉर्टकट एक नियंत्रित मूल्यांकन से दूसरी कंपनी के उत्पादन अवसंरचना में प्रवेश कर गया। OpenAI ने प्राथमिकता बढ़ाने और एक क्रॉस-सिस्टम दुर्घटना की रिपोर्ट की। Hugging Face ने अलग से रिपोर्ट किया कि आंतरिक डेटासेट और पासवर्ड प्राप्त किए गए। एक कार्य को संज्ञानात्मक शब्दों में सीमित किया जा सकता है और फिर भी गंभीर संचालनात्मक हानि पैदा कर सकता है।
एक Google DeepMind फ्रेमवर्क लिए AGI प्रदर्शन, सामान्यता और स्वायत्तता को अलग करता है क्योंकि एक आयाम पर शक्ति अन्य को सुलझाती नहीं है।
ASI एक उच्चतर दावा है, जो लगभग हर क्षेत्र में मानवों से कहीं अधिक बुद्धिमत्ता का वर्णन करता है।
प्रौद्योगिकीय एकाग्रता फिर से अधिक व्यापक है: एक ऐसा बिंदु जहाँ मानव से अधिक बुद्धिमत्ता इतनी तेजी से बदलाव लाती है कि सामान्य भविष्यवाणी असफल हो जाती है।
उपलब्ध साक्ष्यों के आधार पर, एक क्षतिकारक साइबर अभियान इन सीमाओं से काफी नीचे रहता है।
OpenAI का जून सिस्टम कार्ड GPT-5.6 परिवार को साइबर सुरक्षा क्षमता में "उच्च" रेटिंग देता है, लेकिन इसकी "महत्वपूर्ण" सीमा से नीचे और AI स्व-सुधार में "उच्च" से नीचे। इसने कहा कि Sol और Terra ने परीक्षण में कठोर लक्ष्यों के खिलाफ स्वायत्त, एंड-टू-एंड हमले पूरे नहीं किए हैं।
नयी घटना उन परीक्षणों की तुलना में अलग परिस्थितियों के अंतर्गत घटित हुई। हगिंग फेस ने प्रभावित प्रणालियों को कमजोर रूप से सुरक्षित बताया, और ओपनएआई का मूल्यांकन एक अधिक क्षम स्वीकृति से पहले के मॉडल से भी संबंधित था, जिसकी व्यक्तिगत क्रियाएँ अभी अनुकूलित नहीं हुई हैं।
इस एपिसोड में यह दिखाया गया है कि चारों ओर की परिस्थितियाँ कितनी महत्वपूर्ण हैं। एक मूल्यांकन मॉडल की उसके इच्छित लक्ष्य का दुरुपयोग करने की क्षमता को माप सकता है, जबकि यह संभावना नज़रअंदाज़ कर सकता है कि मॉडल स्वयं मूल्यांकन परिवेश का दुरुपयोग कर सकता है।
एंथ्रोपिक की माइथोस लॉन्च कहानी सावधानी से भाषा के प्रयोग में एक समान पाठ प्रस्तुत करती है। अप्रैल में, एंथ्रोपिक ने माइथोस प्रीव्यू को सामान्य रिलीज से वापस ले लिया क्योंकि इसकी साइबर-दुरुपयोग क्षमताओं के लिए अधिक मजबूत सुरक्षा आवश्यक थी, जबकि प्रोजेक्ट ग्लासविंग के माध्यम से अनुमोदित रक्षकों को पहुँच प्रदान की गई। एंथ्रोपिक ने इस निर्णय को उन्नत साइबर जोखिम के प्रति एक क्षेत्र-विशिष्ट प्रतिक्रिया के रूप में प्रस्तुत किया।
एंथ्रोपिक ने बाद में Fable 5 को सामान्य उपयोग के लिए और Mythos 5 को विश्वसनीय साइबर रक्षकों के लिए जारी किया, जिन्हें वे अलग-अलग सुरक्षा उपायों के तहत एक ही नींव के मॉडल के रूप में वर्णित करते हैं। स्वतंत्र परीक्षण में एक प्रभावशाली परिणाम पाया गया, लेकिन महत्वपूर्ण सीमाओं के साथ। यूके एआई सुरक्षा संस्थान ने रिपोर्ट किया कि Mythos Preview ने 10 प्रयासों में से 3 में 32-चरणों का एक सिमुलेटेड एंटरप्राइज हमला पूरा किया, जबकि यह जोर देते हुए कि लक्ष्य छोटा, कमजोर रूप से सुरक्षित था और इसमें कोई सक्रिय रक्षक या रक्षात्मक उपकरण नहीं थे।
साइबर क्षमता तब खतरनाक हो सकती है जब तक बुद्धिमत्ता सामान्य नहीं हो जाती। यही कारण है कि अतिशयोक्तिपूर्ण लेबल अनुपयुक्त हैं: वास्तविक उपलब्धि पहले से ही ध्यान योग्य है।
विश्वसनीयता का जाल
ओपनएआई के खुलासे के कुछ घंटों बाद, एलन मस्क ने हगिंग फेस घटना सहित हाल के एआई मीलों की एक सूची को भाव-पोस्ट किया। उनका निष्कर्ष कोई तकनीकी सीमा प्रस्तुत नहीं करता:
मस्क की पंक्ति एक साफ उत्तर का आराम प्रदान करती है। एक उल्लंघन, नए गणितीय परिणाम, और मॉडल की उपलब्धियों का एक उछाल एक ऐतिहासिक मोड़ बन जाते हैं। वास्तविक निर्णय अधिक जटिल है: हमें अभी भी साक्ष्य की आवश्यकता है जो एक विशेषता को एक तेज़, सीमित उन्नतियों की श्रृंखला से अलग करे।
संदेह का स्पष्ट आधार है। कंपनी जो चेतावनी देती है कि उसका मॉडल अभूतपूर्व तरीके से व्यवहार कर रहा है, उसका व्यावसायिक हित भी है कि दुनिया उसकी प्रणालियों को अभूतपूर्व क्षमता वाली माने। यह ओवरलैप सुरक्षा अनुपालन को एक उत्पाद प्रदर्शन की तरह लगने दे सकता है। विस्तृत साक्ष्य, स्वतंत्र पुनर्निर्माण और सटीक भाषा ही एक प्रयोगशाला को इस अंतर के पार विश्वास कमाने का तरीका है।
X पर, इसी घटना ने जल्दी ही प्रतिस्पर्धी कहानियों के लिए कच्चा माल बन गई। कुछ लोगों ने इस घटना को एक एजेंट की ऐसी स्थिति के रूप में देखा जो अपनी निर्धारित सीमाओं से परे एक लक्ष्य की तलाश में था। अन्य लोगों ने कमजोर सामग्री को क्षमता के नाटक के रूप में पुनः प्रस्तुत किया। एक सुरक्षा प्रशिक्षित व्यक्ति पाठकों को एक विस्तृत पोस्टमॉर्टम का इंतजार करने की सलाह दी जिससे वे एक विशाल घटना और केवल हाइप के बीच चयन कर सकें। मस्क ने इसे सिंगुलैरिटी कहा।
इसलिए, एक ही तथ्य दो क्षतिकारक त्रुटियाँ उत्पन्न कर सकता है। एक झूठा सकारात्मक परिणाम तब होता है जब एक बेंचमार्क परिणाम या अज्ञात एजेंट व्यवहार को AGI, ASI या सिंगुलैरिटी में शामिल कर लिया जाता है। एक झूठा नकारात्मक परिणाम तब होता है जब एक महत्वपूर्ण नए क्षमता के सबूत को मुख्य रूप से इसलिए अस्वीकार कर दिया जाता है क्योंकि संदेशवाहक के पास पैसा, स्थिति या जनजातीय पहचान जुड़ी हुई है।
पहली त्रुटि निवेश, नीति और जनता की अपेक्षाओं को विकृत कर सकती है। दूसरी त्रुटि एक ऐसे चेतावनी तक सामग्री परिवर्तनों को विलंबित कर सकती है जो प्रचार की तरह लगती है, जो सामान्य हमले की तकनीक बन जाती है। प्रतिबिंबित विश्वास और प्रतिबिंबित अविश्वास दोनों साक्ष्य को निष्ठा से बदल देते हैं।
यह उल्लंघन वास्तविक है, जिससे मार्केटिंग-हाइप को अनदेखा करना संभव नहीं है। हगिंग फेस ने ओपनएआई के अपने मॉडल्स को सार्वजनिक रूप से पहचानने से पहले इस अनुमति का खुलासा किया। आंतरिक डेटासेट और पासवर्ड्स तक पहुंचा गया। 17,000 से अधिक घटनाओं को पुनः बनाना पड़ा। एक सीमाबद्धता परत विफल रही। ये तथ्य किसी भी सुपरइंटेलिजेंस के दावे से स्वतंत्र हैं।
यह एकलता की कहानी के प्रति पर्याप्त रूप से सीमित भी है। मॉडलों को एक साइबर लक्ष्य, असामान्य कंप्यूटिंग, और कम सुरक्षा उपाय दिए गए थे। स्वयं चुने गए लक्ष्य, व्यापक मानव-स्तरीय क्षमता, और आत्म-पुनरावृत्ति सुधार अभी तक स्थापित नहीं हुए हैं। ये सीमाएँ अभी भी एक गंभीर सुरक्षा विफलता को छोड़ देती हैं।
एक उपयोगी प्रतिक्रिया उन प्रश्नों से शुरू होती है जिनका उत्तर दिया जा सकता है। प्रॉक्सी किस प्रकार विफल हुआ? कौन सा मॉडल कौन सी क्रिया कर रहा था? कितनी मानव हस्तक्षेप हुआ? किस डेटा तक पहुँचा गया? निगरानी क्यों नहीं रोक पाई कि श्रृंखला को पहले ही रोक दिया जाए? क्या व्यवहार कठोर प्रणालियों और मजबूत संयोजन के खिलाफ भी बना रहता है?
OpenAI और Hugging Face ने अभी तक इन सभी प्रश्नों के उत्तर देने वाला अंतिम संयुक्त पोस्टमॉर्टम प्रकाशित नहीं किया है। जब तक वे ऐसा नहीं करते, तक तकनीकी खाता प्रारंभिक ही रहना चाहिए। इससे साक्ष्य की मांग बढ़ेगी और शेष अंतरालों में भविष्यवाणी को बाहर रखा जा सकेगा।
AI की प्रगति ऐसी घटनाएँ उत्पन्न कर रही है जो काल्पनिक लगती हैं और आर्थिक रूप से पर्याप्त रूप से प्रभावशाली हैं जिससे संदेह उठता है। मानव संस्थाएँ अब इन परिस्थितियों के तहत साक्ष्य का आकलन करने में बेहतर बनने की आवश्यकता रखती हैं। प्रयोगशालाओं को ऐसी घटना रिपोर्ट्स प्रकाशित करनी चाहिए जिन्हें बाहरी विशेषज्ञ परख सकें। मूल्यांकनकर्ताओं को क्षमता, सामान्यता और स्वायत्तता के बीच अंतर करना चाहिए। मील के पत्थर के दावे करने वाले सार्वजनिक व्यक्तियों को यह बताना चाहिए कि कौन सा साक्ष्य उनके दावे को गलत साबित कर सकता है।
कैलिब्रेशन को अनुशासन की आवश्यकता होती है: एक गंभीर तथ्य को गंभीरता से लें, लेकिन इसे ऐसा निष्कर्ष नहीं ढोएं जिसे यह समर्थन नहीं कर सकता।
पोस्ट OpenAI का मॉडल ब्रीच सिंगुलैरिटी नहीं है, लेकिन इसे हाइप के रूप में नज़रअंदाज़ करना खतरनाक है सबसे पहले CryptoSlate पर प्रकाशित हुई।