AI विकास प्रयोगशाला OpenAI मंगलवार को उजागर किया कि उसके मॉडलों का एक समूह, जिसमें सार्वजनिक रूप से उपलब्ध GPT-5.6 Sol और एक अधिक क्षम स्थिति वाला अनप्रकाशित प्रणाली शामिल है, ने एक नियंत्रित परीक्षण पर्यावरण से 'ब्रेकआउट' किया और Hugging Face की उत्पादन बुनियादी संरचना को कम्प्रोमाइज कर दिया, जो ओपन-सोर्स AI दुनिया का बहुत बड़ा हिस्सा होस्ट करती है।
मॉडल्स को एक आंतरिक बेंचमार्क, एक्सप्लॉइटजिम के माध्यम से चलाया जा रहा था, जो लंबे, बहु-चरणीय हैकिंग कार्यों का परीक्षण था, जिसमें उनकी साइबर सुरक्षा अस्वीकृतियों को मूल्यांकन के लिए जानबूझकर कम कर दिया गया था।
स्पष्ट कर दें, यह कोई उत्पादन मॉडल नहीं था जो स्वयं हमलावर बन गया। यह एक क्षमतावान मॉडल था जिसके गार्डरेल्स बंद थे और जिसे विशेष रूप से हैकिंग परीक्षण जीतने के लिए कहा गया था - जीतने के लिए जो भी करना पड़े।
मॉडलों ने टेस्ट सॉफ्टवेयर में एक छिपी हुई खामी पाई, जिसके बारे में कोई नहीं जानता था, और इसका उपयोग करके उन्हें ऑफलाइन रखने के लिए बनाए गए दीवारों को पार करने में सफल हो गए। ओपन इंटरनेट पर आने के बाद, उन्होंने अनुमान लगाया कि हगिंग फेस संभवतः टेस्ट के उत्तर स्टोर करता है।
प्रवेश करने के लिए, उन्होंने चोरी किए गए पासवर्ड और अधिक छिपे हुए दोषों को जोड़कर अपने अपने आदेश Hugging Face के लाइव सर्वर्स पर चलाने में सक्षम हो गए।
OpenAI ने आंतरिक रूप से असामान्यता को पकड़ा, जबकि Hugging Face की टीम ने इसे पहचाना और नियंत्रित कर लिया। इसने घटना को "अभूतपूर्व" कहा और कहा कि जनता के प्रणालियों या सेवाओं को प्रभावित करने वाली अवांछित घटनाओं को रोकने के लिए व्यापक सुरक्षा कदम उठाए जाएंगे।
"जब तक कमजोरियाँ ठीक नहीं हो जाती, हम अपनी अनुसंधान गति के खर्च पर बुनियादी ढांचे की कॉन्फ़िगरेशन में कठोर नियंत्रण लागू कर रहे हैं," टीम ने अपने ब्लॉग पोस्ट में कहा। "हम भविष्य के प्रशिक्षण और मूल्यांकन के चारों ओर अधिक मजबूत सुरक्षा बढ़ा रहे हैं और जोड़ रहे हैं।"
क्रिप्टो हमले का बड़ा हिस्सा धन के स्थानांतरण से पहले होता है। हमलावर कोड स्कैन करते हैं, पासवर्ड टेस्ट करते हैं, उजागर पात्रता जांचते हैं, साइनिंग सेटअप का विश्लेषण करते हैं और प्रशासक खाते में प्रवेश के लिए एक मार्ग ढूंढते हैं।
Hugging Face की घटना के दौरान OpenAI के मॉडल्स ने उस प्रक्रिया के कई हिस्सों को पूरा किया, एक कमजोरी से दूसरी कमजोरी तक जाते हुए जब तक कि वे लाइव उत्पादन सर्वर्स तक नहीं पहुँच गए।
और क्रिप्टो बाजार में इस दृष्टिकोण के लिए कई जगहें हैं, जैसा कि इस साल की शुरुआत में कई हमलों ने दिखाया है। कमजोर बिंदु एक स्मार्ट कॉन्ट्रैक्ट हो सकता है, लेकिन यह एक डेवलपर का लैपटॉप, एक विषैला सॉफ्टवेयर पैकेज, एक ब्रिज वैलिडेटर या मल्टिसिग वॉलेट में एक साइनर भी हो सकता है।
इस साल की शुरुआत में ड्रिफ्ट के $285 मिलियन के हमले को उदाहरण के रूप में लें, जिसमें प्राविधिक एक्सेस प्राप्त करने के लिए छह महीने का सामाजिक-इंजीनियरिंग अभियान चलाया गया। एक एआई एजेंट सिद्धांत रूप में, एक साथ कई मार्गों का परीक्षण कर सकता है, असफल प्रयासों का ट्रैक रख सकता है और अपने मानव संचालकों के सोए हुए होने के दौरान काम जारी रख सकता है। एक बार जब कोई मार्ग मिल जाए, तो संचालक वास्तविक हमले और एक वैध निकास मार्ग पर कार्रवाई कर सकता है।
KelpDAO के $292 मिलियन के ब्रिज नुकसान ने एक अलग कमजोरी को उजागर किया। हमलावर ने ब्लॉकचेन के बीच संपत्ति स्थानांतरित करने के लिए उपयोग किए जाने वाले सिस्टम में एक सिंगल-वेरिफायर दोष का पता लगाया।
ऐसा हमला धैर्यपूर्वक कोड समीक्षा और इंफ्रास्ट्रक्चर मैपिंग से शुरू होता है - वही कार्य जो OpenAI के मॉडल्स ने एक अज्ञात दोष ढूंढने के लिए किया।
एक तीसरा प्रकार का हमला ऑनचेन गवर्नेंस सिस्टम पर होता है। जुलाई के शुरुआती दिनों, एक हमलावर ने लगभग 4.4 मिलियन डॉलर खर्च किए सोलाना-आधारित डॉग मेमेकॉइन BONK खरीदकर एक प्रस्ताव शुरू किया और पारित किया, जिससे प्रोजेक्ट के खजाने से लगभग 20 मिलियन डॉलर हमलावर को स्थानांतरित हो गए। यह तीन दिनों के दौरान हुआ, और हमलावर ने बाद में मतदान जीतने के लिए उपयोग किए गए सभी टोकन बेच दिए, जैसा कि CoinDesk ने उस समय ट्रैक किया था।
उस हमले के लिए किए गए खरीदारी, मतदान और ख казन ट्रांसफ़र सभी अलग-अलग वैध लेनदेन थे। लेकिन चोरी इस बात को समझने से हुई कि नियम कैसे एक साथ काम करते हैं और यह पाया गया कि नियंत्रण खरीदने की लागत, लेने के लिए उपलब्ध धन से कहीं कम थी।
हगिंग फेस की घटना सॉफ्टवेयर सप्लाई चेन के लिए भी मायने रखती है। क्रिप्टो डेवलपर्स जनता के कोड रिपॉजिटरी, क्लाउड सेवाओं और पैकेज रजिस्ट्री पर निर्भर करते हैं।
जबकि OpenAI के परीक्षण ने एक मशीन को एक उल्लंघन के लंबे मध्य भाग को पूरा करते हुए दिखाया, लेकिन Drift और KelpDAO जैसे हमले उस मार्ग के अंत में क्या स्थित है, वह दिखाते हैं।