यहाँ एक साइबर सुरक्षा के सपने का सीधा परिदृश्य है: एक स्वायत्त AI एजेंट आपके उत्पादन बुनियादी ढांचे में घुस जाता है, पूरे अंतिम सप्ताहांत तक अनियंत्रित रूप से चलता है, और जब आपकी घटना प्रतिक्रिया टीम अंततः यह पता लगाने के लिए AI उपकरणों का उपयोग करने की कोशिश करती है कि क्या हुआ, तो वे उपकरण सहयोग नहीं करते। यही हुआ Hugging Face के साथ।
16 जुलाई को AI मॉडल हब ने खुलासा किया कि इसे एक जटिल ब्रीच का सामना करना पड़ा, जिसमें एक एजेंटिक हमलावर, यानी एक AI प्रणाली जो शुरू से अंत तक स्वतंत्र रूप से कार्य करती है, ने कंपनी की डेटा-प्रोसेसिंग पाइपलाइन में दो कोड-निष्पादन दुर्बलताओं का दुरुपयोग किया। हमलावर ने पासवर्ड एकत्र किए, उत्पादन प्रणालियों के माध्यम से क्षैतिज रूप से आगे बढ़ा, और किसी को ध्यान नहीं आने तक 17,000 से अधिक कार्रवाइयाँ अस्थायी सैंडबॉक्स में निष्पादित कीं।
जब आपकी रक्षा रक्षा नहीं करती
हगिंग फेस की घटना प्रतिक्रिया टीम ने GPT और Claude सहित अग्रणी AI मॉडल्स की मदद लेने का प्रयास किया ताकि दुरुपयोग डेटा का विश्लेषण किया जा सके। दोनों ने इनकार कर दिया। उनके वाणिज्यिक सुरक्षा गार्डरेल्स ने IR टीम के वैध फोरेंसिक प्रश्नों को हमले के निर्देशों के रूप में मान लिया और हर अनुरोध को अवरुद्ध कर दिया।
हगिंग फेस ने अंततः मूल दुर्बलताओं को ठीक कर दिया और ब्रीच को नियंत्रित कर लिया, लेकिन यह घटना प्रमुख उत्पादन बुनियादी ढांचे पर हुए पहले सार्वजनिक रूप से दस्तावेजबद्ध, एंड-टू-एंड स्वायत्त AI-संचालित हमले के रूप में खड़ी है।
क्यों क्रिप्टो का ध्यान देना चाहिए
Hugging Face दुनिया का सबसे बड़ा ओपन-सोर्स AI मॉडल मार्केटप्लेस है। यह उन मॉडल्स, डेटासेट्स और टूल्स को होस्ट करता है जो डिसेंट्रलाइज्ड AI कंप्यूट नेटवर्क से लेकर ऑन-चेन इन्फरेंस प्रोटोकॉल तक बढ़ते हुए क्रिप्टो-संबंधी प्रोजेक्ट्स को संचालित करते हैं। यदि एक स्वायत्त एजेंट दुर्भावनापूर्ण डेटासेट्स के माध्यम से Hugging Face के पाइपलाइन को संक्रमित कर सकता है, तो उस परितंत्र से डेटा लेने वाले हर निचले स्तर के प्रोजेक्ट में जोखिम शामिल हो जाता है।
बिटटेंसर और फेच.एआई जैसे डिसेंट्रलाइज्ड एआई प्लेटफॉर्म, जो ओपन मॉडल रिपॉजिटरी पर निर्भर करते हैं, ठीक इसी तरह के सप्लाई-चेन जोखिम का सामना करते हैं: प्रोसेसिंग कमजोरियों का दुरुपयोग करने वाले विषैले डेटासेट।
सुरक्षा गार्डरेल की समस्या सभी की समस्या है
OpenAI का GPT और Anthropic का Claude उद्यमिक सेटिंग्स में सबसे व्यापक रूप से लागू किए गए फ्रंटियर मॉडल हैं। यदि दोनों वैध फोरेंसिक डेटा को प्रोसेस करने से इंकार कर देते हैं क्योंकि उनके सुरक्षा फिल्टर एक एक्सप्लॉइट का विश्लेषण करने वाले रक्षक और एक एक्सप्लॉइट तैयार करने वाले हमलावर के बीच अंतर नहीं कर सकते, तो यह आधुनिक AI-सहायता वाली सुरक्षा की इंफ्रास्ट्रक्चर परत में समाहित एक प्रणालीगत कमजोरी है।
चेनैलिसिस, एलिप्टिक और विभिन्न ऑन-चेन फोरेंसिक्स कंपनियाँ अपने विश्लेषण प्रवाहों में LLMs को लगातार एकीकृत कर रही हैं। यदि उन मॉडल्स ज्ञात दुरुपयोग या हैक पतों से संबंधित लेन-देन के डेटा को प्रोसेस करने से इंकार कर दें क्योंकि प्रश्न धोखाधड़ी के लिए निर्देशों की तरह दिखते हैं, तो पूरी फोरेंसिक विश्लेषण श्रृंखला टूट जाती है।
अस्थायी सैंडबॉक्स के भीतर स्वायत्त एजेंट द्वारा निष्पादित 17,000 से अधिक कार्रवाइयाँ एक महत्वपूर्ण जटिलता अंतर को उजागर करती हैं। पारंपरिक सुरक्षा निगरानी स्थायी दुरुपयोग के संकेतों की तलाश करती है: संशोधित फ़ाइलें, असामान्य नेटवर्क कनेक्शन, या संदिग्ध लॉगिन पैटर्न। अस्थायी परिवेशों में कार्यरत एजेंट लगभग कोई पारंपरिक छाप नहीं छोड़ता।