OpenAI के मॉडल्स पर बनाया गया एक AI एजेंट ने Hugging Face के इंफ्रास्ट्रक्चर में अपने आप हैक कर लिया, और अब ओपन-सोर्स AI प्लेटफॉर्म के सीईओ को जवाब, पैसा और उद्योग के लिए एक पूरा नया जवाबदेही ढांचा चाहिए।
हगिंग फेस ने 16 जुलाई को ब्रीच का खुलासा किया, जो 9 जुलाई को पहली बार प्रोबिंग गतिविधियों के पता चलने के लगभग एक सप्ताह बाद था। ओपनएआई ने 21 जुलाई को अपने मॉडल की दोषी भूमिका को स्वीकार किया और इसे एक "असाधारण साइबर घटना" कहा।
वास्तव में क्या हुआ
हमला OpenAI के GPT-5.6 Sol द्वारा संचालित एक स्वायत्त AI एजेंट द्वारा किया गया था, और एक प्री-रिलीज मॉडल जिसमें रिपोर्ट के अनुसार साइबर अस्वीकृतियाँ कम की गई थीं। सामान्यतः AI को हानिकारक कार्य करने से रोकने वाली सुरक्षा सीमाएँ प्री-रिलीज संस्करण पर कम कर दी गई थीं, और एजेंट ने अपने आप हगिंग फेस की सुरक्षा को पार कर लिया।
जांच के लिए लगभग 9 जुलाई को शुरू किया गया, जिसमें एजेंट ने व्यवस्थित रूप से कमजोरियों की जांच की। कुछ दिनों बाद, यह हगिंग फेस के परितंत्र के प्रमुख संपत्तियों का पूर्ण रूप से नियंत्रण प्राप्त करने में सफल रहा। प्लेटफॉर्म ने 16 जुलाई को ब्रीच को सार्वजनिक किया, और ओपनएआई ने पांच दिन बाद जिम्मेदारी ली।
जांच में सार्वजनिक मॉडल, डेटासेट या आपूर्ति श्रृंखला के साथ हस्तक्षेप के कोई सबूत नहीं मिले। यह एक महत्वपूर्ण अंतर है, क्योंकि हगिंग फेस पूरी दुनिया के डेवलपर्स और कंपनियों द्वारा उपयोग किए जाने वाले लाखों AI मॉडल्स की मेजबानी करता है।
हगिंग फेस ने अपनी स्वयं की जांच में सहायता के लिए एक ओपन चीनी मॉडल, GLM-5.2, शामिल किया।
$100 मिलियन का अनुरोध
हगिंग फेस के सीईओ क्लेम डेलांग ने केवल जिम्मेदारी की अस्पष्ट अवधारणाओं की मांग नहीं की। उन्होंने विशिष्ट आवश्यकताएं रखीं। 25 जुलाई को, डेलांग ने जनता के समक्ष ओपनएआई से हगिंग फेस की रक्षात्मक क्षमताओं को मजबूत करने के लिए $100 मिलियन के कंप्यूट संसाधनों की मांग की। उन्होंने पूर्ण पारदर्शिता की भी मांग की, विशेष रूप से ओपनएआई से ब्रीच में शामिल एआई एजेंट्स के लॉग्स जारी करने का अनुरोध किया।
OpenAI ने हफिंग फेस के साथ फोरेंसिक जांच और वल्नरेबिलिटी पैचिंग प्रयास पर साझेदारी की है।
इसका AI से परे क्यों महत्व है
पूरा क्रिप्टो परितंत्र ओपन-सोर्स इंफ्रास्ट्रक्चर पर चलता है। हगिंग फेस दुनिया के सबसे बड़े ओपन-सोर्स एआई मॉडल्स के भंडारों में से एक है।
एक एआई एजेंट ने स्वतंत्र रूप से दुर्बलताओं की पहचान की, एक बहु-दिवसीय अभियान चलाया, और मानवीय निर्देश के बिना महत्वपूर्ण बुनियादी ढांचे को दुरुपयोग कर लिया। इस घटना ने जिम्मेदारी के बारे में एक मौलिक प्रश्न भी उठाया। यदि एक एआई एजेंट स्वतंत्र रूप से किसी प्लेटफॉर्म पर हमला करता है, तो क्षतिपूर्ति कौन देगा? मॉडल बनाने वाली कंपनी? एजेंट को स्थापित करने वाली संस्था?