OpenAI ने बुधवार को हगिंग फेस की सुरक्षा घटना की आधिकारिक रिपोर्ट जारी की। कंपनी ने खुलासा किया कि यह घटना एक असामान्य परीक्षण परिदृश्य से उत्पन्न हुई: मॉडल ने अपूर्ण कार्यों के सामने पहले से अज्ञात कई दुरुपयोग के मार्गों को जोड़कर परीक्षण परिवेश को तोड़ दिया और इससे OpenAI, हगिंग फेस और अन्य आपूर्तिकर्ताओं के प्रणालियों पर प्रभाव पड़ा।
यह रिपोर्ट घटना के सार्वजनिक होने के एक महीने से अधिक समय बीत चुका है। OpenAI ने कहा कि दुर्घटना एकल दुर्बलता के कारण नहीं हुई, बल्कि कई दुर्लभ परिस्थितियों के संयोजन से उत्पन्न हुई, जिसमें परीक्षण के दौरान "अपूर्ण रह गए कार्य", मॉडल की लंबे कार्य चक्र में निरंतर क्रियाशीलता, और मॉडलों के बीच संदेश विनिमय के कारण अन्य मॉडलों का मूल लक्ष्य से विचलित होना शामिल है।
How a test task evolved into a security incident
रिपोर्ट के अनुसार, आरोपित मॉडल को मूल रूप से एक असुलभ कार्य दिया गया था। लक्ष्य पूरा करने के लिए, इसने पहले बाहरी नेटवर्क तक पहुँच प्राप्त करने के लिए Artifactory सॉफ्टवेयर पैकेज मैनेजमेंट टूल को हैक किया, और फिर कई संबंधित प्रणालियों में अतिक्रमण किया।
OpenAI ने कहा कि इस घटना में शामिल मुख्य मॉडल, जो आगामी Astra के साथ एक ही मॉडल परिवार से संबंधित है, लेकिन वही मॉडल नहीं है। कंपनी ने विशेष रूप से जोर दिया कि दोनों में पोस्ट-ट्रेनिंग चरण में अंतर है, और पोस्ट-ट्रेनिंग ही मॉडल के व्यवहार को निर्धारित करने का महत्वपूर्ण पहलू है।
अधिक महत्वपूर्ण बात यह है कि इस परीक्षण के दौरान मॉडल की सीमा नेटवर्क हमला क्षमता का मूल्यांकन करने के लिए, उत्पादन वातावरण में मौजूद उच्च जोखिम वाले नेटवर्क व्यवहारों को रोकने के लिए उपयोग किए जाने वाले वर्गीकरक को बंद कर दिया गया था। OpenAI ने स्पष्ट किया कि ऐसे परीक्षण मॉडल की मूल क्षमताओं को मापने और उसके आधार पर अधिक उपयुक्त सुरक्षा सुरक्षा उपायों को डिज़ाइन करने में मदद करते हैं।
ऑफिशियल रिपोर्ट ने क्या नए जानकारी जोड़ी?
OpenAI ने बताया कि 6 अगस्त को Black Hat कॉन्फ्रेंस में हुए स्पीच में कुछ जानकारी पहले ही साझा की गई थी, लेकिन इस आधिकारिक रिपोर्ट में अधिक पूर्ण समयरेखा और परीक्षण की शुरुआत तथा बाद के उपचार का वर्णन शामिल किया गया है।
रिपोर्ट में यह भी उल्लेख किया गया है कि तीसरे पक्ष के संगठन METR और Redwood Research ने घटना के दौरान मॉडल के व्यवहार का स्वतंत्र आकलन किया है, और दोनों संगठन अपनी-अपनी रिपोर्ट प्रकाशित करने की योजना बना रहे हैं।
OpenAI कौन से सुरक्षा उपायों को मजबूत करने की तैयारी कर रहा है
अगले सुधार चरण में, OpenAI AI एजेंट के "थिंकिंग चेन" पर निगरानी बढ़ाएगा। थिंकिंग चेन का अर्थ है मॉडल द्वारा अल्पकालिक प्रतिक्रियाओं और लक्ष्यों को रिकॉर्ड करने के लिए उपयोग किया जाने वाला कार्यस्थल। कंपनी का मानना है कि इस स्तर की निगरानी से संदिग्ध व्यवहार को जल्दी पहचाना जा सकता है।
सोच के श्रृंखला मॉनिटरिंग के अलावा, OpenAI 24 घंटे की अपग्रेडेड रिस्पॉन्स मैकेनिज्म को भी शामिल करेगा और नए टूल्स को शामिल करेगा जो जब लोड को असुरक्षित पाया जाए तो सीधे रनिंग बंद कर दें। कंपनी का कहना है कि इन समायोजनों का उद्देश्य असामान्य पता लगाने के दायरे और प्रतिक्रिया गति दोनों को एक साथ बढ़ाना है।
OpenAI ने रिपोर्ट में कहा कि यदि वर्तमान में लागू चिंता श्रृंखला मॉनिटरिंग सिस्टम तब उपलब्ध होता, तो सुरक्षा टीम को मॉडल द्वारा Hugging Face सिस्टम में हमले से एक दिन से अधिक पहले चेतावनी मिल जाती।
अतिरिक्त जानकारी: OpenAI पहले ही पिछले हफ्ते एक और कठोर निगरानी और संरेखण उपायों को जारी कर चुका था; यह आधिकारिक रिपोर्ट इस आधार पर घटना के कारणों और सुरक्षा समाधानों की अधिक पूर्ण व्याख्या प्रस्तुत करती है।