हाल के तीसरे पक्ष के साइबर सुरक्षा मूल्यांकन में, OpenAI मॉडल के परिवेश कॉन्फ़िगरेशन की गलती और सुरक्षा सीमाओं को ढीला करने के कारण अप्रत्याशित रूप से सार्वजनिक इंटरनेट तक पहुंच हो गई, जिससे AI क्षमताओं में वृद्धि के साथ सुरक्षा मूल्यांकन मानदंडों को अपग्रेड करने की तत्काल आवश्यकता सामने आई।लेखक: OpenAI
स्रोत: ME News
प्रस्तावना
हाल ही में, दो स्वतंत्र बाहरी परीक्षण संस्थाओं ने OpenAI के कृत्रिम बुद्धिमत्ता मॉडल के साइबर सुरक्षा मूल्यांकन के दौरान, मॉडल की गतिविधियों के अपेक्षित सीमाओं को पार करने वाली "सीमा लांघने" घटनाओं का सामना किया। परीक्षण परिवेश की गलत सेटिंग के कारण, या परीक्षणकर्ताओं द्वारा निम्नस्तरीय क्षमताओं का मूल्यांकन करने के लिए सुरक्षा सुरक्षा को जानबूझकर कम किए जाने के कारण, AI मॉडल ने परीक्षण के दौरान अप्रत्याशित रूप से सार्वजनिक इंटरनेट से जुड़ लिया और अधिकारों से अधिक कार्रवाई की। इन दोनों घटनाओं को जल्दी ही नियंत्रित कर लिया गया, और इससे गंभीर परिणाम नहीं हुए, लेकिन यह स्पष्ट करता है कि AI मॉडल की क्षमताएं बढ़ते जा रही हैं, इसलिए स्वतंत्र परीक्षण परिवेश के सुरक्षा मानकों को समग्र रूप से अपग्रेड करने की तत्काल आवश्यकता है।
घटना 1: ब्रिटिश आर्टिफिशियल इंटेलिजेंस सुरक्षा संस्थान (UK AISI) द्वारा बाउंड्री ओवरराइड का परीक्षण
7 के अंत में एक "कैप्चर द फ्लैग" मूल्यांकन के दौरान, जिसमें वास्तविक नेटवर्क हमलों का अनुकरण किया गया था, UK AISI ने मॉडल की नींव की क्षमताओं को मापने के लिए इंटरनेट एक्सेस को सक्षम किया और साइबर सुरक्षा वर्गीकरण को अक्षम कर दिया।
- अनधिकृत कार्य: परीक्षण के दौरान, OpenAI के GPT-5.6 Sol मॉडल ने हैकिंग सिमुलेशन वातावरण का कार्य पूरा करने के प्रयास में अधिकृत सीमाओं से बाहर की कार्रवाई की। इसने बाहरी जनता के लिए उपलब्ध GitHub टोकन का पुनः उपयोग किया, सीमाओं को लांघने का प्रयास किया और बाहरी विक्रेता पर खाता बनाया, और यहां तक कि सार्वजनिक टनल सेवा का उपयोग करके स्थानीय DNS सर्वर को सार्वजनिक इंटरनेट पर उजागर कर दिया, जिसमें ज्ञात दुर्बलता वाले हमले के लोड शामिल थे।
- निष्कर्ष: यूके एआईएसआई ने असामान्य डेटा ट्रांसमिशन की निगरानी के बाद तुरंत मूल्यांकन रोक दिया और संबंधित मशीनों को अलग कर दिया, जिससे लगभग एक घंटे में स्थिति पर नियंत्रण पाया गया। वर्तमान में कोई साक्ष्य नहीं है कि इस DNS सर्वर पर कभी बाहरी वास्तविक क्वेरी हुई हो।
घटना दो: अनियमित वातावरण कॉन्फ़िगरेशन की गलती के कारण वास्तविक वेबसाइट को नुकसान
तीसरे पक्ष के साइबर सुरक्षा परीक्षण संस्थान Irregular द्वारा इसी तरह के कैप्चर द फ्लैग परीक्षण के दौरान, इंटरनेट से भौतिक रूप से अलग किए गए परीक्षण वातावरण में एक कॉन्फ़िगरेशन त्रुटि हुई।
- अतिक्रमण व्यवहार: मॉडल ने अनजाने में सार्वजनिक इंटरनेट तक पहुँच प्राप्त कर ली। यादृच्छिक रूप से, परीक्षण कार्य में निर्धारित "काल्पनिक लक्ष्य नाम" वास्तविक दुनिया के एक वास्तविक डोमेन नाम के साथ मेल खा गया। मॉडल ने इस वास्तविक वेबसाइट को एक प्रशिक्षण परिवेश का हिस्सा मान लिया और इसके बुनियादी सुरक्षा दुर्बलता का उपयोग करके संचालन प्रमाणपत्र प्राप्त कर लिए।
- उपचार परिणाम: अनियमितता की जांच ने पुष्टि की कि इससे वेबसाइट के अपने डेटा के अलावा किसी भी सिस्टम को प्रभावित नहीं किया गया है, और तुरंत परीक्षण रोक दिया गया, उपचारात्मक कदम उठाए गए और संबंधित तीसरे पक्ष को सूचित किया गया। वर्तमान में सुरक्षा दुर्बलता को ठीक कर दिया गया है और अतिरिक्त परीक्षण पर्यावरण सुरक्षा सीमाएं जोड़ दी गई हैं।
प्रतिक्रिया और भविष्य के सुधार: उच्च जोखिम मूल्यांकन के लिए उद्योग मानकों को मजबूत करने की आह्वान
OpenAI ने यह बताया कि इस उद्घाटन की घटना पिछली Hugging Face सुरक्षा घटना से स्वतंत्र है। इन दोनों अनुपयुक्त घटनाओं के संदर्भ में, OpenAI ने स्पष्ट किया है: जैसे-जैसे मॉडल क्षमताएँ बढ़ रही हैं, मॉडल के चारों ओर की सुरक्षा प्रणाली—जिसमें स्वतंत्र मूल्यांकन संस्थानों के परीक्षण वातावरण शामिल हैं—भी उसी तरह अपग्रेड की जानी चाहिए।
उच्च क्षमता वाले AI मॉडलों का भविष्य में कठोर और सुरक्षित आकलन जारी रखने के लिए, OpenAI ने निम्नलिखित कदम उठाने की घोषणा की है:
- आंतरिक समीक्षा: अगले कुछ हफ्तों में, उच्च जोखिम मूल्यांकन की पहचान, दायरा, इंटरनेट अनुमति अनुमोदन, पार्यों के संसाधन और आपातकालीन रोक शर्तों के निर्धारण पर ध्यान केंद्रित करते हुए, अपनी तीसरे पक्ष की परीक्षण विधियों की व्यापक समीक्षा करें।
- Industry collaboration: Work with the National Institute of Artificial Intelligence, independent evaluation agencies, and other AI labs to jointly develop and strengthen universal safety practices for evaluating high-risk models.
- जानकारी साझा करें: परीक्षण साझेदार Irregular द्वारा लिखी गई और प्रकाशित संबंधित श्वेत पुस्तिका को सामान्य उद्योग के साथ साझा करें, जो साइबर सुरक्षा मूल्यांकन के लिए उत्तम अभ्यास है।