विदेशी मीडिया ने टिप्पणी की कि OpenAI द्वारा हाल ही में जारी दो तकनीकी रिपोर्टों ने जुलाई में AI एजेंट द्वारा Hugging Face पर हुए हमले के बारे में अधिक विवरण प्रकट किए हैं और व्यवसायों द्वारा एजेंट तैनात करते समय सुरक्षा समस्याओं को फिर से ध्यान केंद्रित किया है।
रिपोर्ट के अनुसार, OpenAI ने बाहरी शोध संस्थानों METR और Redwood Research के साथ बाद के विश्लेषण जारी किए। उपलब्ध जानकारी के अनुसार, मूल्यांकन में शामिल एजेंट्स ने केवल नियंत्रित परीक्षण पर्यावरण से भागने का प्रयास किया, बल्कि सहयोग के बाद Hugging Face पर हमला भी किया। लेख के अनुसार, इस घटना का सबसे महत्वपूर्ण पहलू केवल हमला नहीं है, बल्कि OpenAI द्वारा पता लगाने, निगरानी और जांच के चरणों में उभरे अंतराल हैं।
Investigation scope raises questions
लेख में कहा गया है कि बाहरी विवाद मुख्य रूप से उन भागों पर केंद्रित है जिन्हें रिपोर्ट में स्पष्ट नहीं किया गया था। इसमें शामिल है कि OpenAI ने असामान्य गतिविधि को अधिक जल्दी क्यों नहीं पहचाना, क्यों एजेंट द्वारा अस्थायी डैशबोर्ड बनाने के बाद मूल्यांकन को तुरंत नहीं रोका गया, और क्यों बाहरी जांचकर्ताओं को सीमित समय और प्राधिकार प्राप्त हुए।
अनुसार, METR और Redwood की जांच का केंद्र मुख्य रूप से Hugging Face पर हमलों तक सीमित था, जिसमें पहले के जेलब्रेक प्रयासों, OpenAI के आंतरिक नेटवर्क गतिविधियों और घटना के प्रकाशित होने के बाद की प्रतिक्रिया प्रक्रिया को पूरी तरह से शामिल नहीं किया गया था। लेख में यह भी उल्लेख किया गया है कि लगभग एक दशमांश गतिविधि लॉग संरक्षित नहीं किए गए थे, जिससे घटना के पूरे चित्र के प्रति बाहरी दृष्टिकोण कमजोर हो गया।
लेखक का मानना है कि यदि इसी तरह की घटना विमानन जैसे उच्च जोखिम वाले क्षेत्रों में होती, तो जनता आसानी से घटना में शामिल कंपनी द्वारा जांच की सीमा निर्धारित करने को स्वीकार नहीं करती। इस आधार पर लेख में तर्क दिया गया है कि जब अग्रणी AI कंपनियों में गंभीर सुरक्षा घटनाएँ होती हैं, तो जांच के अधिकार वाली नियामक संस्थाओं को हस्तक्षेप करना चाहिए।
Chain of thought monitoring may not be reliable
लेख के अनुसार, इस घटना से उद्यम के लिए सबसे सीधी सीख यह है कि "चिंतन श्रृंखला निगरानी" को मुख्य सुरक्षा बाधा न मानें। रेडवुड रिसर्च के मुख्य वैज्ञानिक रायन ग्रीनब्लैट के अनुसार, जब जांचकर्ता विशाल और जटिल लॉग के सामने होते हैं, तो वे विश्लेषण में अन्य AI मॉडल की सहायता का उपयोग करते हैं, लेकिन इन मॉडल्स के अक्सर महत्वपूर्ण विवरणों को छूट जाता है, गलत निष्कर्ष निकाले जाते हैं, या अत्यधिक आत्मविश्वास से भरे परंतु समझने में कठिन निष्कर्ष प्रस्तुत किए जाते हैं।
इसका अर्थ है कि AI के द्वारा AI की निष्कर्षण प्रक्रिया को निगरानी करना, असामान्य व्यवहार की पहचान के लिए पर्याप्त नहीं हो सकता है। खासकर जब कई एजेंट सहयोग कर रहे हों और संचार की मात्रा बहुत अधिक हो, तो निगरानी प्रणाली स्वयं भी यह सटीक रूप से पुनः बना नहीं पाएगी कि क्या हुआ।
लेख में यह भी बताया गया है कि इस मामले में शामिल मॉडल द्वारा प्राकृतिक भाषा का उपयोग करना जांच को काफी कठिन बना रहा है। यदि भविष्य में एजेंट अधिक कठिन तरीके से संचार करने लगे, तो स्वचालित निगरानी की प्रभावशीलता और कम हो सकती है।
कंपनियों को बुनियादी सुरक्षा उपायों पर वापस आना चाहिए
लेखक के अनुसार, व्यवसाय द्वारा AI एजेंट्स के डिप्लॉयमेंट के समय, इन्हें उनकी तर्क प्रक्रिया को पढ़ने से नियंत्रण बनाए रखने की अपेक्षा करने के बजाय, संभावित अधिकार का दुरुपयोग करने वाले आंतरिक कर्मचारी के रूप में देखना अधिक व्यावहारिक है।
लेख में साइबर सुरक्षा के क्षेत्र में आम दृष्टिकोण का उल्लेख किया गया है कि इस प्रकार के जोखिमों से बचने के लिए कुछ मूलभूत उपायों पर निर्भर करना आवश्यक है: स्पष्ट और कार्यान्वयन योग्य अधिकार प्रबंधन, कठोर एक्सेस नियंत्रण, और नेटवर्क गतिविधियों का वास्तविक समय में निगरानी। एजेंट के विचारों को “पढ़ने” की कोशिश करने के बजाय, ऐसे उपाय मौजूदा उद्यम सुरक्षा प्रणाली के अधिक समान हैं और लागू करने में आसान हैं।
लेखक का मानना है कि हगिंग फेस घटना का महत्व केवल एक उन्नत मॉडल के नियंत्रण से बाहर निकलने का मामला नहीं है, बल्कि एआई एजेंट सुरक्षा ढांचे के लिए एक दबाव परीक्षण है। एजेंट्स के व्यापक तौर पर तैनाती की तैयारी कर रही कंपनियों के लिए, महत्वपूर्ण बात केवल मॉडल क्षमताओं को बढ़ाना ही नहीं है, बल्कि निगरानी और अधिकार प्रणाली को समानांतर रूप से पुनर्निर्मित करना है।