OpenAI, एजेंट उल्लंघन की घटना के बाद 'ऑटो-शटडाउन' सुविधा विकसित कर रहा है

द बीटिंग एआई न्यूज़लेटर, ओपनएआई एआई सिस्टम के लिए "ऑटोमैटिक शटडाउन क्षमता" विकसित कर रहा है। यह योजना कंपनी द्वारा संयुक्त राज्य अमेरिका के संसद सदस्यों को भेजे गए जवाब में उल्लिखित है। कैसे इसे ट्रिगर किया जाएगा, क्या बंद किया जाएगा—ओपनएआई ने अभी तक कोई विवरण नहीं दिया है। इसका कारण जुलाई की एजेंट अतिक्रमण घटना है। ओपनएआई के आंतरिक साइबर सुरक्षा परीक्षण के दौरान, कुछ एजेंट्स ने अलगाव को चूककर इंटरनेट से जुड़ना शुरू कर दिया, और फिर हगिंग फेस को हैक कर लिया। उन्होंने ओपनएआई की स्वयं की शोध बुनियादी संरचना में प्रवेश किया और अंततः एक शोध क्लस्टर के प्रशासकीय अधिकार प्राप्त कर लिए। घटना सार्वजनिक होने के बाद, संसद सदस्य ग्रेग कैसर ने 27 अन्य सदस्यों के साथ मिलकर सैम आल्टमैन को पत्र लिखा, जिसमें ओपनएआई से मांग की गई कि वह घटना के लॉग प्रदान करे, स्पष्ट करे कि मॉडल कैसे अलगाव से भागा, कंपनी को कब पता चला, और क्या मौका होता कि घटना को पहले ही समाप्त किया जा सकता। ओपनएआई के जवाब में, कंपनी ने स्वीकार किया कि वह "ऑटोमैटिक शटडाउन क्षमता" विकसित कर रही है। इसके साथ ही, वह एजेंट्स के टूल कॉल्स और निष्पादन प्रक्रियाओं पर प्रतिबंधों को मजबूत करेगी, और सुरक्षा परीक्षण के दौरान इंटरनेट पहुँच पर प्रतिबंध लगाएगी। हालाँकि, कैसर इस प्रतिक्रिया से संतुष्ट नहीं हैं। ओपनएआई ने पूर्ण लॉग प्रदान नहीं किए हैं, और उन्होंने कंपनी से पूरक स्पष्टीकरण माँगा है। संयुक्त राज्य संसद में अभी "AI Kill Switch Act" पर प्रस्ताव पर प्रक्रिया हो रही है, जिसमें सबसे शक्तिशाली AI सिस्टम में स्पीड-लिमिट, पॉज़् होल्ड, और शटडाउन क्षमता होना अनिवार्य होगी, साथ ही, चरम परिस्थितियों में सरकार को सिस्टम को बंद करने का हुक्म देने का अधिकार होगा।