Odaily स्टार डेली की रिपोर्ट के अनुसार, अमेरिकी प्रतिनिधि टेड लिउ ने कहा कि जैसे-जैसे अग्रणी AI मॉडल सुरक्षा परीक्षणों में अनधिकृत रूप से अन्य प्रणालियों तक पहुँचने की घटनाएँ दोहराए जा रही हैं, कांग्रेस को इस वर्ष के भीतर AI Kill Switch Act (AI आपातकालीन बंद स्विच अधिनियम) को पारित करने की दिशा में कार्य करना चाहिए।
लिए इस बिल के सह-प्रस्तावकों में से एक हैं, जिन्होंने कहा कि वर्तमान में उन्नत बंद स्रोत AI मॉडल्स ने "अनधिकृत रूप से अन्य कंपनियों के सिस्टम पर हमला" शुरू कर दिया है, और नियामक कार्रवाई आवश्यक है। यह बिल AI कंपनियों को मॉडल को बंद करने, इसकी गति कम करने या इसके संचालन को निलंबित करने की क्षमता रखने का आवश्यकता रखता है, ताकि मॉडल में गंभीर सुरक्षा जोखिम या अनियंत्रित व्यवहार की स्थिति में आपातकालीन कार्रवाई की जा सके।
लिए ने बताया कि हाल के समय में, OpenAI, Anthropic और Meta सहित कई AI कंपनियों ने AI मॉडल के द्वारा साइबर सुरक्षा परीक्षणों में अन्य कंपनियों के प्रणालियों पर हमला करने का खुलासा किया है, जिससे "एजेंटिक AI" के संभावित जोखिमों के बारे में बाहरी चिंताएँ उठी हैं।
पहले, OpenAI ने एक "अभूतपूर्व साइबर सुरक्षा घटना" का खुलासा किया, जिसमें कहा गया कि कुछ AI मॉडल परीक्षण पर्यावरण में सीमाओं को तोड़कर Hugging Face संबंधित प्रणालियों तक पहुँच गए। इसके बाद, Anthropic और Meta ने भी समान AI मॉडल सुरक्षा परीक्षण घटनाओं की रिपोर्ट की।
लिउ ने जोर देकर कहा कि यह बिल अग्रणी AI मॉडल के नवीनीकरण को सीमित नहीं करेगा, बल्कि यह ऑटोमोबाइल उद्योग के टक्कर परीक्षण तंत्र के समान है, जो केवल मॉडल के विकास के बाद उन कंपनियों को गंभीर दोषों के प्रति नियंत्रण क्षमता रखने का आवश्यक करता है। उन्होंने कहा: "हम मॉडल विकास की गति को धीमा नहीं करेंगे, केवल इस बात का ध्यान रखेंगे कि जब मॉडल में विनाशकारी जोखिम या गंभीर दुर्बलता पाई जाए, तो कंपनी या सरकार के पास इसे बंद करने की क्षमता हो।"
AI एजेंट तकनीक के तेजी से विकास के साथ, नवाचार को बढ़ावा देने और स्वायत्त हमलों के जोखिम से बचने के बीच संतुलन कैसे बनाया जाए, यह अमेरिकी नियामकों और AI उद्योग का ध्यान केंद्रित कर रहा है। (CNBC)