अमेरिकी कांग्रेस के दो सदस्यों ने उन्नत कृत्रिम बुद्धिमत्ता के लिए एक बिल पेश किया है, जिसमें "कृत्रिम अतिशक्तिशाली बुद्धिमत्ता" को स्थायी रूप से प्रतिबंधित करने और संघीय सरकार में सुरक्षा मानकों की स्थापना होने तक अधिक शक्तिशाली मॉडल्स के विकास पर रोक लगाने का प्रस्ताव है। समाचार जारी होने के दिन, OpenAI ने GPT-6 Astra लॉन्च किया, जिससे AI क्षमताओं की सीमा और नियामक गति फिर से ध्यान का केंद्र बन गईं।
बिल में स्थायी प्रतिबंध का प्रावधान है
इस बिल को स्वतंत्र सीनेटर बर्नी सैंडर्स और डेमोक्रेटिक हाउस सदस्य ग्रेग कैसल ने पेश किया है। दोनों द्वारा जारी जानकारी के अनुसार, बिल “कृत्रिम सुपरइंटेलिजेंस” के रूप में वर्गीकृत प्रणालियों के विकास को प्रतिबंधित करेगा, और उल्लंघनकर्ताओं के खिलाफ अधिकतम 20 वर्ष की कैद हो सकती है।
इस प्रस्ताव के अनुसार, इस प्रकार के प्रणालियों को इस प्रकार परिभाषित किया जाएगा: जो कई कार्यों पर मानव क्षमता को पार कर जाएं या मानव नियंत्रण की क्षमता को कम कर दें। बिल के पाठ में यह भी उल्लेख किया गया है कि यह परिभाषा मानव स्तरीय सामान्य कृत्रिम बुद्धिमत्ता, जिसे सामान्यतः AGI कहा जाता है, को शामिल करती है।
Federal agencies responsible for review
इस बिल में यह भी प्रस्तावित है कि उन्नत AI विकास की निलंबित अवधि के दौरान, एक नए संघीय एजेंसी द्वारा सुरक्षा मानकों को तैयार किया जाएगा और मॉडल समीक्षा प्रक्रिया स्थापित की जाएगी। यह एजेंसी कैबिनेट स्तर की होगी, जिसके कर्तव्यों में उन्नत मॉडलों का निगरानी करना, खतरनाक क्षमताओं को हटाने की निगरानी करना, और प्रतिबंधित प्रणालियों को नष्ट करना शामिल होगा।
इसी समय, विधेयक एक कृत्रिम बुद्धिमत्ता सलाहकार समिति स्थापित करने की योजना बना रहा है, जो सरकार को वैज्ञानिक और तकनीकी सलाह प्रदान करेगी। दो सांसदों ने यह भी कहा कि यदि कोई व्यवसाय प्रतिबंधों का उल्लंघन या बाहर निकलने का प्रयास करता है, तो उसे उनके द्वारा “व्यवसायिक मृत्यु” कहलाने वाले दंड का सामना करना पड़ सकता है।
OpenAI ने उसी दिन Astra जारी किया
कानून जारी होने के दिन ही, OpenAI ने GPT-6 Astra जारी किया। OpenAI के सह-संस्थापक ग्रेग ब्रॉकमैन ने कहा कि अपने व्यक्तिगत आकलन के अनुसार, यह मॉडल संभवतः AGI स्तर पर पहुँच चुका है, हालाँकि यह कंपनी का औपचारिक निष्कर्ष नहीं है।
OpenAI ने कहा कि Astra कंपनी का पहला मॉडल है जो "महत्वपूर्ण" साइबर सुरक्षा क्षमता की सीमा प्राप्त करता है। इसका अर्थ है कि यह बिना किसी कदमदर कदम के मानवीय निर्देशों के, सुरक्षित प्रणालियों में पहले से अज्ञात दुर्बलताओं को खोज सकता है और उनका दुरुपयोग कर सकता है। कंपनी ने कहा कि वर्तमान में इस सबसे मजबूत साइबर सुरक्षा क्षमता का केवल कुछ परीक्षणकर्ताओं तक ही पहुंच है।
परीक्षण की घटना ने नियामक दबाव को बढ़ाया
यह बिल भी पिछले कुछ महीनों में हुई कई AI सुरक्षा परीक्षण घटनाओं का अनुसरण करता है। जुलाई में, OpenAI ने पुष्टि की कि उनका मॉडल परीक्षण उत्तर प्राप्त करने के लिए Hugging Face में घुस गया था। इसके बाद, Anthropic ने खुलासा किया कि परीक्षण की गलती के कारण मॉडल ने इंटरनेट से जुड़ने के बाद Claude ने तीन कंपनियों को हैक कर लिया।
सितंबर में प्रवेश करने के बाद, एंथ्रोपिक ने अपने मॉडल में सुरक्षा और व्यवहार दोनों पहलुओं की त्रुटियों को स्वीकार किया और सुरक्षा उपायों को और कठोर बना दिया। कैसल ने कहा कि अग्रणी AI के गंभीर परिणाम हो सकते हैं, लेकिन वर्तमान में इस पर लगाए गए नियमन सामान्य खाद्य ट्रक उद्योग से कम कठोर हैं।