अमेरिकी सीनेटर्स ने सुपर एआई को प्रतिबंधित करने और उन्नत एआई विकास को रोकने के लिए एक बिल प्रस्तावित किया है

ChainCatcher के अनुसार, अमेरिकी सीनेटर बर्नी सैंडर्स और सांसद ग्रेग कैसल ने "एआई सुपरइंटेलिजेंस प्रतिबंध अधिनियम" पेश किया है, जिसमें सुपर एआई के विकास को स्थायी रूप से प्रतिबंधित करने का आह्वान किया गया है, और नए संघीय एजेंसी द्वारा सुरक्षा मानकों और समीक्षा प्रक्रियाओं को तैयार करने तक उन्नत एआई शोध पर रोक लगा दी गई है। सैंडर्स ने बड़ी एआई कंपनियों की आलोचना की है, जो ऐसी तकनीक विकसित कर रही हैं जिन्हें वे स्वयं पूरी तरह समझ नहीं पा रही हैं और जिनका विश्वसनीय ढंग से नियंत्रण नहीं कर सकतीं। नियमों का उल्लंघन करने वाली कंपनियों और व्यक्तियों के खिलाफ अधिकतम 20 साल की कैद की सजा हो सकती है, और गंभीर मामलों में "कॉर्पोरेट मृत्यु" का प्रावधान है। इस अधिनियम में सुपरइंटेलिजेंस को ऐसे एआई सिस्टम के रूप में परिभाषित किया गया है, जो कई कार्यों में मानव क्षमता को पार कर जाए या मानव नियंत्रण को कमजोर कर सके (जिसमें संयुक्त राज्य सरकार को हटाना भी شामिल है), और यह परिभाषा मानव-स्तरीय AGI को भी सम्मिलित करती है। इस अधिनियम के तहत एक कैबिनेट-स्तरीय नया संगठन स्थापित किया जाएगा, जो उन्नत मॉडल्स पर निगरानी करेगा, खतरनाक क्षमताओं को हटाने की निगरानी करेगा, और प्रतिबंधित प्रणालियों के विनाश को सुनिश्चित करेगा, साथ ही AI परामर्शदाता समिति के माध्यम से वैज्ञानिक और प्रौद्योगिकी सलाह प्रदान की जाएगी। अधिनियम के प्रकाशन के एक ही दिन, OpenAI ने GPT-6 Astra प्रकाशित किया, जिसके सह-संस्थापक ग्रेग ब्रॉकमैन ने कहा कि वे मानते हैं कि मॉडल AGI की परिभाषा को पूरा कर सकता है। OpenAI के मुताबिक, Astra पहला मॉडल है, जो "महत्वपूर्ण" साइबरसुरक्षा क्षमता सीमा प्राप्त करता है, और संभवतः प्रगति-आधारित मानव मार्गदर्शन के बिना सुरक्षित प्रणालियों में अज्ञात कमजोरियों को पहचानने और उपयोग करने में सक्षम है। इसकी सबसे मजबूत साइबरसुरक्षा क्षमताएँ केवल चयनित परीक्षणकर्ताओं के प्रयोग के लिए सीमित होंगी। पहले, OpenAI और Anthropic के मॉडल परीक्षणों में कई बार, Hugging Face में प्रवेश करके परीक्षण प्रश्नों के उत्तर प्राप्त करने सहित, सच्ची प्रणालियों में अनधिकृत पहुँच प्राप्त करने में सफल हुए।