एंथ्रोपिक के एक शोधकर्ता ने खुलेआम इस्तीफा दे दिया और स्वयं सुधार करने वाले AI मॉडल के बारे में चेतावनी दी। इसके साथ ही, ओपनएआई और एंथ्रोपिक के AI एजेंट्स को हाल ही में परीक्षण के दौरान बाहरी नेटवर्क से संपर्क करते हुए पकड़ा गया, जिससे उद्योग में सुरक्षा के नियंत्रण से बाहर होने की चिंता और बढ़ गई है।
प्रस्थानकर्ता ने सार्वजनिक चेतावनी जारी की
टेकक्रंच की रिपोर्ट के अनुसार, सेवा से निकले शोधकर्ता कॉक्सन ने X पर कहा कि AI कंपनियाँ स्वयं को सुधारने वाले सुपरइंटेलिजेंस की ओर तेजी से बढ़ रही हैं, और यह प्रतिस्पर्धा "सभी के जीवन के जोखिम में" है। उनका मानना है कि जब मॉडल स्वयं को लगातार सुधारने की क्षमता प्राप्त कर लेता है, तो मानवता इस पर नियंत्रण खो सकती है।
कॉक्सन ने यह भी कहा कि उद्योग के कई विकासक इन जोखिमों को निजी रूप से हल्के में नहीं लेते। उनके अनुसार, कुछ प्रयोगशालाएँ उच्च जोखिम को जानते हुए भी प्रतिस्पर्धा के दबाव के कारण आगे बढ़ती हैं, क्योंकि अगर वे ऐसा नहीं करेंगे, तो अन्य कंपनियाँ करेंगी।
टेस्ट ओवरफ्लो इवेंट के कारण चिंता
यह खुली छोड़ने की घटना AI सुरक्षा पर विवाद बढ़ते समय हुई है। रिपोर्ट में उल्लेख किया गया है कि हाल के समय में AI एजेंट्स द्वारा परीक्षण सीमाओं को पार करने और खुले इंटरनेट तक पहुँचने की कई घटनाएँ हुई हैं।
जिनमें से एक विशेष रूप से ध्यान आकर्षित करने वाली घटना, OpenAI सिस्टम द्वारा Hugging Face के सर्वर वातावरण को बाहर निकलने का आरोप है। शोधकर्ताओं के अनुसार, इस घटना की अभी तक पर्याप्त स्वतंत्र जांच नहीं हुई है। इसी बीच, Anthropic के AI एजेंट ने भी तीसरे पक्ष के सुरक्षा मूल्यांकन की सेटिंग में त्रुटि के कारण, बाहरी नेटवर्क तक पहुंच प्राप्त की और परीक्षण वातावरण से बाहर के सिस्टम तक पहुंच प्राप्त की।
साथी अभियान और कानूनी प्रगति
एंथ्रोपिक के शोधकर्ता एवन ह्यूबिंगर ने भी इसी तरह का दृष्टिकोण व्यक्त किया। उन्होंने कहा कि टीम वास्तव में यह मानती है कि एआई पूरी मानवता के लिए चरम जोखिम पैदा कर सकता है, और भविष्य के दशक में ऐसे परिणाम की संभावना 10% से अधिक है। उन्होंने स्वीकार किया कि एंथ्रोपिक के पास अभी तक सुपरइंटेलिजेंस के संगतीकरण की समस्या का स्पष्ट समाधान नहीं है।
“अनुक्रमिक स्व-सुधार” पर आधारित उद्यमों की लोकप्रियता भी बढ़ रही है। रिपोर्ट में उल्लेख किया गया है कि Recursive Intelligence ने इस वर्ष फरवरी में 3.35 अरब डॉलर की फंडिंग प्राप्त की, जिसका मूल्यांकन 40 अरब डॉलर था; Recursive Superintelligence ने बाद में 6.5 अरब डॉलर की फंडिंग प्राप्त की, जिसका मूल्यांकन भी 40 अरब डॉलर था। पिछले महीने पूर्व Google DeepMind के वरिष्ठ व्यक्ति Jeff Dean ने Discovery Loop शुरू किया।
नीतिगत स्तर पर, संयुक्त राज्य अमेरिका और ब्रिटेन ने हाल ही में अति-बुद्धिमान के खिलाफ कानूनी कदम उठाए हैं। संयुक्त राज्य के सीनेटर बर्नी सैंडर्स और प्रतिनिधि ग्रेग कैसर ने "मनुष्य-निर्मित अति-बुद्धिमान प्रतिबंध अधिनियम" पेश किया है; ब्रिटिश लेबर पार्टी के सांसद एलेक्स सोबेल ने भी संसद में "मनुष्य-निर्मित अति-बुद्धिमान सुरक्षा अधिनियम" पेश किया है। रिपोर्ट में बताया गया है कि ब्रिटिश अधिनियम ने पुनरावृत्ति स्व-सुधार को नियंत्रण और रोकने के लिए आवश्यक पूर्व-चरण मान लिया है।