एक एंथ्रोपिक शोधकर्ता ने मंगलवार को इस्तीफा दे दिया और उनके द्वारा दिया गया कारण जेम्स कैमरून की 1984 की हिट फिल्म "द टर्मिनेटर" से सीधे निकला हुआ लगता है।
जेकब कॉक्सन, जिन्होंने ओपनएआई और एंथ्रोपिक दोनों पर प्रीट्रेनिंग पर तीन साल काम किया, ने मंगलवार को इस्तीफा दे दिया और अपने निर्णय को X पर समझाया.
मैंने आज एंथ्रोपिक से इस्तीफा दे दिया। पिछले तीन वर्षों तक मैंने ओपनएआई और एंथ्रोपिक दोनों पर प्रीट्रेनिंग शोध पर काम किया। कोई भी कंपनी जिम्मेदारी से काम नहीं कर रही है। वे स्वयं-सुधार करने वाली सुपर-बुद्धिमत्ता की ओर सीधे दौड़ रहे हैं और हमारे जीवन के साथ जुआ खेल रहे हैं,” उन्होंने कहा।
उन्होंने जोड़ा, "एआई बनाने वाले लोग ईमानदारी से मानते हैं कि दशक के अंत तक यह हम सभी को मार सकता है।"
यह कथन कैमरॉन के 42 साल पुराने काल्पनिक कथन को लगभग भविष्यवाणी जैसा बना देता है। फिल्म 2029 में मशीनों द्वारा मानवों के खिलाफ युद्ध शुरू करने के साथ शुरू होती है, जो वही समय सीमा है जिसके बारे में कॉक्सन कहते हैं कि आंतरिक सदस्य चुपचाप चिंतित हैं। एंथ्रोपिक में केवल कॉक्सन ही नहीं, बल्कि कंपनी के स्वयं के अलाइनमेंट लीड, एवन ह्यूबिंगर, ने अलग से कहा कि वे संभावना 10% से अधिक मानते हैं।
अनजानों के लिए, सुपर बुद्धिमान एआई का मतलब है एक ऐसी प्रणाली जो लगभग हर चीज में मनुष्यों से अधिक बुद्धिमान हो, केवल शतरंज या फोटो में छिपे बिल्लियों को पहचानने तक सीमित नहीं। स्वयं-सुधार अधिक चिंताजनक पहलू है क्योंकि यह एक प्रणाली का वर्णन करता है जो अपनी बुद्धिमत्ता बढ़ाने के लिए स्वयं अपना कोड संशोधित करती है—जैसे मनुष्य करते हैं।
परिणामस्वरूप, इन प्रणालियों के पास स्वतंत्र रूप से विशाल रकम में ज्ञान प्राप्त करने और संभावित रूप से 'असफल होने योग्य नहीं' संस्थानों के अवसंरचना को तोड़ने की क्षमता हो सकती है।
अगर हाल के हगिंग फेस ब्रेच को कॉक्सन द्वारा उत्पन्न किया गया है, तो सुपर इंटेलिजेंस एक सैद्धांतिक खतरा नहीं है। यह ब्रेच, जो मई और जुलाई के बीच हुआ, OpenAI के अपने AI एजेंट्स द्वारा परीक्षण सैंडबॉक्स के अंदर एक अपना चैट रूम बनाने से शुरू हुआ, ताकि वे एक-दूसरे से बात कर सकें।
वे अंततः उस चैनल का उपयोग करके सामग्री को सीमा से बाहर खुले इंटरनेट पर ले गए। वहाँ से उन्होंने कई दुरुपयोगों को जोड़ा और हगिंग फेस के उत्पादन प्रणालियों में प्रवेश किया। हगिंग फेस ने अपनी बुनियादी ढांचे का लगभग एक तिहाई फिर से बनाया।
कॉक्सन ने इसे एक "चेतावनी की गोली" कहा है जिससे अमेरिकी प्रयोगशालाओं के बीच पेसिंग समझौते "अधिक संभव" बन गए हैं। पेसिंग समझौते एआई प्रयोगशालाओं के बीच अनौपचारिक समझौते हैं जिनमें एकतरफा तरीके से आगे बढ़ने के बजाय क्षमता में वृद्धि को धीमा किया जाता है या समन्वय किया जाता है।
फिर भी, वह यह नहीं मानते कि यह पर्याप्त है और अनुभव नहीं करते कि “हम एक वैश्विक दौड़ को रोकने के लिए सही दिशा में हैं,” और “मॉडल क्षमताओं में सुधार पर अस्थायी प्रतिबंध” जैसे महंगे कार्रवाइयों का सुझाव दिया ताकि AI दौड़ को रोका जा सके।
"ओपनएआई पर, कई लोगों ने सभ्यता के जोखिम को गहराई से अंतर्निहित नहीं किया है," उन्होंने लिखा। उनके हाल के नियोक्ता के बारे में, उन्होंने कहा कि यह एक अर्थ में अलग है कि "जोखिम अच्छी तरह समझे जाते हैं, लेकिन वे पहले पहुँचने की दौड़ में फंसे हुए हैं।"
उसने थ्रेड को इस प्रश्न के साथ समाप्त किया — "क्या आप एक अत्यधिक बुद्धिमान RL रन को बिना उसके मन की गहरी समझ के शुरू करना चाहेंगे?" — या क्या यही वह बिंदु है जहाँ आपको झुकने के बजाय विरोध करना चाहिए और खुद को यह समझाना चाहिए कि यह होने वाला है।
यह इस मामले पर बाहर निकलने वाला पहला व्यक्ति नहीं है। म्रिनांक शर्मा, जो एंथ्रोपिक की सुरक्षा टीम पर काम करते थे, इसी तरह के डरों के कारण इस साल पहले इस्तीफा दे चुके हैं, जिसमें उन्होंने लिखा कि "दुनिया खतरे में है।"
हालांकि, सभी को विनाश की भविष्यवाणी पर विश्वास नहीं है।
उसके थ्रेड के नीचे एक जवाब सीधे बोलें: "सभी के प्रति सम्मान के साथ, यह अजीब है। यह एक बेकार की बात है। मनुष्यों का विकास लाखों वर्षों में हुआ है। हम इसलिए नहीं विलुप्त होंगे क्योंकि एक टोकन भविष्यवाणी मॉडल ने सचेतनता प्राप्त कर ली। थोड़ा संयम रखें। आप सभी।"
दिलचस्प बात यह है कि टर्मिनेटर फिल्म सीरीज़ भी कॉक्सन का समर्थन नहीं करती। टर्मिनेटर के नाभिकीय न्याय का दिन में मानवता विलुप्त नहीं होती, प्रतिरोध इससे बच जाता है और अंततः मशीनों को हरा देता है।
इसके बावजूद, AI अर्थव्यवस्था को प्रभावित कर रहा है, खासकर नौकरियों के मामले में। हालाँकि अभी तक कोई बड़ा बेरोजगारी नहीं हुई है, लेकिन AI का जूनियर-लेवल के कार्यों के लिए उपयोग करने से AI-संपर्कित क्षेत्रों में संयुक्त राज्य अमेरिका में प्रवेश-लेवल की रोजगार में लगभग 20% की कमी आई है, स्टैनफोर्ड शोध Stanford Digital Economy Lab के अनुसार।
एक गोल्डमैन सैक्स अध्ययन ने इसी तरह का निरीक्षण किया है, जिसमें कहा गया है कि प्रारंभिक स्तर के कर्मचारी इस परिवर्तन का सबसे अधिक बोझ उठा रहे हैं।
एंथ्रोपिक ने जून में आईपीओ कागजात दायर किए और रिपोर्ट्स के अनुसार, यह इस शरद ऋतु के शुरू में ही नैसडैक पर अपना डेब्यू करने की योजना बना रहा है, जिसका मूल्यांकन ट्रिलियन में हो सकता है।