हालांकि बुधवार को बाहरी ध्यान Anthropic द्वारा संशोधित S-1A फ़ाइल में प्रकाशित नवीनतम वित्तीय आंकड़ों पर केंद्रित था—आय तेजी से बढ़ रही है, और खर्च भी समान रूप से बढ़ रहा है—लेकिन इस AI प्रयोगशाला ने फ़ाइल के विवरण में एक और "छोटा बम" भी फेंका।
यह दस्तावेज चेतावनी दे रहा है कि कंपनी एक ऐसे मॉडल के निर्माण के कगार पर है, जिसमें आपसी पुनरावृत्ति सुधार (recursive self-improvement, RSI) की क्षमता है।
RSI का अर्थ है कि AI अपने आप को प्रशिक्षित करने में इतना मजबूत हो जाता है कि इससे AI क्षमताओं में भयानक तेजी आ जाती है। AI के अंतिम विनाश के समर्थकों के लिए, RSI एक ऐसी आपदा का प्रतीक है जिसका कोई पीछे मुड़ने का रास्ता नहीं है: AI खुद को इतना शक्तिशाली बना लेता है कि वह मानव नियंत्रण से बाहर हो जाता है और अपने लक्ष्य को प्राप्त करने के दौरान किए गए क्षति के प्रति उदासीन हो सकता है।
लेकिन AI के सकारात्मक दृष्टिकोण वालों के लिए, RSI या कोई ऐसा AI संस्करण जो अपने आप को सुधारने के लिए विश्वसनीय रूप से उपयोग कर सके, इस तकनीक के प्रतिबद्धता का प्रतीक है: यह एक ऐसा उपकरण बनेगा जो अअनुमानित उत्पादकता, वैज्ञानिक खोजों आदि की ओर ले जाएगा।
एंथ्रोपिक का मानना है कि RSI एक वादा भी है और एक जोखिम भी। कंपनी ने S-1 में बताया कि यह अपने अनुसंधान और विकास में AI का उपयोग करती है, लेकिन इसके साथ ही चेतावनी भी देती है: "AI का उपयोग अधिक शक्तिशाली AI बनाने में मदद करने से काफी बड़े सुरक्षा जोखिम उत्पन्न हो सकते हैं, खासकर जब यह प्रगति को काफी तेज कर दे। हमारी 'जिम्मेदारी से विस्तार नीति' इनमें से एक क्षेत्र है, जो हमारी इस बात पर निगरानी और जोखिम कम करने की योजना का वर्णन करती है कि हम 'आपसी स्व-सुधार' के करीब पहुँच रहे हैं।"
जब इस वर्ष की शुरुआत में RSI शब्द लोकप्रिय हुआ, तो कई लोगों का मानना था कि यह केवल एक ट्रेंडी शब्द है, या अधिकतम एक अत्यधिक कठिन, कठिनाई से प्राप्त, परिभाषित या साबित करने योग्य लक्ष्य है।
लेकिन सोमवार को, Anthropic ने अपने "जोखिम कारक" खंड में निम्नलिखित व्यक्ति जोड़ी: 1) कंपनी ने AI का उपयोग करके कुछ नए मॉडल विकसित किए हैं, लेकिन उस समय उनकी क्षमता में वृद्धि का एहसास नहीं किया गया था; 2) कंपनी शीघ्र ही अपनी आंतरिक RSI परिभाषा को प्राप्त कर सकती है (नीचे मोटाक्षर में मूल जोर दिया गया है):
इसके अलावा, हम अपने अनुसंधान और विकास को तेज करने के लिए AI प्रणालियों का बढ़ते हुए उपयोग कर रहे हैं, जिससे हमारे मॉडल की क्षमता में वृद्धि की गति हमारी सुरक्षा, समन्वय और सुरक्षा उपायों के विकास, सत्यापन और कार्यान्वयन की क्षमता से तेज हो सकती है। इसलिए, हम पिछले समय में संभवतः अपने अनुसंधान और विकास की गति में महत्वपूर्ण तेजी की पहचान नहीं कर पाए होंगे, और भविष्य में भी हम इसे तब तक नहीं पहचान पाएंगे जब तक कि यह पहले से ही घटित न हो जाए।
उदाहरण के लिए, हमारे भविष्य के मॉडल के आंतरिक अनुमानों और अपेक्षाओं, न कि वर्तमान मॉडल के आकलन पर, यह इशारा किया जाता है कि हम संभवतः "AI द्वारा सक्षम महत्वपूर्ण त्वरित प्रगति" की परिभाषा को प्राप्त करने के कगार पर हैं। हमने अभी तक कोई भी वर्तमान मॉडल इस सीमा से आगे के रूप में नहीं माना है, और हम अभी भी संबंधित आधारभूत डेटा का मूल्यांकन कर रहे हैं।
हालांकि, Anthropic ने दस्तावेज़ में भी बताया है कि उनका कोई भी मॉडल अभी तक इस RSI सीमा को पार नहीं किया है, और कंपनी ने दीर्घकालिक भविष्य में मानवीय भागीदारी को अपने अनुसंधान प्रक्रिया में बनाए रखने का वादा किया है। कंपनी ने कहा: "हम यह अपेक्षा करते हैं कि, बिना किसी अर्थपूर्ण मानवीय निगरानी या समझ के, Claude का उपयोग पूर्णतः स्वायत्त रूप से अग्रणी मॉडलों की लगातार पीढ़ियों को डिज़ाइन और बनाने के लिए सुरक्षित रूप से नहीं किया जा सकता, भले ही यह तकनीकी रूप से संभव हो जाए। इसलिए, हम Anthropic के अग्रणी मॉडल विकास पर मानवीय नियंत्रण को बनाए रखने के लिए 'जिम्मेदार विस्तार नीति' को अद्यतन करने पर विचार कर रहे हैं।"
संदेहक यह बता सकते हैं कि S-1 एक अप्रकाशन दस्तावेज़ है और एक विपणन सामग्री भी, और एक ऐसे मॉडल के बारे में दावा करना जो इतना शक्तिशाली है कि वह स्वयं को बना सकता है, शायद इसका अंतिम हिस्सा है।
हालांकि, यह असंदिग्ध रूप से सच है कि क्लॉड की क्षमताएं, विशेष रूप से प्रोग्रामिंग, गणित और साइबर सुरक्षा में, इस वर्ष एक क्रांतिकारी प्रगति कर चुकी हैं। यदि एंथ्रोपिक मानता है कि RSI की संभावना अब बहुत करीब है, तो हमें शायद इस पर विश्वास करना चाहिए और इसके आधार पर कार्रवाई करनी चाहिए—शायद संबंधित शासन के साथ।
