एंथ्रोपिक ने चेतावनी दी है कि एआई अंततः अपने स्वयं के उत्तराधिकारी बना सकता है

• एंथ्रोपिक के अनुसार, क्लॉड अब अपने खुद के एआई सिस्टम विकसित करने के लिए उपयोग किए जाने वाले कोड का बड़ा हिस्सा लिखता है, जिससे उत्पादकता में वृद्धि होती है।
• कंपनी का कहना है कि एआई क्षमताएं तेजी से बढ़ रही हैं, जिसमें कार्य की जटिलता लगभग हर चार महीने में दोगुनी हो जाती है।
• एंथ्रोपिक ने चेतावनी दी है कि एआई अंततः बेहतर एआई बनाने में मदद कर सकता है, जिससे निगरानी और सुरक्षा अधिक चुनौतीपूर्ण हो जाएगी।

कृत्रिम बुद्धिमत्ता कंपनी एंथ्रोपिक का कहना है कि AI इतनी तेजी से सुधर रहा है कि यह अब अगली पीढ़ी के AI प्रणालियों के निर्माण में मदद करने लगा है। कंपनी चेतावनी देती है कि इससे आखिरकार मानवों के लिए AI विकास पर नियंत्रण बनाए रखना कठिन हो सकता है।

एक नए शोध पत्र में, एंथ्रोपिक ने “आत्म-उन्नति की पुनरावृत्ति” की संभावना पर चर्चा की। यह एक ऐसी स्थिति है जहाँ AI प्रणालियाँ बहुत कम मानव सहायता के साथ अधिक उन्नत AI प्रणालियों का डिज़ाइन, निर्माण और प्रशिक्षण करती हैं।

कंपनी ने जोर देकर कहा कि यह अभी तक नहीं हुआ है और कभी नहीं हो सकता। हालांकि, इसका मानना है कि सरकारें, नियामक और प्रौद्योगिकी कंपनियों को अभी से तैयारी शुरू करनी चाहिए।

"हम अभी तक वहां नहीं पहुंचे हैं, और आत्म-सुधार का पुनरावर्ती ढंग अनिवार्य नहीं है। लेकिन यह अधिकांश संस्थानों के तैयार होने से पहले आ सकता है," एंथ्रोपिक ने कहा।

एंथ्रोपिक का कहना है कि उसका क्लॉड एआई मॉडल एक बेसिक कोडिंग सहायक से कहीं अधिक विकसित हो चुका है।

कंपनी ने बताया कि AI उपकरण कैसे विकसित हुए। पहले, इंजीनियर्स स्वयं कोड लिखते थे। बाद में, चैटबॉट्स छोटे कोडिंग कार्यों में मदद करने लगे। फिर AI कोडिंग एजेंट्स आए जो स्वयं फाइलें संपादित कर सकते थे और प्रोजेक्ट्स का प्रबंधन कर सकते थे।

आज, एआई एजेंट कोड लिख सकते हैं और उसे चला सकते हैं, स्वतंत्र रूप से कार्य पूरा कर सकते हैं और यहां तक कि अन्य एआई एजेंट्स को कार्य आवंटित कर सकते हैं। एंथ्रोपिक के अनुसार, अगला कदम एआई प्रणालियां हैं जो भविष्य के एआई मॉडल्स को बनाने और प्रशिक्षित करने में सक्रिय रूप से मदद करती हैं।

कंपनी ने खुलासा किया कि क्लॉड अब एंथ्रोपिक के अपने एआई सिस्टम विकसित करने के लिए उपयोग किए जाने वाले अधिकांश कोड लिखता है। परिणामस्वरूप, डेवलपर्स बहुत अधिक उत्पादक हो गए हैं। एंथ्रोपिक के अनुसार, औसत इंजीनियर अब 2024 की तुलना में प्रतिदिन लगभग आठ गुना अधिक कोड उत्पन्न करता है।

संबंधित: एंथ्रोपिक के अध्यक्ष का कहना है कि बढ़ती एआई प्रशिक्षण लागतें आईपीओ योजनाओं को बढ़ावा दे रही हैं

एंथ्रोपिक का कहना है कि जनता के परीक्षण और इसकी आंतरिक शोध दर्शाते हैं कि एआई क्षमताएँ तेजी से सुधर रही हैं। कंपनी का दावा है कि एआई द्वारा विश्वसनीय रूप से पूरा किए जा सकने वाले कार्यों की लंबाई और जटिलता लगभग हर चार महीने में दोगुनी हो रही है। पहले, यह वृद्धि दर लगभग हर सात महीने में थी।

एंथ्रोपिक ने अपने क्लॉड मॉडल्स के प्रगति को एक उदाहरण के रूप में दिखाया। मार्च 2024 में, क्लॉड ओपस 3 ऐसे सॉफ्टवेयर इंजीनियरिंग कार्यों को संभाल सकता था जिन्हें मनुष्य को लगभग चार मिनट लगते। एक वर्ष बाद, क्लॉड सोनेट 3.7 को लगभग 90 मिनट के मानव कार्य की आवश्यकता वाले कार्यों को पूरा करने में सक्षम होने की रिपोर्ट की गई।

2026 तक, रिपोर्ट के अनुसार, क्लॉड ओपस 4.6 लगभग 12 घंटे के मानव प्रयास के बराबर कार्यों को संभालने में सक्षम था।

क्लॉड की शोध क्षमताएँ भी सुधर गई हैं। एक आंतरिक परियोजना में, क्लॉड-सक्षम एजेंटों ने एक प्रमुख शोध चुनौती का लगभग सभी हल कर लिया।

एंथ्रोपिक ने भी रिपोर्ट किया कि मई 2026 में कठिन कोडिंग कार्यों पर क्लॉड की सफलता की दर 76% तक पहुँच गई, जो छह महीने पहले की तुलना में एक बड़ा सुधार है।

एंथ्रोपिक ने एआई विकास के लिए तीन संभावित मार्गों का वर्णन किया। पहला धीमापन है, जहाँ समय के साथ प्रगति प्राप्त करना कठिन हो जाता है।

दूसरा एक भविष्य है जहाँ AI उत्पादकता को बढ़ाता रहेगा, जबकि मानव महत्वपूर्ण निर्णयों और निगरानी पर नियंत्रण बनाए रखेंगे।

तीसरा और सबसे अधिक नाटकीय परिदृश्य वह है जहां AI प्रणालियां अपने स्वयं के उत्तराधिकारी बनाना शुरू कर देती हैं, जिससे बहुत तेज़ प्रगति होती है।

वर्तमान साक्ष्य के आधार पर, एंथ्रोपिक मानता है कि दूसरा परिदृश्य सबसे अधिक संभावित है। हालाँकि, कंपनी कहती है कि AI क्षमताओं के तेजी से विकसित होने के बारे में अभी भी अनिश्चितता है।

एंथ्रोपिक का कहना है कि मानवों के पास अभी भी महत्वपूर्ण ताकतें हैं, जिनमें निर्णय लेना, रणनीतिक सोच और यह तय करना कि कौन सी समस्याओं को हल करने लायक है, शामिल हैं। हालाँकि, कंपनी का तर्क है कि अगला सबसे बड़ा चुनौती मानव निगरानी हो सकती है, न कि एआई विकास स्वयं।

जैसे-जैसे एआई प्रणालियाँ अधिक क्षमतावान बनती जा रही हैं, लोगों के लिए उनके कार्य की समीक्षा, सत्यापन और सुरक्षित निगरानी करना लगातार कठिन होता जा रहा है।

इस कारण, एंथ्रोपिक सुझाव देता है कि सरकारों और प्रमुख एआई कंपनियों के पास ऐसी योजनाएँ होनी चाहिए जो सबसे उन्नत एआई प्रणालियों के विकास को अस्थायी रूप से धीमा कर सकें यदि प्रगति उस गति से आगे बढ़ने लगे जिसे समाज सुरक्षित रूप से प्रबंधित नहीं कर सकता।

कंपनी ने ध्यान दिया कि कोई भी महत्वपूर्ण धीमापन संभवतः अंतरराष्ट्रीय सहयोग की आवश्यकता होगी। यदि केवल एक कंपनी विकास को रोक दे, तो प्रतिद्वंद्वी आगे बढ़ते रह सकते हैं, जिससे सुरक्षा उपाय की प्रभावशीलता कम हो जाएगी।

अभी के लिए, Anthropic कहता है कि आत्म-सुधार की प्रक्रिया एक संभावना है, लेकिन निश्चितता नहीं। लेकिन जैसे-जैसे Claude भविष्य के AI प्रणालियों के निर्माण में बढ़ती भूमिका निभाता है, कंपनी मानती है कि AI शासन, निगरानी और सुरक्षा के बारे में चर्चाएँ जल्द से जल्द शुरू होनी चाहिए।

संबंधित: क्या AI बिटकॉइन को मार रहा है? अब पूंजी AI टेक की ओर क्यों स्थानांतरित हो रही है?