एंथ्रोपिक ने कहा कि दुनिया को आगे की एआई विकास को धीमा या अस्थायी रूप से रोकने का विकल्प होना चाहिए, अगर अग्रणी एआई प्रयोगशालाएँ और सरकारें यह सत्यापित करने का विश्वसनीय तरीका बना सकें कि सभी पालन कर रहे हैं।
एंथ्रोपिक संस्थान के एक नए रिपोर्ट में, कंपनी ने कहा कि एक रुकावट से नीति निर्माताओं, शोधकर्ताओं और नागरिक समाज को बढ़ती क्षमता वाले एआई प्रणालियों से जुड़े जोखिमों को संबोधित करने के लिए अधिक समय मिल सकता है। लेकिन कंपनी ने चेतावनी दी कि एक धीमी गति केवल तभी सुरक्षा में सुधार करेगी अगर यह सीमा पर या उसके निकट कई अच्छी तरह से संसाधित प्रयोगशालाओं पर लागू हो।
एंथ्रोपिक ने कहा कि एक कंपनी द्वारा एकतरफा रुकावट लागू करना आसान होगा, लेकिन काफी कम प्रभावी, क्योंकि इससे कम सावधान एक्टर्स को अग्रणी स्थिति प्राप्त हो सकती है। कंपनी ने कहा कि कोई भी सार्थक रुकावट बहुत सारे देशों के डेवलपर्स को एक ही स्थितियों के तहत रुकने और यह सत्यापित करने की आवश्यकता होगी कि प्रतिद्वंद्वी भी रुक गए हैं।
चेतावनी तब आती है जब एंथ्रोपिक कहता है कि एआई प्रणालियाँ पहले से ही नए एआई मॉडल्स के विकास को तेज कर रही हैं। मई 2026 तक, एंथ्रोपिक के कोडबेस में शामिल किए गए कोड का 80% से अधिक क्लॉड द्वारा लिखा गया था, जबकि फरवरी 2025 में क्लॉड कोड के रिसर्च प्रीव्यू में लॉन्च होने से पहले यह संख्या एकल अंकों में थी।
कंपनी ने कहा कि 2026 के दूसरे तिमाही में सामान्य Anthropic इंजीनियर ने 2024 की तुलना में दिनभर में आठ गुना अधिक कोड मर्ज किया। मार्च 2026 की एक आंतरिक सर्वेक्षण में भी पाया गया कि Mythos Preview का उपयोग करने वाले शोध कर्मचारियों ने अनुमान लगाया कि वे AI मॉडल के बिना तुलना में लगभग चार गुना अधिक आउटपुट उत्पन्न कर रहे हैं।
एंथ्रोपिक ने कहा कि ये लाभ अग्रणी एआई प्रणालियों के निर्माण के तरीके में एक व्यापक बदलाव को इंगित करते हैं। मानव इंजीनियर और शोधकर्ता अभी भी लक्ष्य निर्धारित कर रहे हैं, आउटपुट की समीक्षा कर रहे हैं और यह तय कर रहे हैं कि कौन सी समस्याएं महत्वपूर्ण हैं, लेकिन क्लॉड कोडिंग, परीक्षण, डिबगिंग और प्रयोग अनुकूलन में अधिक कार्यनिष्ठा का काम संभाल रहा है।
कंपनी ने इस रुझान को आपसी स्व-सुधार की ओर एक प्रारंभिक कदम के रूप में प्रस्तुत किया, एक परिदृश्य जिसमें एआई प्रणालियाँ अपने स्वयं के उत्तराधिकारियों को स्वतंत्र रूप से डिज़ाइन और विकसित करने में सक्षम हो जाती हैं। एंथ्रोपिक ने कहा कि ऐसी प्रणाली अभी तक मौजूद नहीं है और यह अनिवार्य भी नहीं हो सकती, लेकिन चेतावनी दी कि यह अधिकांश संस्थानों के तैयार होने से पहले आ सकती है।
अगर ऐसा होता है, तो Anthropic ने कहा कि AI विकास की गति अब कंप्यूट की उपलब्धता और दक्षता में सुधार के साथ अधिक सीधे जुड़ सकती है, जबकि मानव अवलोकन, पुष्टि और सत्यापन की ओर रुख कर सकते हैं। इससे सीमांत AI विकास को निगरानी के लिए उपयोग किए जाने वाले प्रणालियों का महत्व बढ़ जाएगा, खासकर अगर AI मॉडल अपने भविष्य के संस्करणों को बनाने में बड़ी भूमिका निभाने लगें।
एंथ्रोपिक ने कहा कि चुनौती यह है कि एआई विकास में विराम की पुष्टि करना अन्य कई प्रौद्योगिकियों के निगरानी से कठिन है। प्रशिक्षण चलाने को छिपाया जा सकता है, उनके इनपुट सामान्य उद्देश्य के होते हैं, और यदि कोई एक एजेंट अन्य के रुकने के दौरान आगे निकल सकता है, तो चुपचाप अनुपालन छोड़ने का उत्तेजना विशाल होगा।
कंपनी ने कहा कि एक विश्वसनीय रुकावट के लिए यह स्पष्ट नियम होने चाहिए कि इसे क्या ट्रिगर करता है, इसे क्या खत्म करता है, और यह तय करने वाला कौन है कि शर्तें पूरी हो गई हैं। इसने इस चुनौती की तुलना अन्य जटिल प्रौद्योगिकियों के लिए हथियार नियंत्रण व्यवस्थाओं से की, जबकि यह नोट किया कि उन प्रणालियों को बनाने में दशकों लगे और AI सरकारों को बहुत समय नहीं छोड़ सकता।
एंथ्रोपिक ने कहा कि आगामी महीनों में वह नीति निर्माताओं, शोधकर्ताओं, नागरिक समाज और अन्य एआई कंपनियों के साथ बातचीत का आयोजन करने की योजना बना रही है, ताकि आवर्ती स्व-सुधार और सीमांत एआई विकास के लिए संभावित समन्वय तंत्रों की जांच की जा सके।
कंपनी ने कहा कि यदि अन्य फ्रंटियर डेवलपर्स भी एक जांचयोग्य तरीके से ऐसा करते हैं, तो वह विकास को धीमा या अस्थायी रूप से रोकने की उम्मीद करती है।