एंथ्रोपिक, जो क्लॉड एआई मॉडल के पीछे है, ने 4 जून को एक ब्लॉग पोस्ट प्रकाशित की, जिसमें एक ऐसा प्रस्ताव रखा गया जो पिछले साल तक प्रमुख एआई प्रयोगशाला से असंभव लगता था: पूरे उद्योग में सीमांत एआई विकास पर एक संरचित, अस्थायी रुकावट।
मारिना फावारो और जैक क्लार्क द्वारा लिखित प्रस्ताव एक विशिष्ट और वास्तविक रूप से चिंताजनक समस्या को संबोधित करता है। एआई मॉडल आपसी स्व-सुधार की क्षमता के करीब पहुंच रहे हैं, जिसका अर्थ है कि वे मानव हस्तक्षेप के बिना अपनी क्षमताओं को संशोधित और बेहतर बना सकते हैं।
एंथ्रोपिक वास्तव में क्या प्रस्तावित कर रहा है
यह हर GPU को बंद करके घर जाने का आह्वान नहीं है। एंथ्रोपिक एक समन्वित, बहुपक्षीय ढांचे का समर्थन कर रहा है, जिसमें प्रमुख AI प्रयोगशालाएँ सुरक्षा शोध और सत्यापन प्रणालियों के पीछे छूट जाने तक सबसे उन्नत विकास कार्यों को अस्थायी रूप से रोकने के लिए सहमत हों।
एंथ्रोपिक स्पष्ट रूप से तर्क देता है कि एकल कार्रवाइयाँ, जहाँ एक कंपनी या एक देश अकेले ब्रेक लगाता है, पर्याप्त नहीं हैं और संभवतः प्रतिकूल हो सकती हैं। यह प्रस्ताव यूएस, चीन और अन्य ऐसे देशों के अच्छी तरह से संसाधित प्रयोगशालाओं के बीच सहयोग की कल्पना करता है, जिनके पास गंभीर एआई कार्यक्रम हैं। एंथ्रोपिक सत्यापन चुनौती को परमाणु हथियार नियंत्रण से उधार लिए गए शब्दों में प्रस्तुत कर रहा है, जहाँ निरीक्षक सिर्फ भरोसे पर निर्भर नहीं करते, बल्कि सहमति से निर्धारित पता लगाने के तंत्रों के माध्यम से अनुपालन की पुष्टि करते हैं।
एंथ्रोपिक कहता है कि यह इन पता लगाने और पुष्टि करने के उपकरणों के निर्माण में अपनी खुद की शोध करेगा, जिससे AI हथियार निरीक्षकों के समकक्ष बनेंगे—ऐसे प्रणालियाँ जो पुष्टि कर सकें कि क्या कोई प्रयोगशाला जबरन रुकावट का दावा करते हुए गुप्त रूप से अग्रणी विकास जारी रख रही है।
इस बार क्यों 2023 से अलग हो सकता है
2023 में, GPT-4 से आगे के AI प्रशिक्षण पर छह महीने के रुकावट की मांग करते हुए एक खुला पत्र शोधकर्ताओं और टेक विद्वानों से हजारों हस्ताक्षर एकत्रित किया गया। इसने लगभग कुछ भी नहीं हासिल किया। प्रतिस्पर्धी दबाव ने सामूहिक चिंता से कहीं अधिक प्रभावी साबित हुआ, और प्रत्येक प्रमुख प्रयोगशाला ने निरंतर निर्माण जारी रखा।
एंथ्रोपिक का प्रस्ताव संरचना में अलग है। यह कंपनी हस्ताक्षरों द्वारा समर्थित एक अस्पष्ट निलंबन की मांग नहीं कर रही है, बल्कि एक जांचयोग्य अनुपालन प्रणाली का प्रस्ताव कर रही है। परमाणु हथियार नियंत्रण की तुलना पूरी तरह से अउचित नहीं है: अंतरराष्ट्रीय हथियार समझौते काम करते हैं, जब वे काम करते हैं, क्योंकि जांच प्रणालियों और धोखेबाजी के लिए परिणामों के कारण, न कि इसलिए कि हस्ताक्षरकर्ताओं ने उंगलियों से वादा किया हो।
2023 में, आत्म-सुधार का पुनरावर्ती दृष्टिकोण एक सैद्धांतिक चिंता थी। अब, Anthropic के अपने आंतरिक अवलोकनों से पता चलता है कि वर्तमान मॉडल अब स्वतंत्र रूप से कोडिंग करने में अधिक क्षम होते जा रहे हैं, और ऐसी सीमा की ओर बढ़ रहे हैं जहां एक AI प्रणाली अपने अगले संस्करण में महत्वपूर्ण योगदान दे सकती है।
इसका निवेशकों के लिए क्या अर्थ है
AI-संबंधित संपत्तियों, जिनमें AI-केंद्रित क्रिप्टो टोकन और मशीन लर्निंग का उपयोग करने वाले ब्लॉकचेन प्रोजेक्ट्स शामिल हैं, में पैसा रखने वालों के लिए, Anthropic का प्रस्ताव जोखिम की गणना में एक नया परिवर्तन लाता है। एक समन्वित रुकावट ढांचा, भले ही वह कभी पूरी तरह से वास्तविक न हो, बातचीत को “क्या हम AI को नियंत्रित करें” से “हम सीमाओं के पार अनुपालन कैसे लागू करें” में बदल देता है।
एआई-संचालित क्रिप्टो प्रोजेक्ट्स, जिनमें डिसेंट्रलाइज्ड कंप्यूट नेटवर्क और एआई एजेंट टोकन शामिल हैं, अपने मूल्य प्रस्ताव का एक हिस्सा इस धारणा पर आधारित करते हैं कि एआई विकास बिना किसी रुकावट के जारी रहेगा। एक विश्वसनीय पॉज़ फ्रेमवर्क, या इस दिशा में गंभीर नियामक गतिविधि, इन मूल्यांकनों में अनिश्चितता पैदा कर सकती है।
डिसेंट्रलाइज्ड वेरिफिकेशन सिस्टम्स उस समाधान का हिस्सा बन सकते हैं जिसकी एंथ्रोपिक तलाश कर रही है। यदि आपको दुनिया भर के लैब्स की विकास सीमाओं के पालन की पुष्टि करनी है, तो एक पारदर्शी, अपरिवर्तनीय लेजर इस काम के लिए सबसे खराब उपकरण नहीं है।