एंथ्रोपिक को फेबल एआई मॉडल पर सरकारी प्रतिरोध का सामना करना पड़ रहा है

लेखक: बेन थॉम्पसन

स्ट्रीम टेकफ्लो

शेनचाओ का सारांश: एंथ्रोपिक का नया मॉडल फेबल जारी होने के मात्र दो महीने बाद अमेरिकी सरकार द्वारा तत्काल रोक लगा दिया गया, जिसका औपचारिक कारण "सुरक्षा लीक" है, लेकिन वास्तव में यह AI प्रयोगशालाओं और सरकार, तथा सॉफ्टवेयर उद्योग के बीच दोहरी युद्ध को प्रकट करता है। यह कंपनी, जो "सुरक्षा" को अपनी बिक्री की कुंजी के रूप में प्रस्तुत करती है, सुरक्षा की कहानी को व्यावसायिक बाध्यता में बदल रही है, और वे वास्तव में माइक्रोसॉफ्ट जैसी कंपनियों के पास से उपयोगकर्ता डेटा पर कब्जा करना चाहते हैं।

मैं उन व्यंग्यकारों की स्थिति को समझता हूँ, जो हमेशा एंथ्रोपिक के जाहिरा बयानों—खासकर मॉडल लॉन्च के समय के बयानों—को मार्केटिंग के लिए डर फैलाने के रूप में देखते हैं। दो महीने पहले, एंथ्रोपिक ने Mythos Preview की घोषणा की, जिसमें दावा किया गया कि यह मॉडल बहुत खतरनाक है और इसे सार्वजनिक नहीं किया जा सकता, खासकर इसकी शक्तिशाली साइबर सुरक्षा क्षमताओं के कारण। फिर दो महीने बाद, कंपनी ने Fable को सार्वजनिक रूप से लॉन्च किया, जो Mythos का सभी सुरक्षा सुरक्षाओं के साथ संस्करण है।

मेरे सीमित उपयोग के अनुभव के अनुसार, Fable वास्तव में एक बहुत ही उत्कृष्ट मॉडल है। अब प्रोग्रामिंग प्रदर्शन के अलावा मॉडल का वस्तुनिष्ठ मूल्यांकन करना मुश्किल हो गया है, लेकिन व्यक्तिगत अनुभव अभी भी है; मुझे Fable के साथ बातचीत का अनुभव अत्यंत उत्कृष्ट लगा; इसने GPT 5.5 और Opus 4.8 सहित अन्य सभी मॉडलों को छोटा और मूर्ख लगने लगाया। मुझे पहले केवल दो बार ऐसा महसूस हुआ था, एक बार GPT-4 के साथ और एक बार Grok 4 के साथ, जो दोनों ही मूल मॉडल के आकार और जटिलता की एक नई पीढ़ी का प्रतिनिधित्व करते हैं; मुझे लगता है कि Fable एक नए प्री-ट्रेनिंग से उत्पन्न हुआ है, और यह नई पीढ़ी का पहला है।

इसलिए, मैं पूरी तरह से स्वीकार कर सकता हूँ कि Fable/Mythos सुरक्षा समस्याओं की पहचान और उनका उपयोग करने में वास्तव में अधिक कुशल है, और Anthropic का सावधानी से मॉडल लॉन्च करना तर्कसंगत है। लेकिन मॉडल को सार्वजनिक रूप से जारी करने की समस्या यह है कि हेल्मेट्स को बायपास किया जा सकता है, और स्पष्ट रूप से जारी करने के तुरंत बाद ऐसा ही हुआ।

अगला क्या हुआ, वह कुछ अस्पष्ट है। Anthropic ने ब्लॉग पोस्ट में लिखा:

अमेरिकी सरकार ने राष्ट्रीय सुरक्षा अधिकारों का उल्लेख करते हुए, निर्यात नियंत्रण आदेश जारी किया है, जिसके तहत संयुक्त राज्य अमेरिका के भीतर या बाहर, Fable 5 और Mythos 5 तक किसी भी विदेशी नागरिक की पहुंच को स्थगित कर दिया गया है, जिसमें Anthropic के विदेशी कर्मचारी भी शामिल हैं। इस आदेश का वास्तविक प्रभाव यह है कि हमें संगति सुनिश्चित करने के लिए सभी ग्राहकों के लिए Fable 5 और Mythos 5 की पहुंच अचानक बंद करनी पड़ी। Anthropic के सभी अन्य मॉडल्स तक पहुंच प्रभावित नहीं हुई है।

हमें आज पूर्वी समय के अनुसार दोपहर 5:21 बजे सरकारी निर्देश प्राप्त हुआ। पत्र में राष्ट्रीय सुरक्षा की चिंताओं के विशिष्ट विवरण नहीं दिए गए हैं। हम समझते हैं कि सरकार का मानना है कि Fable 5 को बाईपास या "जेलब्रेक" करने का तरीका पाया गया है। हमने इस विशिष्ट तकनीक का उपयोग करके कुछ ज्ञात छोटे दरारों की पहचान करने का प्रदर्शन समीक्षा किया। ये दरारें सभी अपेक्षाकृत सरल प्रतीत हुईं, और हमने पाया कि अन्य उपलब्ध सार्वजनिक मॉडल भी बाईपास किए बिना इन्हें पहचान सकते हैं।

एंथ्रोपिक ने तर्क दिया कि गैर-सामान्य जेलब्रेक अपरिहार्य और सीमित हैं, और सामान्य जेलब्रेक के लिए कोई सबूत नहीं है; जिन जेलब्रेक का पता चला है, वे अमेज़न द्वारा रिपोर्ट किए गए हैं, जो ध्यान देने योग्य है क्योंकि अमेज़न एंथ्रोपिक का निवेशक और कंपनी के रीजनिंग सेवाओं का प्रमुख प्रदाता दोनों है। जब मैं इस लेख को लिख रहा था, तब एंथ्रोपिक के अधिकारी वाशिंगटन डीसी में थे, जहां वे उन मुद्दों को सुलझाने की कोशिश कर रहे थे, जिन्हें वे गलतफहमी कहते हैं, जबकि व्हाइट हाउस अधिकारी महसूस करते हैं कि कंपनी के नेतृत्व को कानूनी सुरक्षा की चिंताओं के प्रति उदासीनता है।

चूंकि बहुत सारे तथ्यों पर विवाद है, मेरे पास वर्तमान संघर्ष के बारे में कुछ भी जोड़ने के लिए कुछ नहीं है; लेकिन मुझे संघर्ष हो रहा है, इस बात से कोई आश्चर्य नहीं है: मैंने "Anthropic और अलाइनमेंट" लेख में स्पष्ट किया है कि अमेरिकी सरकार और Anthropic के बीच संघर्ष अपरिहार्य है। इस संदर्भ में, जो लोग मानते हैं कि Mythos अभी इतना शक्तिशाली नहीं है कि सरकार इसके खिलाफ कठोर कार्रवाई करे, वे मुख्य बिंदु को नज़रअंदाज़ कर रहे हैं: अगर अभी पर्याप्त शक्तिशाली नहीं है, तो अगला होगा, या उसके बाद का, खासकर अब मॉडल अपने उत्तराधिकारियों को बनाने में अधिक उपयोगी होते जा रहे हैं।

हालाँकि, यह एक और सवाल उठाता है—एक ऐसा सवाल जो ठहाकेबाजों के दृष्टिकोण को सत्यापित करता है: अगर मिथोस इतना खतरनाक है, तो फर्स्टल क्यों लॉन्च किया गया? आप जो करना चाहते हैं, उसे करने के लिए सरकार के खिलाफ क्यों काम किया गया? वास्तव में, मुझे लगता है कि एंथ्रोपिक की कार्रवाई पूरी तरह समझ में आती है; कंपनी की विशिष्टता इस बात में है कि वह इन कार्रवाइयों का कैसे बचाव करती है, और यही बचाव ठहाकेबाजों को ईंधन देता है और एंथ्रोपिक को जादू भी।

AI के पहले कुछ वर्षों में, अधिकतम आर्थिक मूल्य कैलकुलेशन पावर की ओर बहा, क्योंकि स्पष्ट कारण थे: हमारे पास मांग को पूरा करने के लिए पर्याप्त आपूर्ति नहीं थी, जिसका अर्थ था कि कीमतें तेजी से बढ़ीं; सबसे बड़े लाभार्थी निवेडिया, TSMC और मेमोरी निर्माता (सैमसंग, हाइनिक्स और माइक्रॉन) थे। इसी बीच, Anthropic और OpenAI ने अग्रणी मॉडल बनाने के लिए कुल मिलाकर सौ अरब डॉलर से अधिक का नुकसान किया, और जब ये मॉडल जारी किए गए, तो उन्हें मुख्य रूप से चीन से आने वाले ओपन-सोर्स मॉडल्स द्वारा डिस्टिलेट और कमोडिटाइज़ कर दिया गया।

यह प्रयोगशाला की निराशाजनक स्थिति को दर्शाता है—कि वे कभी भी अपनी लागत को कवर नहीं कर पाएंगे, क्योंकि उनका अंतरीकरण अस्थायी है और मुफ्त विकल्प "पर्याप्त अच्छे" हो जाते हैं—मुझे लगता है कि यह तर्कसंगत है। एक ऐसी दुनिया में जहां मॉडल आपस में बदले जा सकते हैं, मॉडल वस्तुएं होते हैं, और अधिकांश मूल्य अन्यत्र प्रवाहित होता है। अभी कैलकुलेशन पावर है, लेकिन समय के साथ, जब हमारे पास पर्याप्त कैलकुलेशन पावर होगा, तो मूल्य श्रृंखला में सबसे मूल्यवान स्थान वही होगा जो हमेशा से सबसे मूल्यवान रहा है: उपयोगकर्ता संपर्क बिंदुओं का स्वामित्व।

इसलिए, फ्रंटियर लैब्स के लिए उपयोगकर्ताओं के निकट आना आर्थिक रूप से अनिवार्य है, यह मेरे लिए हमेशा स्पष्ट रहा है। अगर आपके पास उपयोगकर्ता संपर्क हैं, तो आपके पास अर्थपूर्ण लॉक-इन है, और उपयोगकर्ता संपर्क प्राप्त करने का सबसे अच्छा तरीका यह है कि आप उन सब कुछ का कैनवस बन जाएं जो वे करना चाहते हैं। इसका अर्थ है कि फ्रंटियर लैब्स सॉफ्टवेयर कंपनियों के साथ संघर्ष में हैं: क्या सॉफ्टवेयर के पास उपयोगकर्ता संपर्क हैं, और फ्रंटियर लैब्स की दीर्घकालिक हित यह नहीं है कि वे सिर्फ सॉफ्टवेयर के एक कमोडिटी इनपुट बन जाएं, बल्कि सॉफ्टवेयर को सीधे प्रतिस्थापित करना है।

इसी बीच, सॉफ्टवेयर कंपनियाँ विपरीत काम करने की कोशिश कर रही हैं। सत्या नडेला ने X पर एक लेख में अपने दृष्टिकोण को स्पष्ट किया कि कंपनियों को मॉडल पर कैसे बनाना चाहिए:

हर कंपनी को मैं जिसकी बात कर रहा हूँ, उस मानव पूंजी और टोकन पूंजी को बनाना चाहिए। मानव पूंजी में इसके कर्मचारियों का ज्ञान, निर्णय लेने की क्षमता, संबंध, मौलिकता और पैटर्न पहचान शामिल है, जबकि टोकन पूंजी कंपनी द्वारा बनाई गई और स्वामित्व में रखी गई AI क्षमता है। महत्वपूर्ण बात यह है कि जैसे-जैसे टोकन पूंजी बढ़ती है, मानव पूंजी कम मूल्यवान नहीं होती। यह केवल अधिक मूल्यवान बन जाती है! मुझे विश्वास है कि मानव प्रारंभिकता टोकन पूंजी के विकास का चलन होगी। मानव उच्च लक्ष्य निर्धारित करेंगे, क्षेत्रों के बीच बिंदुओं को जोड़ेंगे, संबंध स्थापित करेंगे और सबसे महत्वपूर्ण पैटर्न की पहचान करेंगे। मानव मार्गदर्शन के बिना, आपकी कंप्यूटिंग पावर खाली में घूम रही है।

इसका अर्थ है कि वास्तविक अवसर शीर्ष मॉडल चुनने में नहीं, बल्कि मॉडल के ऊपर एक सीखने का चक्र बनाने में है, जिससे मानव पूंजी और टोकन पूंजी चक्रवृद्धि हो सके। आप एक कार्य, यहां तक कि एक नौकरी को बाहरी स्रोत पर सौंप सकते हैं, लेकिन आप अपना सीखना कभी बाहरी स्रोत पर सौंप नहीं सकते। कंपनियों का भविष्य ऐसे बुद्धिमान प्रणालियों को बनाना है, जहां मानव और AI के बीच यह सीखना चक्रवृद्धि हो सके। इसके लिए एक नया आर्किटेक्चरल दृष्टिकोण आवश्यक है, जिससे प्रत्येक कंपनी समय के साथ सुधरती हुई एजेंट प्रणालियां बना सके, जबकि अपनी बौद्धिक संपत्ति पर नियंत्रण बनाए रखे। कंपनियों को "सामान्य" मॉडल को बदलने की क्षमता होनी चाहिए, बिना अपनी सीखने की प्रणाली में समाहित "कंपनी के वरिष्ठ" ज्ञान को खोए। यही भविष्य के युग में आपके नियंत्रण और संप्रभुता की मुख्य "परीक्षा" है।

नादेला ने इस दृष्टिकोण की शुरुआत चेतावनी के साथ की:

हम जो कुछ नहीं देखना चाहते, वह है एक ऐसा दुनिया जहां हर उद्योग की हर कंपनी अपना मूल्य कुछ कुछ ऐसे मॉडल्स को दे दे जो सब कुछ निगल जाते हैं। अगर सभी मूल्य केवल कुछ ही मॉडल्स के पास जाएगा, तो राजनीतिक अर्थव्यवस्था इसे सहन नहीं करेगी। पूरे उद्योग को खाली कर देने वाले AI के भविष्य के लिए समाज अनुमति नहीं देगा।

सोचिए कि वैश्वीकरण के पहले चरण में क्या हुआ, पूर्ण औद्योगिक अर्थव्यवस्था को बाहर सौंपकर खाली कर दिया गया। सतही रूप से GDP के आंकड़े अच्छे दिख रहे थे, लेकिन बेरोजगारी वास्तविक थी, और परिणाम आज भी महसूस किए जा रहे हैं। आइए इस गतिशीलता को AI युग में न लाएं, जहां कुछ AI प्रणालियाँ सभी आर्थिक लाभ को पकड़ लें, और पूरा उद्योग अपनी ही आँखों के सामने अपने ज्ञान को वस्तु के रूप में परिवर्तित होते हुए देखे।

इस उपमा की समस्या यह है: वैश्वीकरण वास्तव में हुआ है, और औद्योगिक अर्थव्यवस्थाएँ वास्तव में खाली हो गई हैं। यह चेतावनी नहीं, बल्कि भविष्यवाणी हो सकती है; इसलिए नडेला चेतावनी दे रहे हैं, क्योंकि माइक्रोसॉफ्ट संभवतः पीड़ितों में से एक है। इसी प्रकार, मॉडल निर्माताओं की आर्थिक आवश्यकता यही है कि ऐसा हो।

ये मॉडल—भले ही Mythos—अभी उस चरण तक नहीं पहुंचे हैं। उन्हें केवल अधिक कैलकुलेशन पावर की नहीं, बल्कि अधिक और बेहतर डेटा की आवश्यकता है। मॉडल सुधार अब अधिकांशतः प्रबलन शिक्षण से आ रहा है; कुछ को सिंथेटिक रूप से उत्पन्न किया जा सकता है, लेकिन अग्रणी प्रयोगशालाओं के लिए सबसे शक्तिशाली लीवर है वास्तविक दुनिया का उपयोग।

मुझे लगता है कि यही कारण है कि OpenAI और Anthropic दोनों बड़े सब्सक्रिप्शन सब्सिडी प्लान प्रदान कर रहे हैं। SemiAnalysis ने हाल ही में अनुमान लगाया है कि 200 डॉलर की योजना आपको 8000 डॉलर के Claude token और 14000 डॉलर के Codex token प्रदान करती है। निश्चित रूप से, दोनों उपयोगकर्ताओं और डेवलपर्स के मन में हिस्सा पाने के लिए प्रतिस्पर्धा कर रहे हैं, लेकिन वे मॉडल को बेहतर बनाने के लिए वास्तविक उपयोग डेटा तक पहुँच प्राप्त करने के लिए भी प्रतिस्पर्धा कर रहे हैं।

एंथ्रोपिक ने फेबल पर बड़ा निवेश किया है और घोषणा की है कि वे सभी उपयोग किए गए डेटा को 30 दिनों तक रखेंगे, भले ही पहले शून्य डेटा रिटेंशन का वादा किया गया हो। कंपनी का कहना है कि वे इन डेटा का उपयोग प्रशिक्षण के लिए नहीं करेंगे, लेकिन उन्होंने भविष्य में ऐसा करने से रोकने के लिए कोई सुरक्षा उपाय नहीं रखे हैं (जैसे डेटा को तीसरे पक्ष में संग्रहीत करना)। यदि इस नीति परिवर्तन (जब फेबल पुनः सक्रिय होगा) के कारण अधिकांश ग्राहक नहीं चले जाते, तो मुझे संदेह है कि डेटा का उपयोग करना केवल समय का मुद्दा है: उनके अंतिम लक्ष्य के लिए यह बहुत मूल्यवान है।

साथ ही, उपयोगकर्ता संपर्क बिंदुओं की ओर ऊपर की ओर जाने वाले सकारात्मक चक्र का ध्यान रखें: जितना अधिक कार्यप्रवाह Claude या Codex द्वारा सीधे पूरा किया जाता है, उतना ही अधिक डेटा प्रत्येक कंपनी को प्रशिक्षण में प्रतिक्रिया के लिए प्राप्त होता है, जिससे उनके उत्पाद अधिक शक्तिशाली और उपयोगी बनते हैं, जिससे वे सेवा प्रदान कर सकने वाले कार्यप्रवाहों की संख्या बढ़ती है और डेटा तक पहुंच बढ़ती है।

नादेला ने लेख में इन डेटा के महत्व पर जोर दिया, लेकिन प्राकृतिक रूप से मानता है कि यह मॉडल से स्वतंत्र होना चाहिए:

कंपनी को अपने कार्यप्रवाह, क्षेत्रज्ञान और इकट्ठा किए गए निर्णयों को ऐसे एआई प्रणाली में बदलना होगा जो प्रत्येक उपयोग के साथ सुधरती रहे। निजी मूल्यांकन को यह पक्का करना चाहिए कि मॉडल वास्तव में व्यवसाय के लिए महत्वपूर्ण परिणामों पर सुधार कर रहा है (केवल बाहरी मानकों के बजाय!)। निजी प्रवर्धन शिक्षा पर्यावरण को संगठन के भीतर की वास्तविक ट्रैजेक्टरी पर मॉडल को मजबूत बनाना चाहिए। इसका ज्ञान भंडार संस्थागत स्मृति को पूछताछ योग्य बनाता है और टोकन उपयोग को अधिक कुशल बनाता है।

यह चक्र कंपनी की नई बौद्धिक संपत्ति बन जाता है। मैं इसे पहाड़ चढ़ने वाली मशीन के रूप में देखता हूँ। अधिकांश संपत्तियों के विपरीत, यह चक्रवृद्धि है। प्रत्येक सुधारित प्रवाह बेहतर प्रशिक्षण संकेत उत्पन्न करता है, जिससे कंपनी की अद्वितीय निहित ज्ञान के संचय को तेज किया जाता है। इसे पहले बनाने वाली कंपनियों के पास किसी भी नए एकल मॉडल क्षमता के बावजूद कठिनाई से नकल किए जाने वाले लाभ होंगे।

यह चक्र कंपनी का नया बुनियादी अधिकार बन गया है। मैं इसे एक पहाड़ चढ़ने वाली मशीन के रूप में देखता हूँ। अधिकांश संपत्तियों के विपरीत, यह चक्रवृद्धि वृद्धि कर सकता है। प्रत्येक सुधारित कार्यप्रवाह बेहतर प्रशिक्षण संकेत पैदा करता है, जो कंपनी की अद्वितीय निहित ज्ञान के संचय को तेज करता है। इस क्षमता को शुरुआत में स्थापित करने वाली कंपनियों के पास भविष्य में एकल मॉडल की क्षमता कितनी भी सुधर जाए, अप्रतिस्पर्धी लाभ होगा।

हालाँकि, अगर एंथ्रोपिक डेटा नीतियों का पालन करने वाली कंपनियाँ अभी से बेहतर परिणाम प्राप्त कर सकती हैं? या अगर मौजूदा कंपनियाँ प्रतिरोध करती हैं, तो क्या नई कंपनियों—या मॉडल निर्माताओं के खुद—को बाजार में उन्हें हराने का अवसर मिलता है? एंथ्रोपिक वास्तव में नडेल्ला द्वारा मांगी गई दृढ़ता की परीक्षा ले रहा है।

Fable/Mythos के डेटा रिटेंशन पॉलिसी के चारों ओर विवाद अभी तक सबसे विवादास्पद बात नहीं है। विपरीत रूप से, Anthropic ने प्रकाशित करते समय बताया कि यदि Fable का उपयोग LLM विकास के लिए किया जाता है, तो यह इसके प्रदर्शन को चुपचाप कम कर देगा; सिस्टम कार्ड में लिखा गया है:

हमने अग्रणी LLM विकास से संबंधित सुरक्षा उपाय भी जोड़े हैं। जैसा कि हमारी 2026 फरवरी की जोखिम रिपोर्ट के अनुभाग 6.1 में चर्चा की गई है, हम एआई के समग्र विकास की गति को तेज करने के जोखिम की चिंता करते हैं, हालांकि हमें इन जोखिमों की गंभीरता के बारे में अभी भी अनिश्चितता है। विशेष रूप से, हमारी चिंता है—जैसा कि हमने तब लिखा था—"अन्य एआई विकासकर्ताओं के द्वारा हमारे प्रणाली के समान जोखिम वाले शक्तिशाली एआई प्रणालियों के निर्माण को तेज करना—जबकि उनके पास संबंधित सुरक्षा उपाय होना आवश्यक नहीं है।"

हाल के मॉडलों द्वारा अपने विकास को त्वरित करने की क्षमता को देखते हुए, हमने नए हस्तक्षेप लागू किए हैं जो Claude की प्रभावशीलता को सीमित करते हैं, विशेष रूप से उन अग्रणी LLM विकास अनुरोधों के लिए जैसे कि प्री-ट्रेनिंग पाइपलाइन, वितरित प्रशिक्षण बुनियादी ढांचा या ML त्वरक डिज़ाइन का निर्माण। Claude का उपयोग प्रतिस्पर्धी मॉडल विकसित करने के लिए पहले से ही हमारी सेवा शर्तों का उल्लंघन था, लेकिन इस सीमा को सुरक्षा उपायों द्वारा लागू करके, हम उन सबसे अधिक उल्लंघन करने के लिए तत्पर व्यक्तियों के विकास को त्वरित करने से रोक सकते हैं।

हमारे साइबर सुरक्षा, बायोकेमिस्ट्री और आस्तिक प्रयासों में हमारी हस्तक्षेपों के विपरीत, ये सुरक्षा उपाय उपयोगकर्ताओं के लिए अदृश्य होंगे। Fable 5 किसी अन्य मॉडल में वापस नहीं जाएगा। इसके बजाय, सुरक्षा उपाय प्रॉम्प्ट संशोधन, डायरेक्शनल वेक्टर या पैरामीटर-एफिशिएंट फाइन-ट्यूनिंग (PEFT) जैसी विधियों के माध्यम से प्रभावशीलता को सीमित करेंगे। ये हस्तक्षेप अधिकांश प्रोग्रामिंग कार्यों को प्रभावित नहीं करेंगे। हम अनुमान लगा रहे हैं कि ये लगभग 0.03% ट्रैफ़िक को प्रभावित करेंगे, जो कि 0.1% से कम संगठनों पर केंद्रित होंगे। जब ये हस्तक्षेप लागू होते हैं, तो हम अपेक्षा करते हैं कि इनका मॉडल व्यवहार पर नगण्य प्रभाव होगा, सिवाय इसके कि वे उनके विकास के सीमांत LLM की प्रभावशीलता को सीमित करते हैं। Claude अभी भी उपयोगकर्ता के अनुरोधों का सहायक ढंग से जवाब देगा। हम इस मॉडल के प्रकाशन के बाद भी पता लगाने की विधियों की सटीकता में सुधार करते रहेंगे।

एंथ्रोपिक ने इस परिवर्तन को वापस ले लिया—फेबल LLM से संबंधित अनुरोधों को Opus 4.8 को सौंपेगा और उपयोगकर्ताओं को इस सौंपने की जानकारी देगा—लेकिन मुझे लगता है कि मूल नीति बहुत शिक्षाप्रद थी। एक ओर, मुझे वास्तव में एंथ्रोपिक पर आपत्ति नहीं है कि वे प्रतिद्वंद्वी की मदद करना नहीं चाहते; दूसरी ओर, यह बहुत स्पष्ट होना चाहिए कि एंथ्रोपिक का मानना है कि उनके अलावा कोई भी अग्रणी LLM नहीं बनाना चाहिए।

इस नीति का अधिक ध्यान आकर्षित करने वाला पहलू यह है कि इसे एंथ्रोपिक और युद्ध विभाग के बीच विवाद के केवल दो महीने बाद लागू किया गया: युद्ध विभाग चैड का उपयोग किसी भी कानूनी उद्देश्य के लिए करना चाहता था, जबकि एंथ्रोपिक निगरानी और स्वायत्त हथियारों के लिए अधिक कठोर नियंत्रण चाहता था। यह अपग्रेड करने का कदम एंथ्रोपिक की क्षमता को भी दर्शाता है कि वह अपनी नीति की प्राथमिकताओं को प्राप्त करने के लिए अपने मॉडल को चुपचाप बदल सकती है, साथ ही इच्छा को भी। दूसरे शब्दों में, एंथ्रोपिक सक्रिय रूप से कुछ समालोचकों की सबसे बड़ी चिंताओं की पुष्टि करती है कि यह सप्लाई चेन के जोखिम के रूप में है।

हालांकि, उस घटना से निकलने वाला अधिक व्यापक निष्कर्ष यह है कि Anthropic का मानना है कि उन्हें Anthropic के उपयोग के तरीके पर अंतिम निर्णय लेने का अधिकार होना चाहिए; चूंकि वे मानते हैं कि केवल उन्हीं को अग्रणी AI विकसित करना चाहिए, इसलिए वे वास्तव में मानते हैं कि AI पर केवल उन्हीं का अंतिम नियंत्रण होना चाहिए। जब आप इस समझ को कंपनी के AI के द्वारा सभी आर्थिक गतिविधियों को संचालित करने के बयान के साथ जोड़ते हैं, तो आप समझते हैं कि Anthropic के नेतृत्व का वास्तविक उद्देश्य सबकुछ और सभी पर शक्ति प्राप्त करना है।

बेशक, Anthropic कभी इतना सीधा नहीं कहेगा; इसके बजाय, कहानी सुरक्षा के बारे में है:

मुझे उम्मीद है कि Anthropic अपने मॉडल क्षमताओं को अंतिम उपयोगकर्ताओं तक लगातार अधिक विशिष्ट कार्यप्रवाहों के अनुकूलित एंडपॉइंट्स के माध्यम से प्रकट करेगा, भले ही वे API को सीमित करना शुरू कर दें। इस सॉफ्टवेयर के स्थानापन्न और पहुंच पर प्रतिबंध को सुरक्षा के नाम पर किया जाएगा, भले ही Anthropic अपने अंतिम उपयोगकर्ताओं के साथ अपनी आर्थिक मांगों को पूरा कर रहा हो।

एंथ्रोपिक ने अपनी डेटा संरक्षण नीति में बड़े परिवर्तन की व्याख्या सुरक्षा के रूप में की है। विशेष रूप से, कंपनी दावा करती है कि अमेरिकी सरकार के चिंताओं के खिलाफ जेल ब्रेकिंग को रोकने के लिए सभी उपयोगकर्ता डेटा को 30 दिनों तक बनाए रखना आवश्यक है। मैं निश्चित रूप से एक भविष्य की कल्पना कर सकता हूँ, जहाँ सुरक्षा कारक उन्हें इन डेटा का उपयोग मैलिशियस उपयोग से बेहतर तरीके से बचाने के लिए प्रशिक्षित करने के लिए मजबूर करते हैं।

एंथ्रोपिक की पूरी उत्पत्ति की कहानी संस्थापकों के विश्वास पर आधारित है कि OpenAI सुरक्षा को पर्याप्त गंभीरता से नहीं ले रहा था; कंपनी का मानना है कि केवल वे ही AI को नियंत्रित कर सकते हैं, और क्योंकि वे सुरक्षा के प्रति अद्वितीय रूप से चिंतित हैं, इसलिए उन्हें सभी दूसरों, जिसमें संयुक्त राज्य अमेरिका सरकार भी शामिल है, को नियंत्रित करने का औचित्य है।

इन सुरक्षा कारणों के बारे में समस्या यह है: मुझे लगता है कि वे प्रभावी हैं, क्योंकि एंथ्रोपिक के लिए वे कारण नहीं हैं। कंपनी वास्तव में मानती है कि वही एकमात्र संगठन है जो सुपरइंटेलिजेंस पर विश्वास करता है, और इसलिए खतरों की ओर सबसे अधिक ध्यान देने वाला है। यह एक के बाद एक निर्णय, एक के बाद एक नीति, और एक के बाद एक संघर्ष को समझाता है, जो बाहरी लोगों के लिए संदेहवाद और निर्दयता के अजीब संयोजन की तरह दिखते हैं।

OpenAI के साथ तुलना बहुत बड़ी है: मुझे लगता है कि यह समझने का एक तरीका है कि ChatGPT के लॉन्च के कुछ सालों के बाद, कंपनी आंतरिक रूप से लड़ाई में थी, जिसमें पहले के अनुसंधान प्रयोगशाला को अचानक एक अनपेक्षित उपभोक्ता टेक कंपनी बनने का बोझ सौंपा गया; OpenAI इस संघर्ष को हल करने की प्रक्रिया में, Anthropic जैसी कंपनियों को बहुत सारे प्रतिभाशाली लोग खो दिए।

दूसरी ओर, एंथ्रोपिक के पास प्रतिभा, दृष्टि और व्यवसाय के बीच एक आदर्श संगति है। कंपनी शोधकर्ताओं को मशीनी देवता बनाने के दृष्टिकोण को बेच सकती है, जिसमें खतरों की चिंता करने वाले और मानवता के हित में खतरों का प्रतिनिधित्व करने के लिए पर्याप्त बुद्धिमान लोगों का एक आभास होता है; और प्रत्येक परिणामस्वरूप नीति परिवर्तन बिल्कुल व्यवसाय के लाभ के लिए होता है, जो दुनिया का सबसे सुंदर संयोग है।

मैं इस सुसंगठन का सम्मान करता हूँ और इससे डरता हूँ। मैं इसका सम्मान करता हूँ क्योंकि यह स्पष्ट रूप से बहुत प्रभावी है; सबसे निकटतम तुलना ऐपल हो सकती है, जो हमेशा अपने हर स्वार्थी कार्य को उपयोगकर्ता के लिए सही काम करने के नाम पर ढकती है—और अक्सर वे ऐसा ही करते हैं। एंथ्रोपिक भी ऐसा ही करता है। हालाँकि, मैं डरता हूँ कि उन लोगों को, जो यकीनन मानते हैं कि वे सबसे अच्छे जानते हैं, एक स्मार्टफोन बनाने देना एक बात है; लेकिन उन्हें ऐसी सुपरइंटेलिजेंस बनाने देना, जो राष्ट्र-राज्यों की शक्ति, या कम से कम बड़े उद्यमों के समान हो सकती है, बहुत अधिक चिंताजनक है। उन प्रतिभाशाली लोगों का इतिहास, जो मानते हैं कि वे मनुष्य को क्या चाहिए, गंदा है, क्योंकि उन्होंने अपने प्रयोजनों को अच्छा मानने के कारण, ऐसे कार्यों के लिए सहीठिका प्रदान की है, जो वास्तव में ऐसे नहीं हैं।