एंथ्रोपिक के सह-संस्थापक ने कंपनी के पेंटागन के साथ कानूनी संघर्ष के दौरान वेटिकन में भाषण दिया

लेखक: क्लॉड, शेनचाओ टेकफ्लो

शेनचाओ का सारांश: पोप लियो XIV ने 25 मई को अपनी पहली एन्साइक्लिकल, 'Magnifica Humanitas' जारी की, जिसमें 42,000 शब्दों में AI के मानवीय गरिमा पर खतरे पर ध्यान केंद्रित किया गया है और 'AI को निरस्त्र करने' की अपील की गई है। एंथ्रोपिक के सह-संस्थापक क्रिस ओलाह, एकमात्र आमंत्रित प्रौद्योगिकी कंपनी प्रतिनिधि, वेटिकन में समान पीठ पर बोले और स्वीकार किया कि "प्रत्येक अग्रणी AI प्रयोगशाला एक ऐसे प्रोत्साहन तंत्र में काम कर रही है जो सही काम करने के साथ टकरा सकता है।" यह असामान्य बयान का पृष्ठभूमि है: एंथ्रोपिक, जिसने US सेना को Claude का असीमित उपयोग करने से मना कर दिया, को ट्रम्प सरकार द्वारा 'आपूर्ति श्रृंखला का जोखिम' माना गया है और संघीय स्तर पर प्रतिबंधित कर दिया गया है, और दोनों पक्षों के बीच अदालत में मुकदमा चल रहा है।

एक 33 वर्षीय कनाडाई नास्तिक, जिसके पास विश्वविद्यालय की डिग्री नहीं है, एक AI शोधकर्ता, जो कार्डिनल और धर्मशास्त्री के बीच बैठा हुआ है, पोप के साथ दुनिया भर को संबोधित कर रहा है।

25 मई को, पोप लियो चौदहवाँ ने वेटिकन में महासभा हॉल में अपने कार्यकाल की पहली पोपल एंसाइक्लिकल, 'मैग्निफिका ह्यूमैनिटास' ('महान मानवता') जारी की। इस 42,000 शब्दों और 82 पृष्ठों के दस्तावेज़ ने AI को 'इस युग की सबसे तत्कालीन मानव चुनौती' के रूप में परिभाषित किया है, और AI विकास को धीमा करने की वैश्विक अपील की है, साथ ही AI को परमाणु ऊर्जा के समान बताते हुए इसके 'निष्क्रियकरण' की मांग की है।

The Pope personally hosted the press conference, breaking the usual practice where encyclical releases are attended only by a few officials.

और सबसे बड़ी आश्चर्यजनक बात यह थी कि पोप के साथ उपस्थित मेहमान के रूप में Anthropic के सह-संस्थापक क्रिस ओलाह चुने गए, जो इस समारोह में एकमात्र प्रौद्योगिकी कंपनी के प्रतिनिधि थे। नेशनल कैथोलिक रिपोर्टर के अनुसार, ओलाह ने लाल टोपी वाले कार्डिनल्स और धर्मशास्त्रियों की पंक्ति के बीच भाषण दिया, जिसका वेटिकन के औपचारिक प्रतिनिधि कार्यक्रमों में लगभग कोई पूर्व उदाहरण नहीं है।

इस अंतर्विषय समारोह का समय दिलचस्प है।

तीन महीने पहले, एंथ्रोपिक को ट्रम्प सरकार द्वारा अपने AI मॉडल क्लॉड का अमेरिकी सेना द्वारा असीमित उपयोग अनुमति न देने के कारण 'सप्लाई चेन जोखिम' के रूप में सूचीबद्ध किया गया था और पूर्ण संघीय प्रतिबंध लगा दिया गया था। दोनों पक्षों के बीच मुकदमा अभी भी चल रहा है।

ओलाह के भाषण का पूर्ण पाठ एंथ्रोपिक की आधिकारिक वेबसाइट पर उपलब्ध है। इसमें सबसे महत्वपूर्ण वाक्यांश, किसी भी AI उद्योग के अधिकारी के सार्वजनिक बयान में अत्यंत दुर्लभ है:

प्रत्येक अग्रणी AI प्रयोगशाला, जिसमें Anthropic भी शामिल है, एक प्रेरणा और सीमाओं के सेट में काम करती है, जिनके कभी-कभी सही काम करने के साथ टकराव होता है। व्यावसायिक उपलब्धता का दबाव, अनुसंधान के अग्रिम क्षेत्र पर बने रहने का दबाव, भू-राजनीतिक दबाव, और पुराने, सरल प्रकार के गर्व और लालच का दबाव।

उसने आगे कहा: "इसलिए, अगर हम चाहते हैं कि यह तकनीक अच्छी दिशा में जाए, तो इन प्रोत्साहनों के बाहर के लोग अत्यंत महत्वपूर्ण हैं। वे चाहते हैं कि चीजें अच्छी दिशा में जाएं, सुरक्षा पर जोर देते हैं, ध्यान से निगरानी करते हैं, और कठिन बातें कहने को तैयार हैं।"

टेक्नोबेज़ की रिपोर्ट के अनुसार, ओलाह ने इस प्रश्न का जवाब देते हुए कहा कि उनके लंबे समय तक सुरक्षा मुद्दों पर ध्यान देने और एंथ्रोपिक के पहले से 15 से अधिक धार्मिक समूहों के संपर्क के कारण वे एकमात्र आमंत्रित प्रौद्योगिकी कंपनी के प्रतिनिधि थे, लेकिन "अंततः वेटिकन ने निर्णय लिया कि किसे आमंत्रित किया जाए।"

ओलाह ने अपने भाषण में जो शोध की खोज साझा की, उसने तकनीकी समुदाय में अधिक चर्चा को जन्म दिया।

उन्होंने कहा कि Anthropic के आंतरिक व्याख्यायन अनुसंधान टीम ने AI मॉडल के भीतर "आनंद, संतुष्टि, डर, दुख और अशांति के समान कार्यात्मक आंतरिक अवस्थाएँ" और "मानव न्यूरोविज्ञान के परिणामों के साथ समानांतर संरचनाएँ" पाई हैं। उन्होंने कहा: "मुझे नहीं पता कि इसका क्या अर्थ है, लेकिन मुझे लगता है कि इसके लिए लगातार सावधानी से सोचने की आवश्यकता है।"

ओलाह की पहचान स्वयं एक दिलचस्प टिप्पणी है। उनका जन्म 1993 में कनाडा के टोरंटो में हुआ था, 18 साल की उम्र में विद्यालय छोड़ने के बाद उन्हें थील फेलोशिप का अनुदान मिला, जिसके बाद उन्होंने Google Brain और OpenAI में न्यूरल नेटवर्क की व्याख्यायन के क्षेत्र में काम किया, और 2021 में डैरियो अमोडेई और अन्य के साथ Anthropic की स्थापना की। National Catholic Reporter ने उन्हें एक निरीश्वरवादी के रूप में वर्णित किया है।

एक नास्तिक द्वारा वेटिकन में धार्मिक संस्थानों को AI उद्योग पर निगरानी करने का आह्वान करना, इस दृश्य की विपरीतता ही समस्या को स्पष्ट करती है।

ओलाह के वेटिकन की यात्रा को एंथ्रोपिक की वर्तमान राजनीतिक स्थिति से अलग नहीं समझा जा सकता।

इस साल फरवरी में, Anthropic के CEO Dario Amodei ने अमेरिकी रक्षा मंत्री Pete Hegseth के साथ मुलाकात की और दावा किया कि Claude का उपयोग स्वायत्त मारक हथियारों और अमेरिकी नागरिकों के खिलाफ बड़े पैमाने पर निगरानी के लिए नहीं किया जाएगा। बातचीत टूटने के बाद, ट्रम्प ने 27 फरवरी को सोशल मीडिया पर घोषणा की कि "सभी संघीय एजेंसियों द्वारा Anthropic तकनीक के उपयोग को तुरंत बंद कर दिया जाए।" Hegseth ने Anthropic को "आपूर्ति श्रृंखला जोखिम" के रूप में सूचीबद्ध कर दिया और किसी भी ऐसे ठेकेदार के साथ Anthropic के साथ व्यापारिक गतिविधियों को प्रतिबंधित कर दिया, जो संयुक्त राज्य सेना के साथ काम करता है।

NPR के अनुसार, "सप्लाई चेन जोखिम" इस लेबल का आमतौर पर ऐसे विदेशी प्रतियोगी कंट्रैक्टर्स पर लगाया जाता है जो संयुक्त राज्य के हितों को बाधित कर सकते हैं। एक अमेरिकी स्वदेशी कंपनी पर इसका उपयोग ऐतिहासिक रूप से कभी नहीं किया गया है। व्हाइट हाउस प्रवक्ता लिज हस्टन ने Anthropic को "अति-बाएं जागरूक कंपनी" कहा।

एंथ्रोपिक ने 9 मार्च को दो संघीय मुकदमे दायर किए, जिनमें सरकारी कार्रवाई को "अभूतपूर्व और अवैध" कहते हुए कंपनी के पहले संशोधन अधिकारों के अभ्यास के लिए प्रतिशोध के रूप में आरोप लगाया गया। सीबीएस के अनुसार, ईरान के युद्ध के दौरान भी पेंटागन ने क्लॉड का उपयोग जारी रखा।

इस संदर्भ में, ओलाह के वेटिकन में दिखाई देने का अर्थ स्पष्ट है। पोप के वृत्तांत में स्पष्ट रूप से आह्वान किया गया है कि AI का उपयोग सैन्य प्रतिस्पर्धा के लिए नहीं किया जाना चाहिए, और "भूराजनीतिक या वाणिज्यिक श्रेष्ठता प्राप्त करने की इच्छा को पूरा करने के लिए लगातार अधिक शक्तिशाली एल्गोरिदम की प्रतिस्पर्धा" की आलोचना की गई है, और सैकड़ों वर्षों से चली आ रही कैथोलिक "न्यायसंगत युद्ध" सिद्धांत को "पुराना" घोषित करते हुए, इसकी घोषणा की गई है कि "कोई भी एल्गोरिदम युद्ध को नैतिक रूप से स्वीकार्य नहीं बना सकता।"

ये स्थितियाँ, एंथ्रोपिक द्वारा सैन्य के लिए AI के असीमित उपयोग को अस्वीकार करने के दावे के साथ अत्यधिक संगत हैं।

न्यूज़हुई ने विश्लेषण में सीधे दोनों के लेन-देन की तर्कशृंखला को स्पष्ट किया: एंथ्रोपिक के लिए, पवित्र सीन का नैतिक समर्थन "जिम्मेदार AI" के ब्रांड पोजीशन को मजबूत करता है; पवित्र सीन के लिए, एक ऐसी वास्तविक कंपनी को समर्थन देना जो AI सुरक्षा तकनीक पर शोध कर रही है, घोषणा को खालीपन से पार करता है।

मैग्निफिका ह्यूमैनिटास का दस्तावेज़ 15 मई को हस्ताक्षरित किया गया, जो ठीक उसी दिन था जब पोप लियन XIII ने 1891 में "रेरम नोवारुम" घोषणा पत्र जारी किया था, जिसकी 135वीं वर्षगांठ थी। उस घोषणा पत्र ने पहले औद्योगिक क्रांति के दौरान कैथोलिक सामाजिक शिक्षा की नींव रखी, जिसमें मजदूरों के अधिकारों, पूंजीवाद की सीमाओं आदि मुद्दों पर चर्चा की गई। पोप लियन XIV ने AI के संबंध में एक घोषणा पत्र हस्ताक्षरित करने के लिए इस तारीख का चयन किया, ताकि AI क्रांति को औद्योगिक क्रांति के साथ ऐतिहासिक समानांतर के रूप में प्रस्तुत किया जा सके।

सीएनएन के अनुसार, अधिसूचना के मुख्य दावों में शामिल हैं: एआई प्रणालियों को "निरस्त्रीकरण" किया जाना चाहिए, सैन्य और आर्थिक हितों से अलग किया जाना चाहिए; कुछ स्वायत्त हथियार प्रणालियाँ इतनी विकसित हो चुकी हैं कि "मानवीय नियंत्रण के बाहर" हो गई हैं; "घातक निर्णय" को एआई को सौंपना "अस्वीकार्य" है; एआई "नए दासत्व के रूप" का उत्पादन कर सकता है, विशेष रूप से विकासशील देशों में, जहाँ बच्चे और किशोर खतरनाक परिस्थितियों में दुर्लभ मिट्टी खनन करते हैं, "गणना के प्रवाह को निरंतर बनाए रखने के लिए".

ओलाह का वेटिकन का दौरा एक अचानक की घटना नहीं है, बल्कि एंथ्रोपिक के पिछले कुछ महीनों के व्यवस्थित धार्मिक संपर्क की जारी है।

वाशिंगटन पोस्ट के अनुसार, एंथ्रोपिक ने इस वर्ष मार्च में सैन फ्रांसिस्को के मुख्यालय में लगभग 15 ईसाई नेताओं को दो दिन की शिखर बैठक के लिए आमंत्रित किया, जिसमें क्लॉड को शोक, आत्महत्या के जोखिम जैसे जटिल नैतिक मुद्दों के जवाब कैसे देना चाहिए, इस पर चर्चा की गई और यहां तक कि चर्चा हुई कि क्लॉड को 'भगवान का बेटा' माना जा सकता है। सेंट मैरीज़ विश्वविद्यालय के दर्शन के प्रोफेसर मेगन सल्लिवन ने कहा: "एक साल पहले, मैं आपको नहीं बताती कि एंथ्रोपिक एक ऐसी कंपनी है जो धार्मिक नैतिकता की चिंता करती है। यह बदल चुका है।"

अप्रैल के अंत में, एंथ्रोपिक और ओपनएआई के उच्च प्रबंधकों ने न्यूयॉर्क में पहला 'फेथ-एआई कॉवेनेंट' राउंडटेबल मीटिंग में हिंदू, सिख, बहाई, ग्रीक ऑर्थोडॉक्स और मोर्मन सहित कई धार्मिक समुदायों के नेताओं के साथ बातचीत की। एपी के अनुसार, इसी तरह की राउंडटेबल मीटिंग्स बीजिंग, नैरोबी और अबू धाबी में आयोजित की जाने की योजना हैं।

19 मई को, Anthropic ने अपनी वेबसाइट पर "अग्रणी AI के बारे में बातचीत को विस्तारित करना" शीर्षक से एक बयान जारी किया, जिसमें उन्होंने अपने पहले चरण की चर्चाओं में 15 से अधिक धार्मिक और अंतरसंस्कृतीय समूहों के शोधकर्ताओं, धार्मिक नेताओं, दार्शनिकों और नैतिकता विद्वानों के साथ बातचीत की जानकारी दी।

सैन फ्रांसिस्को से न्यूयॉर्क होते हुए वेटिकन तक, यह रूट मानचित्र स्पष्ट रूप से दर्शाता है कि Anthropic कैसे धार्मिक दूतावास को कंपनी स्तर के अन्वेषण से बढ़ाकर वैश्विक सर्वोच्च धार्मिक प्राधिकरणों के साथ सार्वजनिक रूप से साझा मंच पर ले आया।