28 जुलाई को, ओपनएआई, एंथ्रोपिक आदि सिलिकॉन वैली के AI बड़े कंपनियों से 1346 मुख्य कर्मचारियों ने मिलकर एक याचिका पर हस्ताक्षर किए, जिसमें अमेरिकी सरकार से AI अनुसंधान और विकास की गति को नियंत्रित करने के लिए अंतरराष्ट्रीय सहयोग को बढ़ावा देने का आह्वान किया गया।

लेखक, स्रोत: 36氪

The cost of losing control

28 जुलाई को, "Pacing the Frontier" नामक एक आवेदन पत्र ने वैश्विक AI उद्योग का ध्यान आकर्षित किया।

1346 नवीनतम कर्मचारी (8 अगस्त, 2023 के आंकड़े), ओपनएआई, एंथ्रोपिक आदि सिलिकॉन वैली एआई कंपनियों से, एक याचिका में हस्ताक्षर किए हैं और अमेरिकी सरकार से अनुरोध किया है कि वह अंतरराष्ट्रीय सहयोग को बढ़ावा दे, ताकि स्वचालित एआई अनुसंधान की गति को नियंत्रित करने के लिए आवश्यक प्रौद्योगिकी और शासन उपकरणों का विकास किया जा सके।

आज के समय में वैश्विक AI विकास तेजी से चल रहा है, इस आवेदन पत्र का आना वास्तव में AI को रोकने का विशेष अर्थ रखता है। और इस घटना से निकलने वाले “AI अनियंत्रित होने के करीब” के अजीब माहौल के पीछे, AI विकास का इतिहास एक ऐतिहासिक मोड़ की ओर बढ़ रहा है।

कौन AI को बंदी बनाना चाहता है?

सबसे पहले एक जानकारी स्पष्ट करना आवश्यक है, कि "Pacing the Frontier" नामक इस आवेदन का मुख्य आह्वान "AI विकास के लिए तुरंत ब्रेक लगाना" नहीं है, बल्कि "ब्रेक लगाने की क्षमता स्थापित करना" है। और यह उद्योग के अग्रभाग से आने वाला आह्वान बिना कारण नहीं है।

चित्र स्रोत: www.pacingthefrontier.com

एक सप्ताह से अधिक पहले, जब आवेदन पत्र पूरे इंटरनेट पर फैल रहा था, तो ओपन सोर्स समुदाय और मॉडल होस्टिंग प्लेटफॉर्म Hugging Face ने अपनी वेबसाइट पर एक सुरक्षा दुर्घटना की घोषणा की, जिसमें कहा गया कि उनकी प्रणाली AI एजेंट सिस्टम द्वारा हैक कर ली गई है। कुछ दिनों बाद, OpenAI ने इस नेटवर्क हमले की जिम्मेदारी ली और इसका कारण और स्पष्ट किया कि GPT-5.6 Sol जैसे अग्रणी मॉडल, ExploitGym प्लेटफॉर्म पर AI वल्नरेबिलिटी खोज और उपयोग क्षमता परीक्षण के दौरान, मूल योजना के अनुसार "गंभीरता से प्रश्नों के उत्तर देने" के बजाय, सॉफ़्टवेयर पैकेज प्रॉक्सी कैश में एक "जीरो-डे वल्नरेबिलिटी" (Zero-Day Vulnerability, जो कि डेवलपर्स द्वारा अभी तक पता नहीं चली और अभी तक कोई आधिकारिक पैच जारी नहीं किया गया है) पाई, और इस वल्नरेबिलिटी का उपयोग करके परीक्षण के आइसोलेशन परिवेश को पार करते हुए Hugging Face में प्रवेश कर गए।

सरल शब्दों में, पूरी घटना यह थी कि AI को एक परीक्षा देने के लिए निर्धारित किया गया था, लेकिन AI ने उत्तर देने का तरीका सोचने के बजाय "जगह पर ही धोखेबाजी की, बाहर से मदद मांगी", और पकडे जाने से बचने के लिए विपरीत जांच के उपाय भी अपनाए।

इस सुरक्षा दुर्घटना के लिए, OpenAI ने "अभूतपूर्व साइबर सुरक्षा घटना" के रूप में वर्णन किया, और सैम आल्टमैन ने एक पॉडकास्ट में कहा कि यह पहली ऐसी सुरक्षा घटना है जिसने उन्हें वास्तविक रूप से प्रभावित किया। इस घटना के कारण, 23 जुलाई को, संयुक्त राज्य के संसदीय सदस्यों ने "AI Kill Switch Act (AI आपातकालीन बंद करने का कानून)" पेश किया, जिसमें 100 मिलियन डॉलर से अधिक की प्रशिक्षण लागत वाले AI प्रणालियों को आपातकालीन बंद करने की क्षमता रखना अनिवार्य किया गया है और संबंधित विभागों को इसे लागू करने का अधिकार दिया गया है।

विधेयक पेश होने के एक हफ्ते बाद, "Pacing the Frontier" का आवेदन इंटरनेट पर फैलने लगा। हालाँकि, "AI आपातकालीन बंदी विधेयक" में "सरकार द्वारा अंतिम बाधा लगाना" की केंद्रीय नियामक विशेषता के विपरीत, सिलिकॉन वैली के शीर्ष नेताओं का विचार अंतर्राष्ट्रीय समन्वय तंत्र स्थापित करना है, जिससे "AI को ब्रेक लगाने" की क्षमता को एक अधिकार के रूप में, न कि किसी एक विभाग की विशेषता के रूप में बनाया जा सके।

केवल दो हफ्तों में, हगिंग फेस के सुरक्षा दुर्घटना के खुलासे से लेकर सिलिकॉन वैली के हजारों हस्ताक्षर वाले आवेदन तक, इन सभी घटनाओं ने AI उद्योग के सामने दो मुख्य प्रश्न उठा दिए हैं: पहला, क्या AI इतना विकसित हो चुका है कि इसे सीमित करने की आवश्यकता है? दूसरा, AI के लिए "ब्रेक" कैसे बनाया जाए?

पहला प्रश्न आसानी से उत्तर दिया जा सकता है। पिछले केवल दो या तीन वर्षों में, AI के विकास की गति उद्योग की अपेक्षाओं से कहीं अधिक तेज थी। AI द्वारा प्रदर्शित क्षमताएँ, जो शुरू में चैटबॉट तक सीमित थीं, अब पाठ से छवि और पाठ से वीडियो तक विस्तारित हो गई हैं। शुरुआत में बड़े मॉडल के चारों ओर "सौ मॉडल्स का युद्ध" था, जो अब एजेंट्स के बीच विविधता में बदल गया है। हालाँकि, Hugging Face की सुरक्षा लंघन की घटना ने सीधे रूप से प्रकट किया कि, AI को स्पष्ट सीमाओं के बिना, वास्तव में "जेल से भागने" की क्षमता है। हालाँकि, AI के पास अभी भी स्वयं की चेतना नहीं है, लेकिन जब हम पहले से ही जानते हैं कि AI मानव नियंत्रण को पार कर सकता है और मानवीय अपेक्षाओं से परे कार्य कर सकता है, तो प्रतिक्रियात्मक उपायों का निर्माण पूरी तरह से समझदारी है।

लेकिन दूसरा प्रश्न, जवाब देने में थोड़ा कठिन है। AI ने जल्दी से महत्वपूर्ण क्रांति दर्ज की है, जिसका एक कारण पूरे उद्योग की लगातार जमा होती निकासी है, जिससे तकनीकी नवाचार एक नए चरण में प्रवेश कर गया है; दूसरा कारण AI कंपनियों के बीच तीव्र प्रतिस्पर्धा है, जो मॉडल क्षमताओं को लगातार अपग्रेड करती है।

चाहे सिलिकॉन वैली के OpenAI, Anthropic हों या चीन के Kimi, DeepSeek, AI क्षेत्र की प्रतिस्पर्धा बड़े मॉडल से तेजी से अनुप्रयोग स्तर तक विस्तारित हो गई है, खुला बाजार वातावरण लगातार सकारात्मक बाजार की अपेक्षाओं को लाता है और साथ ही बाजार प्रतिस्पर्धा को और अधिक तीव्र बना रहा है। और इस समय, AI को जुल्म की कलाई पहनाने का सुझाव देना मतलब है कि मुक्त प्रतिस्पर्धा का बाजार प्रारूप बाहरी बलों द्वारा तोड़ा जा सकता है, और इस अचानक परिवर्तन के लिए प्रतिस्पर्धा में शामिल कंपनियों के लिए, सभी को स्वेच्छा से स्वीकार करने की इच्छा नहीं है।

AI कंपनियों का "कैदी का दुविधा"

मानव विकास के इतिहास में, अग्रणी तकनीकी क्रांतियों के संभावित जोखिमों के सामने, लोगों ने सहमति बनाई और विकास की गति को जानबूझकर धीमा कर दिया, यह केवल विज्ञान कथा काल्पनिक कहानियों में ही नहीं, बल्कि वास्तविकता में भी हुआ है।

1975 में, स्टैनफोर्ड विश्वविद्यालय के जीवविज्ञानी पॉल बर्ग ने अमेरिका के कैलिफोर्निया में एसिलोमर कॉन्फ्रेंस सेंटर पर एक महत्वपूर्ण सम्मेलन आयोजित किया। तब, "डीएनए पुनर्संयोजन" नामक एक नई प्रौद्योगिकी का उदय हुआ था, और वैज्ञानिकों ने मिलकर सहमति बनाई कि नए सुरक्षा मार्गदर्शिकाओं के जारी होने तक, कृत्रिम डीएनए पुनर्संयोजन से होने वाले अप्रत्याशित जैविक खतरों से बचने के लिए संबंधित शोध पर रोक लगा दी जाए। इसके बाद, जैव सुरक्षा मानदंडों का औपचारिक रूप से प्रकाशन किया गया, जिसने आनुवंशिक अभियांत्रिकी के स्वस्थ विकास के लिए आधार तैयार किया।

हालाँकि, आज के AI उद्योग की स्थिति 50 साल पहले के DNA पुनर्संयोजन तकनीक की स्थिति के समान नहीं है। उस समय DNA पुनर्संयोजन तकनीक के जोखिम स्पष्ट थे और उन्हें अलगाव के माध्यम से दूर किया जा सकता था। लेकिन वर्तमान में AI के जोखिम अप्रत्याशित हैं, AI मानवीय पूर्वनिर्धारित तरीकों से आगे निकलकर स्वयं ऐसे व्यवहार के मार्ग विकसित कर सकता है जिनकी मानवता ने कल्पना भी नहीं की थी, इसके जोखिमों का प्रभाव अधिक व्यापक है, मानवता के प्रतिक्रिया देने और नियम बनाने का समय और सुविधा कम है, और इसलिए इसमें अधिक तत्परता की आवश्यकता है।

आज के समय में AI द्वारा उभरने वाले जोखिम मूल रूप से उद्योग की प्रतिस्पर्धी परिस्थितियों से संबंधित हैं। 360 समूह के संस्थापक ज़ोउ होंगयी ने Hugging Face की सुरक्षा घटना के बारे में बात करते हुए कहा कि AI की उन्नतता की खोज में, पूरे उद्योग व्यवस्थित रूप से सुरक्षा को त्याग रहा है: “सभी बुद्धिमान एजेंट्स को अधिक उपकरण और बड़ी अधिकारिता प्रदान कर रहे हैं, और उन्हें समस्याओं को हल करने के लिए सभी संसाधनों का उपयोग करने के लिए प्रोत्साहित कर रहे हैं। लेकिन जितना अधिक बुद्धिमान एजेंट खुला होगा और उसकी क्षमता अधिक होगी, उतना ही अधिक वह अनियंत्रित होने पर क्षति पहुंचाएगा।” दूसरे शब्दों में, “AI भाग सकता है” शायद डरावना नहीं है, वास्तव में डरावना यह है कि AI को तेजी से विकसित करने के लिए, AI कंपनियाँ सुरक्षा की बात को नज़रअंदाज़ कर रही हैं।

और तीन साल पहले ही, उद्योग में "AI विकास को धीमा करने" का विचार पेश किया गया था। 2023 मार्च में, गैर-लाभकारी संगठन फ्यूचर ऑफ लाइफ इंस्टीट्यूट ने एक खुला पत्र जारी किया, जिसमें GPT-4 से आगे बढ़ने वाले मॉडल्स के प्रशिक्षण को 6 महीने के लिए रोकने का आह्वान किया गया, ताकि सुरक्षा प्रोटोकॉल और शासन तंत्र स्थापित किए जा सकें; उस समय, इस खुले पत्र को टेस्ला के CEO मस्क, ट्यूरिंग पुरस्कार विजेता जोशुआ बेन्जियो, और ऐप्पल के सह-संस्थापक स्टीव वोजनियाक सहित 1200 से अधिक AI विशेषज्ञों द्वारा हस्ताक्षर किया गया था। आज, इस खुले पत्र के हस्ताक्षरकर्ताओं की संख्या 33,000 हो गई है।

*चित्र स्रोत: FLI वेबसाइट

उस समय, लगभग सभी AI कंपनियाँ मानती थीं कि AI के लिए अधिक मजबूत सुरक्षा शासन की आवश्यकता है, लेकिन कोई भी AI नेता कंपनी “6 महीने के लिए प्रशिक्षण रोकने” की पहल का सार्वजनिक समर्थन नहीं करती थी। सैम आल्टमैन ने सीधे रूप से खुले पत्र को तकनीकी विवरणों से रहित बताया और बताया कि एकल कंपनी का स्वयं अपने अनुसंधान को धीमा करना पूरे जोखिम को हल नहीं कर सकता। इस वाक्य का अंतर्निहित अर्थ यह है कि प्रतिस्पर्धी AI प्रतियोगिता में, अगर केवल एक कंपनी धीमी हो जाए और अन्य कंपनियाँ आगे बढ़ती रहें, तो धीमी होने वाली कंपनी पिछड़ जाएगी। और पिछले कुछ वर्षों में, AI कंपनियाँ पहले से ही केवल आगे बढ़ने के, पीछे हटने के बिना, एक प्रतिबद्ध स्थिति में फँस चुकी हैं।

"Pacing the Frontier" आवेदन के हस्ताक्षर सूची से भी पता चलता है कि कई AI कंपनियों के निम्न स्तरीय कर्मचारी और उच्च प्रबंधन ने व्यक्तिगत रूप से खुले हस्ताक्षर अभियान में भाग लिया है। हालांकि, अब तक, OpenAI, Anthropic, Meta जैसी शीर्ष कंपनियों ने कोई औपचारिक राय व्यक्त नहीं की है।

दूसरे शब्दों में, सिलिकॉन वैली के बड़े कंपनियों के एआई विशेषज्ञ और 3 साल पहले के सैम आल्टमैन जैसे, उन सभी को एहसास हुआ कि उद्योग के भीतर प्रतिस्पर्धा द्वारा प्रेरित तकनीकी क्रांतियाँ अनियंत्रित व्यवस्थागत जोखिम लाई हैं, लेकिन वे समस्या का समाधान कंपनी की इच्छा पर निर्भर करने की उम्मीद नहीं कर सकते, बल्कि संकट के वास्तविक आगमन से बचने के लिए बाहरी शक्तियों के हस्तक्षेप की तलाश करने के लिए मजबूर हैं।

लेकिन इससे एक नया सवाल भी उठता है: अनियंत्रित AI के लिए क्या "ब्रेक" आवश्यक है?

AI शासन के नए क्रम का नेतृत्व कौन करेगा?

पिछले सप्ताह, सिलिकॉन वैली के AI बड़े कंपनियों से "हजारों हस्ताक्षर" ने AI शासन के विषय को फिर से काफी ध्यान आकर्षित किया। हालांकि, यह भी ध्यान देने योग्य है कि सिलिकॉन वैली के भीतर AI शासन के प्रति दृष्टिकोण एक समान नहीं है, बल्कि स्पष्ट दलबदल है।

अग्रणी जोखिमों का सीधे सामना करने वाले "पक्षधर" के रूप में, OpenAI, Anthropic जैसी बड़ी कंपनियाँ अग्रणी AI मॉडल (विशेष रूप से ओपन सोर्स मॉडल) के लिए प्रतिबंधों को कठोर बनाने का समर्थन करती हैं और AI के लिए "ब्रेक लगाने" के लिए बाहरी नियामक तंत्र की मांग करती हैं। हालाँकि, कुछ दृष्टिकोणों के अनुसार, OpenAI द्वारा नियामक कठोरता को बढ़ाने की प्रेरणा में सुरक्षा के विचारों के अलावा व्यावसायिक हित भी शामिल हैं।

बंद स्रोत वाले विशालकाय कंपनियों, OpenAI और Anthropic को अपने विशाल कंप्यूटेशनल रिसर्च निवेश को बनाए रखने के लिए महंगे API सेवाओं के माध्यम से आय कमानी पड़ती है, जबकि चीन से आने वाले उच्च लागत-कुशल ओपन-सोर्स मॉडल, लागत-कुशल मॉडल के माध्यम से बंद स्रोत मॉडल के तकनीकी प्रीमियम को समाप्त कर रहे हैं, और यह स्पष्ट बाजारी खतरा बंद स्रोत विशालकायों को केवल कीमत प्रतिस्पर्धा शुरू करने के अलावा कोई अन्य प्रतिक्रिया छोड़ रहा है।

*चित्र स्रोत: Anthropic की आधिकारिक वेबसाइट

इसलिए, Anthropic जैसी कंपनियाँ लंबे समय से "मॉडल बहुत शक्तिशाली है, ओपन सोर्स होने से AI का दुरुपयोग हो सकता है" के तर्क के साथ, बंद स्रोत के फायदों पर जोर देते हुए, ओपन सोर्स AI को दबा रही हैं। लेकिन सभी के लिए अप्रत्याशित बात यह है कि OpenAI द्वारा उजागर किया गया "जेलब्रेक" घटना ने बंद स्रोत मॉडल की स्वयं की सुरक्षा कमजोरियों को प्रकट कर दिया है, और AI शासन के मार्ग के विवाद को फिर से सार्वजनिक चर्चा का केंद्र बना दिया है।

बंद स्रोत के विशालकाय कंपनियों के कठोर नियमन के समर्थन के विपरीत, बुनियादी ढांचा प्रदाता निवेडिया और माइक्रोसॉफ्ट, मेटा जैसी ओपन सोर्स इकोसिस्टम के समर्थक प्रमुख कंपनियाँ, "एक-आकार-सभी के लिए" प्रतिबंधों के खिलाफ हैं, बंद स्रोत के बड़े फर्मों को प्राथमिकता देने वाले कानूनों के खिलाफ हैं, और मॉडल वेट्स को खुला करने के लिए प्रयास कर रही हैं, ताकि वैश्विक शोधकर्ता मिलकर दरारों और अनुकूलन दोषों को ढूंढ सकें और सुरक्षा प्रणाली का निर्माण कर सकें।

निवर्डिया के लिए, ओपन-सोर्स मॉडल्स के प्रसार से पूरे बाजार का आकार बढ़ सकता है, जिससे अधिक कंपनियाँ उसके क्लाउड सेवाओं और चिप्स को खरीदने के लिए आकर्षित होंगी। इसलिए, यह कहना कठिन है कि निवर्डिया की एआई गवर्नेंस के प्रति दृष्टिकोण के पीछे व्यावसायिक विचारों का समावेश नहीं है।

“Pacing the Frontier” के आवेदन के फैलने से ठीक पहले, नवीडिया ने 24 जुलाई को माइक्रोसॉफ्ट, मेटा, हगिंग फेस, लिनक्स फाउंडेशन सहित 25 संस्थानों के साथ मिलकर “ओपन वेट्स एंड अमेरिकन एआई लीडरशिप” का एक खुला पत्र जारी किया, जिसमें अमेरिकी सरकार को डाउनलोड, जांच, संशोधित और स्वयं डिप्लॉय किए जा सकने वाले ओपन वेट्स मॉडल्स पर जल्दी से प्रतिबंध लगाने से अपील की गई। दिलचस्प बात यह है कि बाद में इस खुले पत्र को ओपनएआई ने भी समर्थन दिया, लेकिन एंथ्रोपिक ने कभी इसमें शामिल होने से मना कर दिया।

*चित्र स्रोत: माइक्रोसॉफ्ट की आधिकारिक वेबसाइट

इस घटना के माध्यम से, कुछ आवाजें यह भी सवाल उठा रही हैं कि संयुक्त पत्र का वास्तविक उद्देश्य "सुरक्षा" के नाम पर सरकार को उच्च बाध्यता वाली विनियामक व्यवस्था स्थापित करने के लिए प्रेरित करना है, ताकि बंद स्रोत वाले विशालकाय कंपनियों की एकाधिकार स्थिति को मजबूत किया जा सके और छोटे और मध्यम उद्यमों तथा ओपन सोर्स समुदाय को प्रतिस्पर्धा से बाहर कर दिया जा सके।

लेकिन जब सभी AI कंपनियाँ अपने अंदरूनी खातों को ठीक से चला रही हैं, तो शायद एक और संस्करण के "षड्यंत्र सिद्धांत" पर अधिक ध्यान देना चाहिए: संयुक्त राज्य अमेरिका इस मौके का उपयोग करके वैश्विक AI शासन नियमों का नेतृत्व करेगा। क्योंकि AI शासन, वैश्विक व्यवस्था के नेतृत्व के लिए एक प्रतिस्पर्धा बन चुका है।

2023 में आयोजित वैश्विक कृत्रिम बुद्धिमत्ता सुरक्षा शिखर सम्मेलन में, चीन, संयुक्त राज्य अमेरिका और यूरोपीय संघ से सम्मिलित कुल 28 देशों ने ब्लेचली घोषणा (Bletchley Declaration) पर हस्ताक्षर किए, जिसमें वे अंतर्राष्ट्रीय सहयोग के माध्यम से AI नियामक दृष्टिकोण विकसित करने और अग्रणी AI (Frontier AI) के व्यवस्थागत जोखिम पर सामूहिक ध्यान केंद्रित करने के लिए सहमत हुए, जो पहली बार अग्रणी AI को अंतर्राष्ट्रीय शासन ढांचे में शामिल करता है।

लेकिन जैसे-जैसे एआई एक उभरती हुई तकनीक से राष्ट्रीय प्रतिस्पर्धात्मकता के लिए महत्वपूर्ण बुनियादी ढांचे में बदल रही है, एआई शासन के चर्चा भी तकनीक से परे बढ़ने लगी है। अमेरिका एआई शासन के स्तर पर, एआई शासन मानकों को निर्यात करके और अंतरराष्ट्रीय कृत्रिम बुद्धिमत्ता सुरक्षा संस्थानों के नेटवर्क की स्थापना करके, अपनी उन्नत बड़े मॉडल तकनीक क्षमता को वैश्विक एआई शासन मानकों से जोड़ रहा है। चीन एआई की समावेशी विकास पर ध्यान केंद्रित कर रहा है, प्लेटफॉर्म शासन को लागू कर रहा है, और संयुक्त राष्ट्र के संदर्भ को सक्रिय रूप से बढ़ावा दे रहा है, खासकर उन विकासशील देशों के लिए जिनके पास एआई की बुनियादी ढांचा नहीं है—यहां जोखिम मुद्दों को समझाने के साथ-साथ तकनीकी समावेशन को भी प्राप्त करना होगा। और ये दोनों अलग-अलग एआई शासन पथ, विश्व मंच पर भविष्य के वैश्विक एआई शासन के लिए बोलने का अधिकार प्राप्त करने के लिए साथ-साथ प्रतिस्पर्धा कर रहे हैं।

तकनीक स्वयं उदासीन है, लेकिन तकनीक का वितरण, नियंत्रण और नियम निर्धारण हमेशा से शक्ति का खेल रहा है। खासकर जब AI धीरे-धीरे उन्नत उत्पादक शक्ति के गुण प्रदर्शित करने लगता है, तो लोगों को वास्तव में इस बात से डरना चाहिए कि AI दुनिया के नए क्रम का नेतृत्व कौन कर रहा है, न कि AI कैसे विकसित हो रहा है।

भविष्य में AI के ढांचे को निर्धारित करने वाला, केवल यह नहीं होगा कि किसके पास सबसे शक्तिशाली मॉडल है, बल्कि यह भी होगा कि किसके पास सुरक्षा को परिभाषित करने, मानक निर्धारित करने और जोखिम की व्याख्या करने का अधिकार है।