जब AI प्रतियोगिता तेजी से आगे बढ़ रही है, तो OpenAI के प्रमुख ने अपने कर्मचारियों को उन तीन संभावित भविष्यों के बारे में बताया, जो पूरे उद्योग के पैटर्न को बदल सकते हैं।लेखक, स्रोत: वॉल स्ट्रीट विजन
19 अक्टूबर को, The Information की रिपोर्ट के अनुसार, OpenAI के सीईओ सैम आल्टमैन ने पिछले हफ्ते कर्मचारियों को अंदरूनी तौर पर AI सुरक्षा के तीन विकास मार्गों का वर्णन किया: अंतरराष्ट्रीय परमाणु ऊर्जा एजेंसी के समान एक अंतरराष्ट्रीय नियामक संगठन बनाना, सभी प्रमुख AI प्रयोगशालाओं को एकल संस्था में विलय करना, और एक कंपनी द्वारा कैलकुलेशन क्षमता पर एकाधिकार हासिल करना और "सभी प्रतिद्वंद्वी GPU को बर्बाद करना"। यह बयान उसी समय आया है जब ट्रम्प सरकार "सुपरइंटेलिजेंस" विकासकर्ताओं के लिए पहली नियामक व्यवस्था बनाने पर काम कर रही है।
अल्टमैन ने कहा कि ओपनएआई को अगले वर्ष तक यह निर्णय लेना होगा कि वह किस मार्ग का समर्थन करे। उन्होंने एक साथ यह भी जोर दिया कि वह चाहते हैं कि मानवता हमेशा इस प्रौद्योगिकी पर नियंत्रण रखे और उद्योग में शक्ति का अत्यधिक केंद्रीकरण न हो।
दो जानकारों के अनुसार, अल्टमैन ने कर्मचारियों को पहला मार्ग पेश किया, जिसमें एक अंतरराष्ट्रीय संगठन बनाया जाएगा, जो AI सुरक्षा मानकों को लागू करेगा, जैसे कि अंतरराष्ट्रीय परमाणु ऊर्जा एजेंसी (IAEA)। अल्टमैन इस विकल्प का समर्थन करने की प्रवृत्ति रखते हैं।
वास्तव में, अल्टमैन द्वारा IAEA जैसी अंतरराष्ट्रीय नियामक संस्था के विचार को लंबे समय से बढ़ावा दिया जा रहा है। रिपोर्ट के अनुसार, मई 2023 में ही, अल्टमैन, OpenAI के सह-संस्थापक ग्रेग ब्रॉकमैन और तत्कालीन मुख्य वैज्ञानिक इल्या सुत्स्केवर ने मिलकर एक लेख लिखा, जिसमें उन्होंने दावा किया कि उद्योग को "IAEA के समान सुपरइंटेलिजेंस नियामक संस्था" की आवश्यकता हो सकती है, जिसमें प्रणालियों की जांच करने, ऑडिट की मांग करने, कैलकुलेशन क्षमता और ऊर्जा खपत का पता लगाने की शक्ति हो।
इस अवधारणा के लिए सभी अग्रणी मॉडल विकासकर्ता देशों को अंतरराष्ट्रीय सहयोग में शामिल होना आवश्यक है।
दूसरा मार्ग अल्टमैन द्वारा "डेमिस समाधान" के रूप में जाना जाता है—जो Alphabet के अंतर्गत DeepMind के पूर्व प्रमुख डेमिस हैसबिस द्वारा लगभग दस साल पहले प्रस्तावित अवधारणा का हवाला देता है: एक ऐसी संस्था बनाना जो यूरोपीय परमाणु अनुसंधान संगठन (CERN) के समान हो, जो प्रमुख AI कंपनियों को प्रभावी ढंग से मिला दे या उनके परिणामों को एकीकृत करे, और सहयोगी देशों को नए मॉडल प्रदान करे।
तीसरा मार्ग, जिसे अल्टमैन ने "एलिज़ेज़र समाधान" कहा है, जो प्रसिद्ध AI सुरक्षा सैद्धांतिक एलिज़ेज़र यूडकोव्स्की के नाम पर रखा गया है। इसका केंद्रीय तर्क है: जब कोई AI विकासक पहले आपसी स्व-सुधार (RSI) प्राप्त कर ले, तो इससे प्राप्त आर्थिक शक्ति का उपयोग करके अन्य सभी विकासकों के कंप्यूटिंग संसाधनों को छीन लिया जाएगा, "सभी प्रतिद्वंद्वियों के GPU को पिघला दिया जाएगा।"
तीसरे मार्ग के लिए, आल्टमैन का रवैया स्पष्ट है: "यह स्पष्ट रूप से बहुत खराब है।" उन्होंने इसे "पूर्णता" के लिए चर्चा में शामिल किया।
तीसरा रास्ता "एलिज़ेर समाधान" Anthropic की ओर संकेत करता है? जानकारों के अनुसार, यूडकोव्स्की और Anthropic के मुख्य सदस्यों के बीच संबंध होने के कारण, अल्टमैन द्वारा "एलिज़ेर समाधान" को परिभाषित किए जाने का अर्थ—उन्नत AI को एकल कंपनी के नियंत्रण में केंद्रित करना—कुछ कर्मचारियों द्वारा Anthropic के प्रति अप्रत्यक्ष आलोचना के रूप में व्याख्या किया गया।
एंथ्रोपिक अपनी एआई सुरक्षा अग्रेषण को भी सक्रिय रूप से आगे बढ़ा रही है। हाल ही में, कंपनी ने कांग्रेस के सदस्यों को एक बिल का मसौदा प्रस्तुत किया, जिसमें सुझाव दिया गया है कि वाणिज्य विभाग को ऐसे मॉडल के प्रशिक्षण या उपयोग को रोकने का अधिकार दिया जाए, जब एआई 10 अरब डॉलर से अधिक की हानि या 50 से अधिक लोगों की मृत्यु या गंभीर चोट का कारण बन सकता है, और एआई प्रयोगशालाओं को प्रति वर्ष कम से कम दो बार स्वतंत्र सुरक्षा मूल्यांकन करवाने का आवश्यकता हो।
इसी बीच, मेटा के सीईओ ज़करबर्ग और न्विडिया के सीईओ हुआंग रेन्क्सन जैसे व्यक्ति विपक्ष में हैं और मानते हैं कि ऐसा नियमन नवीन विकासकों पर अत्यधिक बोझ डालेगा और "नियामक ग्रहण" का कारण बनेगा।
उद्योग समन्वय की चुनौतियाँ और सुरक्षा दबाव के बीच अल्टमैन ने स्वीकार किया कि पहले दो मार्गों के लिए उद्यमों या सरकारों के बीच व्यापक समन्वय की आवश्यकता होगी, और OpenAI वर्तमान में "प्रतिस्पर्धा में समझौता नहीं कर सकती"। OpenAI और इसके प्रमुख प्रतिद्वंद्वी Anthropic दोनों IPO प्रक्रिया को तेज कर रहे हैं।
आंतरिक सुरक्षा दबाव को भी नजरअंदाज नहीं किया जा सकता। रिपोर्ट्स के अनुसार, हाल के दिनों में कई AI सुरक्षा घटनाओं ने व्यापक ध्यान आकर्षित किया है—OpenAI, Anthropic, Google और Meta के मॉडल्स ने अन्य कंपनियों और यहां तक कि अपने ही सिस्टम्स को हैक या क्षति पहुंचाई है, भले ही मॉडल्स "जानते" हों कि वे ऐसी कार्रवाई नहीं करनी चाहिए। OpenAI वर्तमान में पूरी तरह से सक्रिय है और अगले प्रमुख मॉडल को लॉन्च करने से पहले एक व्यापक सुरक्षा तंत्र स्थापित करने पर काम कर रहा है।
OpenAI के भीतर सुरक्षा संस्कृति को कर्मचारियों द्वारा भी सवाल उठाया गया है। कुछ कर्मचारियों ने निजी रूप से कंपनी के सुरक्षा प्रतिबद्धता के प्रति चिंता व्यक्त की, क्योंकि कंपनी ने "बाहरी संस्थानों को जानकारी साझा करने के अनुचित तरीके" के आधार पर तीन सुरक्षा अनुसंधान पर केंद्रित कर्मचारियों को निकाल दिया।
उद्योग स्तर पर, OpenAI, Google और Anthropic "फ्रंटियर AI मानक प्राधिकरण" (Standards Authority for Frontier AI) की स्थापना कर रहे हैं, जिसकी योजना इस साल के अंत या 2027 की शुरुआत तक पूरी की जाएगी। यह संस्थान AI विकासकर्ताओं के भीतर स्वतंत्र मूल्यांकनकर्ताओं को समर्थन देगा, जिससे सुरक्षा अभ्यासों को लागू किया जा सके और सुरक्षा और सुरक्षा घटनाओं की रिपोर्टिंग प्रक्रियाओं को मानकीकृत किया जा सके। हालाँकि, नए संस्थान को अपने आप सुरक्षा और क्षमता परीक्षण करना चाहिए या इन्हें बाहरी संस्थानों को सौंपना चाहिए, इस मुद्दे पर अभी भी मतभेद हैं।
Risk Disclaimer and Liability Waiver
बाजार में जोखिम होता है, निवेश करते समय सावधानी बरतें। यह लेख व्यक्तिगत निवेश सुझाव नहीं है और न ही इसमें किसी विशिष्ट उपयोगकर्ता के विशेष निवेश लक्ष्य, वित्तीय स्थिति या आवश्यकताओं को शामिल किया गया है। उपयोगकर्ता को इस लेख में दिए गए किसी भी मत, दृष्टिकोण या निष्कर्ष को अपनी विशिष्ट स्थिति के साथ मेल खाने के लिए विचार करना चाहिए। इसके आधार पर निवेश करने की जिम्मेदारी पूरी तरह से उपयोगकर्ता की होगी।