AI सुरक्षा विवाद बढ़ रहा है, विदेशी मीडिया के अनुसार, जेफ्री हिंटन, ली फेईफेई और एंड्रयू नग ने हाल ही में लास वेगास में आयोजित AI4 सम्मेलन में ओपन मॉडल पर केंद्रित चर्चा की। तीनों की स्थिति पूरी तरह से समान नहीं है, लेकिन सभी ने कुछ बड़ी प्रौद्योगिकी कंपनियों द्वारा AI के विकास के गति को नियंत्रित करने के खिलाफ आवाज उठाई।
कुछ कंपनियों के द्वारा प्रवेश द्वार पर कब्जा करने का विरोध
लेख में कहा गया है कि तीन शोधकर्ता एक सामान्य चिंता रखते हैं कि यदि AI को कुछ कंपनियों द्वारा नियंत्रित किया जाता है, तो नवाचार का स्थान संकुचित हो सकता है। वू एनडा ने सीधे कहा कि वे AI क्षेत्र में "गेटकीपर" नहीं चाहते, क्योंकि इससे डेवलपर्स, उद्यमियों और जनता तक AI तक पहुंच की सीमाएं आ सकती हैं।
वह मानते हैं कि बड़ी कंपनियाँ स्वाभाविक रूप से अपने लाभ की रक्षा करेंगी और उद्योग के नियमों के निर्माण को प्रभावित कर सकती हैं। परिणामस्वरूप, केवल सबसे अधिक धन और सबसे शक्तिशाली कैलकुलेशन क्षमता वाली कंपनियाँ ही सबसे उन्नत प्रणालियों का निर्माण जारी रख पाएंगी। उवेनडा का सुझाव है कि एक से अधिक मॉडल प्रदाताओं के अस्तित्व को बनाए रखा जाए, ताकि मॉडल और कंपनियाँ बाजार में प्रतिस्पर्धा करें, और कुछ ही प्लेटफॉर्म शीर्ष पर न आ जाएँ।
Hinton distinguishes between open-source code and open weights
हालांकि, हिंटन "ओपन सोर्स सॉफ्टवेयर" और "ओपन वेट मॉडल" को एक ही बात नहीं मानते। उनके अनुसार, ओपन सोर्स सॉफ्टवेयर में कोड प्रकाशित किया जाता है, जिससे बाहरी लोग विफलताओं की जांच कर सकते हैं और सुधार सुझा सकते हैं; ओपन वेट का मतलब है कि प्रशिक्षित बड़े मॉडल के पैरामीटर सीधे बाहरी लोगों को दे दिए जाते हैं, जिससे द्वितीयक विकास की बाधा काफी कम हो जाती है।
उन्होंने कहा कि उनका पिछले समय ओपन वेट्स के खिलाफ होने का कारण यह था कि इससे कुछ लोग बेस मॉडल को कम लागत पर नेटवर्क अटैक आदि के लिए बदल सकते हैं। लेकिन उन्होंने एक साथ स्वीकार किया कि वास्तविकता में इस बहस को अब वापस नहीं किया जा सकता। ओपन वेट्स मॉडल के लगातार आने से, प्रशिक्षण लागत द्वारा बनाया गया बाधा स्पष्ट रूप से कमजोर हो चुका है।
हालांकि, हिंटन ने एआई विकास को बंद करने का सुझाव नहीं दिया है। लेख में कहा गया है कि वह अभी भी मानते हैं कि एआई उत्पादकता में वृद्धि करेगा और शिक्षा और स्वास्थ्य जैसे क्षेत्रों में सुधार करेगा, लेकिन इसके संभावित जोखिमों को नज़रअंदाज़ नहीं किया जा सकता। उन्होंने यह भी कहा कि सभी एआई जोखिमों के प्रति चिंतित लोगों को “आतंक पैदा करने वालों” के रूप में वर्गीकृत करना न्यायसंगत नहीं है।
ली फेईफेई ने परतदार खुलापन का समर्थन किया
यू-एन-डांग के खुली प्रतिस्पर्धा पर जोर देने और हिंटन के सुरक्षा जोखिमों पर जोर देने के विपरीत, ली फेईफेई बहस को केवल "पूर्ण खुलापन" या "पूर्ण बंदपन" के दो विकल्पों में सरल नहीं करना चाहती हैं। वह मानती हैं कि जटिल सॉफ़्टवेयर और अनुसंधान प्रणालियाँ पहले से ही विभिन्न स्तरों में मौजूद होती हैं, और विभिन्न चरणों में विभिन्न स्तरों की खुलाहट अपनाई जा सकती है।
उसने नाभिकीय भौतिकी का उदाहरण देकर कहा कि शैक्षणिक पत्र प्रकाशित किए जा सकते हैं, लेकिन यूरेनियम सामग्री पर कठोर नियंत्रण होता है, और प्रयोगात्मक चरण इन दोनों के बीच में होता है। इस आधार पर उसने तर्क दिया कि AI के लिए भी समान दृष्टिकोण अपनाया जा सकता है: शोध आविष्कार, शिक्षा और अंतर्राष्ट्रीय सहयोग के स्तर पर कुछ स्तर की खुलासा बनाए रखते हुए, साथ ही व्यवसायों को बंद स्रोत प्रणालियों और व्यावसायिक मॉडल्स को बनाए रखने की अनुमति देना।
लेख में यह भी उल्लेख किया गया है कि ली फेईफेई ने मानव जीनोम परियोजना का हवाला देते हुए कहा कि सार्वजनिक संस्थानों और निजी क्षेत्र के सहयोग से बनाई गई बुनियादी ज्ञान प्लेटफॉर्म, अनुसंधान को आगे बढ़ाने, व्यवसायों के लाभ और सामाजिक अनुप्रयोगों को एक साथ समर्थन दे सकती है। वह मानती हैं कि AI बुनियादी ढांचे को भी इसी दिशा में विकसित किया जाना चाहिए, और न कि एक-दूसरे के विपरीत के बीच के विवाद में फंसे।
तीनों ने नियमन की आवश्यकता को माना
हालांकि तीनों का खुले मॉडल की सीमाओं के बारे में अलग-अलग राय है, लेकिन नियामक मुद्दों पर उनकी रुख लगभग समान है। लेख के अनुसार, वे सभी यह मानते हैं कि AI को सामाजिक रूप से अधिक लाभदायक दिशा में विकसित होने के लिए कुछ स्तर के नियमों की आवश्यकता है।
हिंटन ने कहा कि AI के विकास को पूरी तरह से उद्यमियों पर छोड़ा नहीं जा सकता। खुले मॉडल के चारों ओर की बहस अब केवल तकनीकी रास्ते का मुद्दा नहीं है, बल्कि इससे उद्योग के शक्ति वितरण, अंतरराष्ट्रीय प्रतिस्पर्धा और AI सुरक्षा शासन की दिशा भी प्रभावित होती है।