OpenAI स्वायत्त AI विकास के लिए वैश्विक AI सुरक्षा मानकों का प्रस्ताव देती है

कृत्रिम बुद्धिमत्ता केवल प्रश्नों के उत्तर देने से अधिक करने में बेहतर हो रही है। अब AI प्रणालियाँ कोडिंग, शोध, विश्लेषण और अन्य कार्यों में मदद कर रही हैं, जिन्हें पहले लगभग पूरी तरह से लोग ही संभालते थे। इससे एक नया प्रश्न उठता है: जब AI अगली पीढ़ी के AI के निर्माण में बड़ी भूमिका निभाना शुरू कर दे, तो क्या होगा?

OpenAI अब उस प्रश्न के उत्तर की मदद के लिए अंतरराष्ट्रीय मानकों की मांग कर रहा है। सितंबर 21 को “AI के अगले चरण के लिए मानक बनाना” शीर्षक से एक पोस्ट में, OpenAI ने सीमांत AI के लिए सामान्य तकनीकी मानक बनाने के लिए एक अमेरिका-नेतृत्व वाले अंतरराष्ट्रीय प्रयास का प्रस्ताव रखा है। कंपनी का कहना है कि ये मानक देशों को AI क्षमताओं को मापने, जोखिमों का मूल्यांकन करने, सुरक्षा उपायों की परीक्षा करने और अधिक सुसंगठित तरीकों से गंभीर घटनाओं की रिपोर्ट करने में मदद कर सकते हैं।

• OpenAI आगे की AI के मूल्यांकन के लिए अंतरराष्ट्रीय मानकों की इच्छा रखता है।
• प्रस्ताव क्षमताओं, जोखिमों, सुरक्षा उपायों और घटना रिपोर्टिंग को कवर करता है।
• ओपनएआई कहता है कि पूर्णतः स्वायत्त आवर्ती स्व-सुधार आज नहीं हो रहा है।
• कंपनी चाहती है कि जैसे-जैसे एआई अधिक क्षमतावान बनता जाए, मानव नियंत्रण केंद्रीय बना रहे।
• मौजूदा एआई सुरक्षा संगठन सामान्य तकनीकी मानकों के विकास में मदद कर सकते हैं।

मूल विचार काफी सरल है। प्रत्येक देश को उन खतरों का मूल्यांकन करने के लिए पूरी तरह से अलग विधि बनाने की आवश्यकता नहीं है जो उन्नत AI द्वारा उत्पन्न होते हैं। OpenAI के अनुसार, तकनीकी दृष्टिकोणों को मानकीकृत करने से देशों, शोधकर्ताओं और AI समुदाय को अपने बढ़ते हुए जटिल AI का मूल्यांकन करने का एक प्रभावी तरीका प्राप्त होता है। जब AI-संबंधी घटनाएँ सीमाओं के पार होती हैं, तो यह और भी अधिक प्रासंगिक हो जाता है।

कंपनी एक एकल वैश्विक AI कानून का प्रस्ताव नहीं कर रही है। इसके बजाय, यह चाहती है कि देश ऐसे संगत मानक विकसित करें जिन्हें सरकारें बाद में अपने अपने नियामक प्रणालियों के भीतर उपयोग करने का फैसला कर सकें। यह अंतर महत्वपूर्ण है क्योंकि सुझाए गए मानक तुरंत सभी कृत्रिम बुद्धिमत्ता प्रौद्योगिकियों के लिए लाइसेंस या प्रमाणीकरण के लिए आवश्यकताएं नहीं बन जाते हैं। बल्कि, सरकारों को अपने अधिकार क्षेत्र के भीतर मानकों के लागू होने का निर्णय लेने की शक्ति प्राप्त है।

OpenAI के प्रस्ताव के अधिक दिलचस्प पहलुओं में से एक है इसकी आत्म-सुधार की पुनरावृत्ति (RSI) की चर्चा। यह अवधारणा एक भविष्य का वर्णन करती है जिसमें AI प्रणालियाँ शोधकर्ताओं को अधिक क्षम AI प्रणालियों के विकास में बढ़ती हुई मदद कर सकती हैं। सरल शब्दों में, AI स्वयं AI के सुधार की प्रक्रिया का हिस्सा बन सकता है।

यह AI शोध को तेज कर सकता है। लेकिन यह एक कठिन सुरक्षा प्रश्न भी उत्पन्न करता है: यदि AI प्रणालियाँ भविष्य के मॉडल विकसित करने में भारी रूप से शामिल हो जाएँ, तो इसमें मानव निगरानी कितनी बनी रहनी चाहिए?

OpenAI कहती है कि पूरी तरह स्वायत्त आत्म-सुधार आज नहीं हो रहा है। यह भी तर्क देती है कि ऐसी दिशा को तब तक अपनाया नहीं जाना चाहिए जब तक कि इसे मानव नियंत्रण को बनाए रखते हुए सुरक्षित तरीके से किया नहीं जा सकता। इससे मूल्यांकन और सुरक्षा परीक्षण और भी महत्वपूर्ण हो जाते हैं जब तक कि AI प्रणालियाँ बढ़ती हुई जटिल अनुसंधान और विकास के कार्यों को संभालने में सक्षम होती जा रही हैं।

OpenAI इस प्रयास के लिए संभावित निर्माण खंड के रूप में दुनिया भर में मौजूद AI सुरक्षा संगठनों और नेटवर्क्स का भी उल्लेख करता है। कंपनी विशेष रूप से संयुक्त राज्य अमेरिका, यूनाइटेड किंगडम, कनाडा, फ्रांस, जर्मनी, जापान, दक्षिण कोरिया, सिंगापुर, भारत, केन्या और ऑस्ट्रेलिया सहित विभिन्न देशों में AI सुरक्षा संस्थानों और संबंधित संगठनों का उल्लेख करती है।

प्रत्येक देश द्वारा अपनी अलग-अलग पूर्णतः स्वतंत्र तकनीकी दृष्टिकोण विकसित करने के बजाय, OpenAI चाहती है कि इन समूहों को एक-दूसरे के साथ पूरक होने वाले मानकों की ओर काम करना चाहिए। प्रस्ताव में AI डेवलपर्स, शोधकर्ताओं, अकादमिक और स्वतंत्र तकनीकी विशेषज्ञों की भागीदारी की भी आह्वान किया गया है। OpenAI कहती है कि मानकों को किसी विशेष कंपनी या देश के हितों के बजाय तकनीकी मापदंडों के आधार पर डिज़ाइन किया जाना चाहिए।

समय ध्यान देने योग्य है। AI कंपनियाँ ऐसे प्रणालियाँ बना रही हैं जो क्रमिक कार्यों को कम सीधे मानव निवेश के साथ अधिक करने लगी हैं, जबकि सरकारें अभी भी इस प्रौद्योगिकी के नियमन के तरीके पर काम कर रही हैं।

रॉयटर्स ने रिपोर्ट किया कि ओपनएआई चाहती है कि संयुक्त राज्य अमेरिका उन्नत एआई के लिए अंतरराष्ट्रीय तकनीकी मानकों के विकास में नेतृत्व करे। बड़ी चुनौती यह हो सकती है कि देशों और कंपनियों को यह सहमति दिलाना कि इन मानकों को क्या मापना चाहिए और उन्हें कैसे लागू किया जाए।

अभी के लिए, OpenAI का प्रस्ताव उससे पहले एक सामान्य तकनीकी आधार बनाने पर केंद्रित है जब तक कि सीमांत AI और अधिक क्षमतावान न हो जाए। जैसे-जैसे AI स्वयं AI विकसित करने में शामिल कार्यों का अधिकांश काम करने लगता है, क्षमताओं, जोखिमों और सुरक्षा उपायों को मापने का एक साझा तरीका बातचीत का एक बढ़ते हुए महत्वपूर्ण हिस्सा बन सकता है।

यह लेख मूल रूप से OpenAI Pushes for Global AI Safety Standards as AI Gets More Autonomous के रूप में Crypto Breaking News पर प्रकाशित किया गया था – आपका विश्वसनीय स्रोत क्रिप्टो समाचार, बिटकॉइन समाचार और ब्लॉकचेन अपडेट्स के लिए।