सैम आल्टमैन चेतावनी देते हुए कहते हैं कि एआई विकास को सीमांत जोखिमों को संबोधित करने के लिए धीमा किया जाना चाहिए

मुख्य बिंदु:

• सैम आल्टमैन की चेतावनी से एआई समाचार धीमे विकास और अधिक सुरक्षा की ओर बढ़ रहा है।
• OpenAI प्रशिक्षण चलाने से पहले सुरक्षा मामले तैयार करता है, जिससे क्षमताओं में वृद्धि होने की उम्मीद है।
• अल्टमैन एकल एजेंट द्वारा रखे गए अत्यधिक AI शक्ति और मानव नियंत्रण के नुकसान की चेतावनी देते हैं।

AI की खबरें ओपनएआई के सीईओ सैम आल्टमैन द्वारा धीमे, अधिक सावधानी से निगरानी वाले मॉडल विकास के लिए आह्वान के बाद सीमांत सुरक्षा की ओर शिफ्ट हो गईं। उन्होंने चेतावनी दी कि यदि क्षमताएं समन्वय और निगरानी प्रणालियों से तेजी से आगे बढ़ती हैं, तो मानवता नियंत्रण खो सकती है।

अल्टमैन ने शक्तिशाली AI पर मजबूत केंद्रीय नियंत्रण को एक अलग खतरा भी चिह्नित किया। उनके 14 सितंबर के बयान ने निरंतर प्रगति का समर्थन किया, हालांकि विकासकर्ताओं को अतिरिक्त सुरक्षा लागत और धीमी विकास स्वीकार करना चाहिए।

Altman ने Anthropic के CEO Dario Amodei के प्रस्ताव का समर्थन किया कि शोधकर्ता सुरक्षा सुरक्षाओं को मजबूत करते समय विकास को धीमा किया जाए।

हालाँकि, उन्होंने स्पष्ट किया कि गति का अर्थ प्रौद्योगिकीय प्रगति को रोकना नहीं है। इसके बजाय, प्रयोगशालाओं को सुरक्षा समीक्षाओं को अधिक समय चाहिए होने पर धीमी विकास को स्वीकार करना चाहिए। ये हस्तक्षेप उच्च लागत वहन करते हैं, लेकिन अल्टमैन ने इन लागतों को आवश्यक बताया।

AI समाचार के अलावा, अल्टमैन ने कहा कि संयुक्त राज्य अमेरिका के भीतर प्रतिस्पर्धा का दबाव कभी असावधानी से विकास का औचित्य नहीं बन सकता। उन्होंने जोड़ा कि मॉडल क्षमताएँ संरेखण और निगरानी प्रणालियों से आगे नहीं बढ़नी चाहिए।

प्रगति तेज हो गई है, जिससे प्रत्येक अग्रणी प्रयोगशाला के लिए जिम्मेदार विकास अधिक आवश्यक हो गया है। उन्होंने कहा कि अमेरिकी कंपनियों को जनता को यह विश्वास देना चाहिए कि वे उन्नत प्रणालियों को जिम्मेदारी से विकसित करेंगी।

पहले कंपनी के ढांचे मुख्य रूप से उनके सार्वजनिक लॉन्च से पहले पूर्ण मॉडल्स की जांच करते थे। इनमें फ्रंटियर प्रयोगशालाओं द्वारा विकसित जिम्मेदार स्केलिंग नीतियाँ और तैयारी ढांचे शामिल थे।

अल्टमैन ने कहा कि वर्तमान विकास की स्थितियों को नए उपकरणों और पहले सुरक्षा मूल्यांकन की आवश्यकता है। परिणामस्वरूप, ओपनएआई ने कुछ सुरक्षा कार्यों को प्रमुख क्षमता वृद्धि से पहले आगे बढ़ा दिया है।

OpenAI अब फ्रंटियर रीइनफोर्समेंट लर्निंग के चयनित रन के पहले स्पष्ट सुरक्षा मामले तैयार करता है। कंपनी उन स्थितियों में इन्हें लागू करती है जब शोधकर्ता यह अपेक्षा करते हैं कि प्रशिक्षण रन महत्वपूर्ण क्षमता वृद्धि प्रदान करेगा।

OpenAI पूर्ण मॉडल जारी करने से पहले सुरक्षा कार्य भी जारी रखता है। इसलिए, यह दृष्टिकोण विकास और डिप्लॉयमेंट दोनों चरणों में मूल्यांकन को समाहित करता है।

अल्टमैन ने कहा कि कंपनियों को दृष्टिकोण साझा करने चाहिए और अपनी सुरक्षा प्रक्रियाएँ प्रस्तावित करनी चाहिए। उन्होंने मॉडल असंगति, निगरानी और सुरक्षा को कवर करने वाले सामान्य मानकों का समर्थन किया।

ये मानदंड प्रयोगशालाओं को बढ़ती क्षमता वाले प्रणालियों के मूल्यांकन में मार्गदर्शन कर सकते हैं। उन्होंने एक सुसंगठित सीमा-जोखिम ढांचे के हिस्से के रूप में स्वतंत्र ऑडिटर्स का स्वागत भी किया।

नवीनतम AI समाचार बयान ने कानून का इंतजार किए बिना तुरंत उद्योग की कार्रवाई की आह्वान किया। अल्टमैन ने कहा कि कंपनियों को सुरक्षा उपायों को पेश करने से पहले प्रतिस्पर्धा अधिनियम की छूट की आवश्यकता नहीं है।

उन्होंने फ्रंटियर डेवलपर्स के लिए समान आवश्यकताएँ स्थापित करने वाले एक संघीय ढांचे का भी समर्थन किया। हालाँकि, उन्होंने सरकारों को अंतरराष्ट्रीय सुरक्षा नियमों के समन्वय में बड़ी भूमिका दी।

अल्टमैन ने कहा कि प्रयोगशालाओं को पहले अपने स्वयं के संगठन के भीतर उपलब्ध सुरक्षा उपायों को लागू करना चाहिए। फिर सरकारें उन देशों के बीच समन्वय को समर्थन दे सकती हैं ताकि उन्नत मॉडल विकसित किए जा सकें।

उनके बयान में एआई शोध या क्षमताओं में सुधार को समाप्त करने का आह्वान नहीं किया गया था। इसके बजाय, इसमें अधिक मजबूत निगरानी और जानबूझकर धीमी गति से विकास का प्रस्ताव किया गया था।

अल्टमैन ने उन दो तरीकों का वर्णन किया जिनसे उन्नत AI विकास गंभीर रूप से क्षतिकारक परिणाम उत्पन्न कर सकता है। पहला, यदि क्षमताएँ उपलब्ध सुरक्षा उपायों को पार कर जाएँ, तो मानवता नियंत्रण खो सकती है।

दूसरा, एक कंपनी, देश, प्रयोगशाला या व्यक्ति शक्तिशाली प्रणालियों पर अत्यधिक नियंत्रण प्राप्त कर सकता है। इस केंद्रीकरण से एक एजेंट अपने दृष्टिकोण को दूसरों पर थोप सकता है।

चेतावनी ने तकनीकी नियंत्रण और संस्थागत नियंत्रण को एक ही सुरक्षा चर्चा के भीतर रखा। अल्टमैन ने कहा कि ओपनएआई यह सुनिश्चित करने के लिए प्रतिबद्ध रहेगा कि एआई मानवता की सेवा करे।

नवीनतम AI समाचार के अनुसार, OpenAI के सीईओ ने यह भी जोर दिया कि प्रत्येक अग्रणी प्रयोगशाला को इस जिम्मेदारी को पूरा करना चाहिए। अन्यथा, अधिक क्षम सिस्टम उपयुक्त निगरानी या साझा मानकों के बिना आगे बढ़ सकते हैं।

पोस्ट AI समाचार: सैम आल्टमैन कहते हैं कि AI प्रगति को धीमा किया जाना चाहिए क्योंकि सीमांत जोखिम तेज़ हो रहे हैं पहले The Coin Republic पर प्रकाशित हुआ।