माइक्रोसॉफ्ट के सीईओ सत्या नडेला ने 20VC पॉडकास्ट में स्वीकार किया कि पिछले समय वे मानते थे कि AI क्षमता में वृद्धि स्वतः ही मानव मूल्यों के साथ समन्वय की प्रगति लाएगी, लेकिन अब उनका दृष्टिकोण बदल गया है। उन्होंने बताया कि मॉडल का आकार लगातार बढ़ रहा है, लेकिन समन्वय की समस्याएं अधिक जटिल हो गई हैं, और नियंत्रणयोग्यता क्षमता के साथ समान रूप से नहीं बढ़ी है। उनका तर्क है कि AI को आंतरिक सुरक्षा खतरा माना जाए, और विश्वसनीय सिस्टम डिज़ाइन, मानवीय नियंत्रण और संचालन प्रक्रियाओं की तीन परतों की सुरक्षा की आवश्यकता है, साथ ही उन्होंने उद्योग-स्तरीय मानकों की स्थापना की अपील की। यह दृष्टिकोण ओल्टमैन, अमोडेई जैसे उद्योग नेताओं के चेतावनीपूर्ण संकेतों को समर्थन देता है, जो AI शासन को नारे से कठोर इंजीनियरिंग और संस्थागत प्रतिबंधों की ओर ले जा रहा है।लेखक, स्रोत: AIBase
माइक्रोसॉफ्ट के सीईओ सत्या नडेला ने AI "अलाइनमेंट" समस्या के बारे में अपने विचार में खुला बदलाव किया है। नए एपिसोड के दौरान, 20VC पॉडकास्ट में, हैरी स्टीबंस ने उनसे पूछा कि पिछले वर्ष में उनके कौन से विचार बदले, तो नडेला ने स्वीकार किया कि वह पहले हमेशा सोचते थे कि जितना AI शक्तिशाली होगा, उतना ही आसानी से इसके व्यवहार को मानव मूल्यों और लक्ष्यों के साथ मेल खाने की समस्या हल हो जाएगी।
"नेचुरल सॉल्यूशन" से "अधिक कठिन"
लेकिन वास्तविकता ने अभी तक पटकथा के अनुसार काम नहीं किया है। नडेला ने स्वीकार किया कि मॉडल का आकार लगातार बढ़ रहा है और क्षमताएं लगातार बढ़ रही हैं—यह वास्तव में उनकी उम्मीद के अनुसार हुआ है; लेकिन "अलाइनमेंट"—यानी AI के व्यवहार को नियमों के अनुसार रखना—अभी तक समाधान नहीं हुआ है। उन्होंने कहा: "मैं पहले हमेशा सोचता था कि अलाइनमेंट की समस्या स्वतः हल हो जाएगी। मैं अब ऐसा नहीं सोचता। अलाइनमेंट एक अधिक कठिन और अलग प्रकृति की समस्या हो सकती है।"
संरेखण का मतलब है कि AI का व्यवहार इंसानों की बात मानता है या नहीं, और क्या यह मानवीय लक्ष्यों के अनुरूप है। जब मॉडल इतने बड़े हो जाते हैं कि उनके डिज़ाइनर भी उनके व्यवहार को पूरी तरह से पूर्वानुमान लगाने में असमर्थ होते हैं, तो क्षमता में वृद्धि और नियंत्रणीयता में वृद्धि अलग-अलग हो जाती है, जो नडेला के सामने एक नया वास्तविकता बन गई।
AI को "अंदरूनी शत्रु" की तरह रोकें
इस चेतावनी के पहले से ही संकेत थे। 10 अक्टूबर को, नडेला ने X प्लेटफॉर्म पर एआई जोखिमों की चेतावनी दी और बाहरी सुरक्षा नियंत्रणों को कसने का सुझाव दिया। उनका मुख्य सुझाव कठोर था: उद्यमों को एआई मॉडल को "आंतरिक सुरक्षा खतरा" मानना चाहिए और सुरक्षा के लिए पहले यह मान लेना चाहिए कि मॉडल पहले ही दुरुपयोग किया जा चुका है।
उसने पोस्ट में लिखा कि उन मॉडल्स के लिए, जिनका व्यवहार पूरी तरह से पूर्वानुमानित नहीं किया जा सकता, "विश्वसनीय, निर्धारित सिस्टम डिज़ाइन, मानवीय नियंत्रण और उत्कृष्ट संचालन प्रक्रियाएँ" की तीन परतों का उपयोग किया जाए; जहाँ मानक अपर्याप्त हों, वहाँ शीघ्र ही उद्योग के नियम बनाए जाएँ।
नादेला केवल एकमात्र नहीं है। ओपनएआई के ऑल्टमैन और एंथ्रोपिक के अमोदेई ने भी AI के संभावित खतरों के बारे में चेतावनी दी है; इस साल जुलाई में, 1000 से अधिक पेशेवरों ने एक खुला पत्र जारी किया, जिसमें AI की क्षमताओं की तेजी से बढ़ती गति को चेतावनी दी गई, जो मनुष्यों की इसे समझने या नियंत्रित करने की क्षमता को पीछे छोड़ सकती है। जब शीर्ष ट्रेडर्स सामूहिक रूप से "शक्तिशाली = सुरक्षित" पर विश्वास कम कर रहे हैं, तो AI शासन को नारे से अधिक कठोर इंजीनियरिंग और संस्थागत प्रणाली की ओर बढ़ना होगा।