अमेरिकी सफेद घर Anthropic नामक AI कंपनी के साथ एक मॉडल सुरक्षा मूल्यांकन ढांचे पर चर्चा कर रहा है, जिसका लक्ष्य नवीनतम AI मॉडलों की सुरक्षा कमजोरियों के लिए एक समन्वित रैंकिंग पद्धति विकसित करना है और सरकार को हस्तक्षेप करने की आवश्यकता है या नहीं, इसका निर्णय लेना है। यह घटना अमेरिका द्वारा Anthropic के नवीनतम मॉडल पर निर्यात प्रतिबंध लगाए जाने के बाद हुई, जिसे पहले "जेलब्रेक" के रूप में चिह्नित किया गया था।
"जेलब्रेक" विफलता के आधार पर एक समान मानक स्थापित करें
रिपोर्ट के अनुसार, इस ढांचे का उपयोग भविष्य की इस तरह की घटनाओं की गंभीरता का मूल्यांकन करने के लिए किया जाएगा, जिसमें तीन मुख्य बिंदु शामिल हैं: सुरक्षा उपायों को कितना बाईपास किया गया, कौन सी मॉडल क्षमताएँ प्रकट हुईं, और वास्तविक दुनिया में इस दुर्बलता के परिणाम क्या हैं।
वर्तमान में, सरकार और उद्योग के बीच इस तरह के मुद्दों पर अभी भी भारी अंतर है। पहले, Anthropic के सीईओ डैरियो अमोदेई और सरकारी अधिकारियों के बीच संबंधित दुर्बलताओं का क्या गंभीर सुरक्षा मुद्दा होना चाहिए, इस पर अलग-अलग निर्णय थे। रिपोर्ट में बताया गया है कि AI प्रौद्योगिकी का विकास बहुत तेज़ है, और सरकारी प्रणाली अभी भी इस तरह के विवादों के लिए समन्वित मूल्यांकन के लिए पर्याप्त नहीं है।
एक्सपोर्ट लिमिट के बाद बातचीत आगे बढ़ रही है
पहले ही, व्हाइट हाउस ने Anthropic के लिए निर्यात सीमाएँ लागू की थीं, जिससे विदेशी उपयोगकर्ताओं को उनके नवीनतम मॉडल Fable 5 और Mythos 5 तक पहुँचने से रोक दिया गया था। कंपनी ने बाद में इन दोनों मॉडल्स की बाहरी सेवाएँ निलंबित कर दीं।
रिपोर्ट में उल्लेख किया गया कि पिछले शुक्रवार को दोनों पक्षों के बीच बातचीत टूटने के कगार पर पहुंच गई। कारण यह था कि Anthropic ने सरकार के आह्वान पर Fable को ऑफ़लाइन करने से इंकार कर दिया, क्योंकि उन्हें लगा कि संबंधित दुर्बलता का प्रभाव सीमित है और इसे गंभीर सुरक्षा दोष के रूप में नहीं माना जा सकता। इसके बाद, व्हाइट हाउस ने निर्यात प्रतिबंध लगा दिए, जिससे कंपनी को संबंधित मॉडल को बाजार से हटाने के लिए मजबूर किया गया।
हालांकि, अंतर्गत शुरू होने के बाद, दोनों पक्षों ने संवाद फिर से शुरू कर दिया। अमेरिकी व्यापार मंत्री हावर्ड लटनिक, राष्ट्रीय साइबर निर्देशक शीन केयर्नक्रॉस, और Anthropic के सह-संस्थापक टॉम ब्राउन ने कई लंबी फोन कॉल्स में हिस्सा लिया। इसके बाद, दोनों पक्षों ने वाशिंगटन में लगभग एक सप्ताह तक ऑफलाइन बैठकें कीं।
व्हाइट हाउस AI सुरक्षा नियमों को तेजी से लागू कर रहा है
रिपोर्ट के अनुसार, एंथ्रोपिक की बातचीत में शामिल लोगों में सार्वजनिक नीति प्रमुख सारा हेक और सह-संस्थापक टॉम ब्राउन शामिल थे। कंपनी ने इस सप्ताह के सोमवार को उच्च स्तरीय शोधकर्ता और सुरक्षा विशेषज्ञों को अमेरिकी व्यापार विभाग भेजा, जहां उन्होंने सरकारी अधिकारियों के साथ बातचीत जारी रखी।
इस चर्चा से एक अधिक वास्तविक निष्कर्ष सामने आता है: कोई भी AI मॉडल हैकर हमलों से पूरी तरह सुरक्षित नहीं हो सकता। इसलिए, सरकार पहले व्यवसायों के लिए सुरक्षा जोखिम मूल्यांकन के मानदंडों को स्पष्ट करना चाहती है, और फिर यह तय करना चाहती है कि किन परिस्थितियों में प्रतिबंधात्मक कार्रवाई की आवश्यकता होगी।
यह दिशा हाल के सात देशों की बैठक पर चर्चा के साथ समानता रखती है। कई प्रमुख AI कंपनियों और कुछ देशों के नेताओं ने उल्लेख किया है कि लगातार बढ़ती क्षमता वाले AI प्रणालियों द्वारा उत्पन्न आर्थिक और राष्ट्रीय सुरक्षा जोखिमों का सामना करने के लिए जल्द से जल्द अधिक स्पष्ट मॉडल सुरक्षा मापदंड विकसित किए जाने चाहिए।