यूएस वाणिज्य विभाग एआई सुरक्षा चिंताओं के बीच फेबल 5 के एक्सेस को रोकता है

Beating मॉनिटरिंग के अनुसार, अमेरिकी सरकार द्वारा Anthropic के Fable 5 और Mythos 5 के एक्सेस अधिकारों को तत्काल रोकने का फैसला, वास्तव में कई सप्ताहों के पीछे के गतिविधियों का विस्फोट है। सूत्रों के अनुसार, 9 जून को मॉडल के आधिकारिक लॉन्च से पहले ही, व्यापार मंत्री हावर्ड लुटनिक के नेतृत्व में अमेरिकी व्यापार विभाग ने मॉडल की अत्यधिक शक्तिशाली साइबर सुरक्षा तर्क क्षमता के बारे में चिंता व्यक्त की थी और Anthropic को मॉडल लॉन्च करने से रोकने के लिए गुप्त रूप से हस्तक्षेप करने की कोशिश की थी, लेकिन वह सफल नहीं हुई। संभावित सुरक्षा जोखिमों के प्रति प्रतिक्रिया में, Anthropic ने एक समझौता समाधान अपनाया: केवल अत्यधिक सख्त फिल्टर के साथ Fable 5 का व्यावसायिक संस्करण सार्वजनिक रूप से प्रकाशित किया, जबकि सुरक्षा फिल्टर हटाए गए 'नंगे मॉडल' Mythos 5 को 'प्रोजेक्ट ग्लासविंग' के कठोर नियंत्रण में सीमित रखा, जहाँ केवल पृष्ठभूमि सत्यापन से गुजरने वाले कुछ ही रेड-टीम संगठनों और रक्षा विभागों को ही पहुँच प्रदान की गई। हालाँकि, मॉडल के प्रकाशन के मात्र तीन दिनों के बाद, तीसरे पक्ष के संस्थानों ने दावा किया कि उन्होंने नियंत्रित Mythos 5 को 'जेलब्रेक' कर दिया है और इसकी सूचना दी है। इसके साथ ही, लुटनिक और व्यापार विभाग के हस्तक्षेप का परफेक्ट मौका पैदा हो गया। व्यापार विभाग ने Anthropic को सुबह-सुबह प्राधिकरणपूर्ण पत्र भेजा, साथ ही, प्रस्तुति-नियंत्रण के माध्यम से, पहली बार मॉडल के व्यावसायिक पहुँच को सीधे हिम्मत से स्थगित कर दिया। उद्योग में सामान्यतः माना जा रहा है कि, प्रशासन का मॉडल पर सीधे 'एक्सपोर्ट कंट्रोल' हथियार का प्रयोग, सख्ती से प्रतिबंधित AI-आधारित प्रणालियों पर हस्तक्षेप करने का सुपर-खतरनाक पहला मामला है, और संकेत देता है कि संयुक्त राज्य सरकार AI सुरक्षा नियमन में, समझौता-मुक्त, प्रभुत्ववादी हस्तक्षेप में परिवर्तन होने की ओर प्रगति कर रही है।