Anthropic ने अग्रणी AI मॉडल के लिए एक नीति रूपरेखा जारी की है। कंपनी के अनुसार, वर्तमान पारदर्शिता नियम मॉडल क्षमताओं के विकास के साथ चल नहीं पा रहे हैं, और सरकार को उच्च जोखिम वाले प्रणालियों को सार्वजनिक बाजार में आने से पहले कार्रवाई करने के लिए अधिक स्पष्ट हस्तक्षेप का अधिकार प्राप्त होना चाहिए।
नियामक लक्ष्य कैलकुलेशन क्षमता और आय के आधार पर निर्धारित किए जाते हैं
इस योजना को दो भागों में विभाजित किया गया है, जिसमें एक भाग सबसे शक्तिशाली मॉडल की तकनीकी और नियामक आवश्यकताओं पर केंद्रित है, और दूसरा भाग स्वचालन के प्रभाव के तहत आर्थिक वितरण की समस्याओं पर चर्चा करता है। प्रकाशित सामग्री के अनुसार, पहला भाग स्पष्ट रूप से अधिक पूर्ण है।
एंथ्रोपिक ने पूरे उद्योग को शामिल करने के बजाय नियामक दायरे को कुछ शीर्ष विकासकों तक सीमित कर दिया है। कंपनी ने प्रस्तावित किया है कि 10²⁵ से अधिक फ्लोटिंग-पॉइंट ऑपरेशन्स के साथ प्रशिक्षित मॉडल्स को इस ढांचे में शामिल किया जाए; वर्षानुसार 5 अरब डॉलर से अधिक की AI संबंधित आय या 10 अरब डॉलर से अधिक के AI अनुसंधान व्यय वाले उद्यमों को भी संबंधित आवश्यकताएँ लागू हों।
इस डिज़ाइन का उद्देश्य संसाधनों और क्षमताओं के सबसे अधिक केंद्रित मॉडल पर ध्यान केंद्रित करना है, ताकि छोटे और मध्यम आकार के विकासकों और अनुसंधान संस्थानों को समान तीव्रता के नियमन में शामिल न किया जाए।
सरकार को उच्च जोखिम वाले लिस्टिंग को रोकने का अधिकार है
कंपनी का कहना है कि सबसे महत्वपूर्ण परिवर्तन यह है कि सरकार को उच्च जोखिम वाले मॉडल के लॉन्च को रोकने या रोकने का कानूनी अधिकार दिया जाए। वर्तमान में संयुक्त राज्य अमेरिका में ऐसी कोई पूर्ण प्रणाली नहीं है जो मॉडल को जनता के लिए लॉन्च करने से पहले वास्तविक रूप से रोक सके।
विस्तृत आवश्यकताओं के अनुसार, अग्रणी मॉडल विकासकों को प्रकाशित करने से पहले परीक्षण पूरा करना होगा और परीक्षण सारांश, सुरक्षा ढांचा और सिस्टम कार्ड प्रकाशित करना होगा, जिसमें मॉडल के व्यवहार और जोखिम नियंत्रण तरीकों का वर्णन हो। कंपनियों को नियमित रूप से जोखिम रिपोर्ट जमा करनी होगी, जिसमें समग्र जोखिम स्थिति और सुरक्षा कार्य की प्रगति का खुलासा हो।
Anthropic ने स्वतंत्र मूल्यांकन एजेंसियों को शामिल करने का भी सुझाव दिया है, जो कंपनियों द्वारा स्वयं किए गए परीक्षणों की समीक्षा करेंगी और मॉडल जोखिम के निष्कर्षों को अलग से प्रकाशित करेंगी। इससे नियामक और जनता को जानकारी प्राप्त करने का केवल कंपनी के दावों पर ही निर्भर रहना नहीं पड़ेगा।
दंड और सुरक्षा आवश्यकताएँ एक साथ बढ़ाई गई हैं
कानूनी डिजाइन के संदर्भ में, एंथ्रोपिक ने स्थिर जुर्माने के बजाय नागरिक दंड को कंपनी की वैश्विक वार्षिक आय से जोड़ने की सिफारिश की है। कंपनी का मानना है कि केवल इसी तरह, बड़े AI कंपनियों के लिए दंड वास्तविक रूप से प्रभावी होगा। दोहराए गए उल्लंघनकर्ताओं के लिए, जुर्माने की मात्रा को और बढ़ाया जाना चाहिए।
परीक्षण और उद्घाटन के अलावा, योजना उद्यमों से मॉडल वेट्स और प्रशिक्षण प्रणालियों की सुरक्षा के लिए अधिक मजबूत सुरक्षा प्रणाली स्थापित करने का आह्वान करती है, ताकि बाहरी हमलों और आंतरिक दुरुपयोग से बचा जा सके। उद्यम अपनी सुरक्षा योजना की सामान्य संरचना को सार्वजनिक रूप से स्पष्ट कर सकते हैं, जबकि अधिक विस्तृत जानकारी केवल सरकारी एजेंसियों के अनुरोध पर प्रदान की जाएगी।
एंथ्रोपिक ने यह भी प्रस्तावित किया कि सरकार और उद्योग को स्वतंत्र मूल्यांकनकर्ताओं के मानक तैयार करने चाहिए और सुनिश्चित करना चाहिए कि इन मूल्यांकनकर्ताओं को पर्याप्त वित्तपोषण और आवश्यक पहुंच प्राप्त हो। चूंकि अग्रणी मॉडल अक्सर कंपनियों के सबसे संवेदनशील संपत्ति होते हैं, इसलिए कौन मूल्यांकन करेगा और पहुंच कैसे प्राप्त की जाएगी, इसका कार्यान्वयन में एक प्रमुख कठिनाई होगी।
चार प्रमुख जोखिमों का उल्लेख करें
एंथ्रोपिक ने फाइल में चार प्रमुख जोखिमों की सूची बनाई है: जैविक जोखिम, साइबर सुरक्षा जोखिम, नियंत्रण खोने का जोखिम और AI के अपने अनुसंधान को स्वयं त्वरित करने का जोखिम। कंपनी का मानना है कि ये जोखिम एक-दूसरे से स्वतंत्र नहीं हैं और एक-दूसरे को बढ़ा सकते हैं।
उदाहरण के लिए, बड़े पैमाने पर सॉफ्टवेयर दोषों की खोज करने की क्षमता वाले मॉडल, अस्पतालों, ऊर्जा नेटवर्क आदि महत्वपूर्ण अवसंरचनाओं पर सीधा प्रभाव डाल सकते हैं; और अपर्याप्त प्रतिबंधों के साथ, ऐसी क्षमताएं जैविक जोखिम के साथ जुड़ सकती हैं।
सहायक उपायों के रूप में, एंथ्रोपिक ने इंटरनेट और महत्वपूर्ण अवसंरचना की सुरक्षा को मजबूत करने, महत्वपूर्ण सेवाओं को पुरानी प्रणालियों से बदलने को बढ़ावा देने और अग्रणी AI की साइबर क्षमताओं में होने वाले परिवर्तनों का निरंतर अनुसरण करने के लिए एक विशेष सरकारी कार्यालय स्थापित करने की सिफारिश की है। अनियंत्रित और स्वचालित अनुसंधान जोखिमों के संबंध में, कंपनी मानती है कि संबंधित शासन उपकरण अभी अपरिपक्व हैं, और असुरक्षित प्रणालियों की पहचान, अलग करने और बंद करने की क्षमता को अभी भी पूरा किया जाना है।
अतिरिक्त जानकारी: एंथ्रोपिक ने दस्तावेज़ में बताया कि मौजूदा कैलिफोर्निया और न्यूयॉर्क जैसे स्थानों के पारदर्शिता नियमों का कुछ प्रभाव है, लेकिन केवल पारदर्शिता के लिए खुलासा करने से अग्रणी मॉडल के तेज़ अपडेट से उत्पन्न जोखिमों को कवर नहीं किया जा सकता।