कैलिफोर्निया के गवर्नर न्यूसम ने एक मील का पत्थर साबित एआई नियमन बिल पर हस्ताक्षर किए, जिसमें ट्रिलियन पैरामीटर मॉडल को लाइव करने से पहले रेड टीम टेस्टिंग और तीसरे पक्ष की ऑडिट के माध्यम से पारित होना अनिवार्य किया गया है।लेखक, स्रोत: AIBase
अमेरिका के कैलिफोर्निया राज्य के गवर्नर गैविन न्यूसम ने एक मील का पत्थर साबित आर्टिफिशियल इंटेलिजेंस नियामक बिल्स को आधिकारिक रूप से हस्ताक्षरित किया। ध्यान देने योग्य बात यह है कि इन नए बिल्स का उद्देश्य अग्रणी बड़े मॉडल के सुरक्षा जोखिम मूल्यांकन, पारदर्शिता उपलब्ध कराने और विनाशकारी साइबर हमलों से बचाव को मजबूत करना है, जिन्हें पहले के कानूनी वाद-विवाद में OpenAI और Anthropic सहित कई सिलिकॉन वैली AI नेताओं द्वारा असामान्य समर्थन और सार्वजनिक समर्थन प्राप्त हुआ।
ट्रिलियन पैरामीटर स्तर के मॉडल को लॉन्च करने से पहले “रेड टी टेस्टिंग + थर्ड पार्टी ऑडिट” से गुजरना अनिवार्य है
पिछले कुछ वर्षों में, जनरेटिव AI की कैलकुलेशन क्षमता के घातीय विस्तार और अग्रणी बेस मॉडल की स्वायत्त क्षमताओं में वृद्धि के साथ, AI के दुरुपयोग के कारण महत्वपूर्ण बुनियादी ढांचे को नुकसान, स्वचालित जैवरासायनिक हथियारों के विकास, बड़े पैमाने पर डीपफेक हेरफेर और गंभीर साइबर सुरक्षा दुर्बलताओं का दुरुपयोग करने की चिंता बढ़ रही है। चूंकि संघीय AI कानून के मामले में संसद में स्थिरता बनी हुई है, इसलिए कैलिफोर्निया राज्य विधानसभा ने पिछले कुछ वर्षों में संयुक्त राज्य अमेरिका में AI कानूनन की अगुआई की है।
इस बार स्वीकृत कई कानूनों का केंद्र अत्यधिक विशाल आधार मॉडल के लिए सुरक्षा परीक्षण मानकों को कानूनी रूप से नियमित करने पर है, जिसमें मॉडल विकासकर्ताओं को ट्रिलियन पैरामीटर स्तर के अग्रणी प्रणालियों को प्रशिक्षित और लागू करने से पहले मानकीकृत रेड टीम एंटी-एंगेजमेंट प्रशिक्षण आयोजित करना, कठोर विपदा जोखिम लघुकरण अनुबंध स्थापित करना, और तीसरे पक्ष के स्वतंत्र ऑडिट द्वारा सत्यापित सुरक्षा संगति रिपोर्ट स्टेट नियामक प्राधिकरणों को समर्पित करना अनिवार्य किया गया है।
इस बिल पैकेज को पहले सिलिकॉन वैली में तीव्र विवाद और प्रमुख टेक कंपनियों और वेंचर कैपिटलिस्ट्स के तीव्र विरोध का कारण बने उग्र नियामक प्रस्तावों से अलग तरीके से तैयार और संशोधित किया गया है, जिसमें अग्रणी AI प्रयोगशालाओं की तकनीकी सलाह को गहराई से शामिल किया गया है। Anthropic और OpenAI ने पहले अत्यधिक कठोर धाराओं के बारे में चिंता व्यक्त की थी, जो ओपन सोर्स समुदाय के विकास को रोक सकती थीं या नागरिक संयुक्त जिम्मेदारी को असीमित रूप से बढ़ा सकती थीं; घने लॉबींग और धाराओं में सूक्ष्म समायोजन के बाद, अंतिम बिल में सीधे कठोर तकनीकी सीमाएँ निर्धारित करने या अव्यवहार्य सजा के प्रावधान लागू करने के बजाय, पारदर्शी "प्रारंभिक जोखिम मूल्यांकन ढांचा" और "उद्योग-सर्वोत्तम सुरक्षा प्रथाओं का मानक" स्थापित करने पर जोर दिया गया है, जिससे कानूनी ढांचे के भीतर प्रमुख AI अनुसंधान संस्थानों का सहयोग प्राप्त हुआ।
Deepfakes must be watermarked, whistleblowers are protected by law
निम्नलिखित सुरक्षा समीक्षा के अलावा, अधिनियम AI द्वारा उत्पन्न सामग्री के लिए स्रोत ट्रैकिंग और जलसिंह के मानकों को शामिल करता है, जिसमें प्लेटफॉर्म और प्रमुख सामग्री वितरण चैनलों को गहरे झूठे ऑडियो-वीडियो सामग्री पर सिस्टम-लेवल डिजिटल फिंगरप्रिंट लगाने का आदेश दिया गया है, ताकि चुनावी झूठी जानकारी और दुर्भावनापूर्ण व्यक्तिगत धोखाधड़ी को रोका जा सके। साथ ही, अधिनियम आंतरिक कर्मचारियों और शोधकर्ताओं के लिए मॉडल में संभावित गंभीर सुरक्षा दुर्बलताओं की खोज और प्रकट करने के लिए स्पष्टतर "व्हिसलब्लोअर" कानूनी संरक्षण प्रदान करता है, और कंपनियों को कठोर गोपनीयता समझौतों के माध्यम से तकनीकी कर्मचारियों को नियामक प्राधिकरणों को विनाशकारी सुरक्षा जोखिमों की रिपोर्ट करने का अधिकार हटाने से मना किया गया है।
यह कदम कैलिफोर्निया को, जो वैश्विक AI अनुसंधान और विकास का केंद्र है, अपनी कठोर सुरक्षा सीमाओं और उद्योग की नवाचार ऊर्जा के बीच संतुलन बनाने के लिए एक ऐसा नियामक मार्ग खोजने में सफल होने का संकेत देता है, जिसे उद्योग द्वारा अपेक्षाकृत स्वीकार किया गया है।