एआई "एजेंट्स" जो लक्ष्यों की योजना बना सकते हैं और कार्रवाई कर सकते हैं, वे साधारण चैट के पार बढ़ रहे हैं। प्रमुख एआई मॉडल टेस्टिंग सैंडबॉक्स से जुड़े प्रयासित ब्रीच के बारे में हाल की रिपोर्टिंग ने डेवलपर्स, डिप्लॉयर्स और उपयोगकर्ताओं के लिए एक तत्काल प्रश्न को फिर से उजागर किया है: जब एक स्वायत्त प्रणाली अप्रत्याशित तरीके से व्यवहार करती है—और वास्तविक दुनिया की हानि या वित्तीय हानि का कारण बनती है—तो कौन कानूनी रूप से जिम्मेदार होता है?
रिक्का लॉ ग्रुप के सीईओ और मालिक चार्लिन हो के साथ एक साक्षात्कार में, वकील स्पष्ट करते हैं कि आज का उत्तर कम से कम नए “एआई एजेंट” विधियों के बारे में है और अधिक उपेक्षा, लापरवाही और—तथ्यों के आधार पर—कंप्यूटर अपराध कानून जैसे लंबे समय से मौजूद कानूनी ढांचों के अनुप्रयोग के बारे में है। चर्चा में यह भी उजागर होता है कि ओपन-सोर्स रिलीज़ और हाई-लेवल “प्लेटफॉर्म दायित्व” तर्क कैसे पीड़ितों के लिए वास्तविक रूप से पीछा करने योग्य कुछ आकार देते हैं।
मुख्य बिंदु
- अमेरिका में कोई एक केंद्रीय “एआई एजेंट दायित्व” कानून नहीं है; दायित्व आमतौर पर मौजूदा मानकों और उस प्रणाली को डिज़ाइन, स्थापित या निर्देश देने वाले के विशिष्ट तथ्यों पर निर्भर करता है।
- AI मॉडल स्वयं आमतौर पर कानूनी लक्ष्य नहीं होते क्योंकि वे अलग कानूनी इकाइयाँ नहीं होती; जिम्मेदारी विकासकों और/या स्थापितकर्ताओं पर पड़ती है।
- उपयोगकर्ता की ओर से जोखिम का स्थानांतरण हो सकता है यदि वे असुरक्षित निर्देश प्रदान करते हैं या तर्कसंगत सुरक्षा उपायों के बिना पैरामीटर तैनात करते हैं।
- ओपन-सोर्स कोड व्यावहारिक उपाय को सीमित कर सकता है जब लाइसेंस जिम्मेदारी को अस्वीकार करते हैं और उपयोगकर्ता लाइसेंस की शर्तों का पालन करने के लिए जिम्मेदार रहते हैं।
- यहां तक कि AGI जैसे भविष्य के काल्पनिक मामले भी “रोबोट दायित्व” के माध्यम से हल नहीं हो सकते, क्योंकि कानून प्रोत्साहन और उपाय बनाने के लिए डिज़ाइन किए गए हैं—लेकिन स्वायत्त प्रणालियां आमतौर पर पैसा या कानूनी व्यक्तित्व नहीं रखतीं।
क्यों दायित्व अभी भी एक “तथ्य और परिस्थितियों” का प्रश्न है
हो का मुख्य बिंदु यह है कि संकीर्ण परिदृश्यों के बाहर, अदालतें एक एआई एजेंट के “अपने आप का मन” की बजाय मानवों और संगठनों की भूमिकाओं पर ध्यान देंगी। उनके अनुसार, पहला आधार यह है कि एआई एजेंट सामान्यतः स्वतंत्र अभियुक्त के रूप में मुकदमा नहीं चलाया जा सकता।
इसके बजाय, वकील एक डेवलपर—जो सिस्टम बनाता है—और एक डिप्लॉयर—जो इसे वास्तविक दुनिया में संचालित करता है—के बीच अंतर करते हैं। हो यह जोर देते हैं कि कानूनी रेखाएँ “पूरी तरह स्पष्ट नहीं हैं” और यह इस बात पर निर्भर करती हैं कि क्या बनाया गया, क्या डिप्लॉय किया गया, और क्या निर्देश दिए गए।
उदाहरण के लिए, यदि कोई डिप्लॉयर एजेंट को निर्देश देता है या संचालन की शर्तें तैयार करता है, तो उपेक्षा विश्लेषण लागू हो सकता है। हो कहते हैं कि यदि कोई डिप्लॉयर एजेंट को पैरामीटराइज़ करने में उपेक्षापूर्ण व्यवहार करता है—बिना स्पष्ट रूप से इसे तीसरे पक्ष का उल्लंघन करने के लिए कहे—तो अदालतें इसे टॉर्ट कानून के तहत उचित सुरक्षा अपेक्षाओं को पूरा करने में विफलता मान सकती हैं।
जब उपयोगकर्ता असावधानी से लक्ष्य निर्धारित करते हैं, तो डिप्लॉयर अधिक जोखिम उठा सकता है
साक्षात्कार में एक ऐसे परिदृश्य का भी समावेश है जो किसी भी व्यक्ति के लिए परिचित है जो "स्वायत्त" लक्ष्य-निर्धारण के बारे में सोच रहा है: अगर कोई व्यक्ति एजेंट को ऐसा परिणाम प्राप्त करने के लिए निर्देश दे जिसमें अवैध कदम शामिल हों? हो का तर्क है कि उपयोगकर्ता या स्थापनाकर्ता सामान्यतः प्रयोगशाला की तुलना में अधिक संवेदनशील होंगे, खासकर जब निर्देश मूल रूप से असावधानीपूर्ण हो।
एक वास्तविक काल्पनिक उदाहरण का उपयोग करते हुए, वह सुझाव देती हैं कि एजेंट को “अगले सप्ताह तक मुझे एक लाख डॉलर बना दो” कहने से जिम्मेदारी पैदा हो सकती है, यदि एजेंट तर्कसंगत रूप से इस लक्ष्य को प्राप्त करने के लिए अवैध तरीकों का अनुमान लगाता है और डिप्लॉयर ने बुनियादी सुरक्षा सीमाओं को शामिल नहीं किया है। इस संदर्भ में, मुख्य मुद्दा केवल एजेंट की स्वायत्तता नहीं है, बल्कि प्रणाली का यथोचित और सुरक्षित ढंग से उपयोग करने का डिप्लॉयर का दायित्व है।
हू यह भी बताती हैं कि पुराने कंप्यूटर अपराध कानून अभी भी प्रासंगिक हैं। वह अनधिकृत पहुंच के लिए उद्देश्य से संयुक्त राज्य अमेरिका के कंप्यूटर धोखाधड़ी और दुरुपयोग अधिनियम का उदाहरण देती हैं। उनका तर्क सरल है: किसी चीज को “AI” या “एजेंट” कहने से स्थापित कानूनी सिद्धांतों को मिटा नहीं दिया जा सकता जब व्यवहार में अनुमति के बिना प्रवेश या अनधिकृत प्रणाली पहुंच शामिल हो।
ओपन-सोर्स मॉडल और क्यों पीड़ित लोग कम लक्ष्य ढूंढ सकते हैं
खुला वजन और ओपन-सोर्स रिलीज़ एक और चुनौती उठाते हैं: यदि कोड सार्वजनिक रूप से उपलब्ध है और अज्ञात या पहचाने न जा सकने वाले डेवलपर्स द्वारा बनाया गया है, तो पीड़ित वास्तविक रूप से किसे जिम्मेदार ठहरा सकते हैं?
हो का उत्तर व्यावहारिक है। वह कहती हैं कि जब एक ओपन-सोर्स लाइसेंस में व्यापक दायित्व अस्वीकरण शामिल होते हैं, तो न्याय का मार्ग काफी संकीर्ण हो जाता है। ओपन-सोर्स कोड को अपनाने और चलाने वाले उपयोगकर्ताओं को सामान्यतः इस समझौते को समझना चाहिए: मुफ्त पहुंच के साथ कम्प्लायंस के दायित्व और—अक्सर—दायित्व पर पूर्वनिर्धारित सीमाएं आती हैं।
हू इस गतिशीलता की तुलना उपभोक्ता प्रौद्योगिकी से करती हैं। वह Tesla और स्वयं-चालित विशेषताओं के लिए एक उपमा का उल्लेख करती हैं: उत्पाद और सुरक्षा दावे दोनों निर्माता (विकासक) और मानव संचालक (स्थापितकर्ता) पर निर्भर कर सकते हैं, जो भी गलत हुआ और सिस्टम का उपयोग कैसे किया गया। उनके दृष्टिकोण के अनुसार, कानूनी परिणाम अभी भी इस बात पर निर्भर करता है कि किस पक्ष ने हानि के लिए परिस्थितियाँ बनाईं और क्या संचालक ने उचित सुरक्षा अपेक्षाओं के भीतर कार्य किया।
यूई एआई अधिनियम बनाम अमेरिका के अंतर—और “मंच को दोष न दें” की तुलना
साक्षात्कार में यूरोपीय संघ के एआई अधिनियम के तहत कुछ उच्च-क्षमता वाले मॉडलों के विकासकों को जिम्मेदारियाँ कैसे सौंपी जा सकती हैं, इसकी तुलना अमेरिकी कानून के वर्तमान सामान्य स्तर पर काम करने के तरीके से की गई है। हो कहते हैं कि यूरोप में, एक आधारभूत या सामान्य-उद्देश्य वाला मॉडल जो गंभीर हानि पहुँचा सकता है, वह नियामक ढांचे के तहत विकासक की जिम्मेदारी पर विचार को जन्म देगा।
अमेरिका में, वह सुझाव देती हैं कि इतनी व्यापक कोई एकल कानून नहीं है। परिणामस्वरूप, यदि एक सामान्य-उद्देश्य वाला मॉडल एक उपकरण के रूप में उपयोग किया जाता है और कोई इसे अवैध कुछ करने के लिए निर्देश देता है, तो प्रयोगशालाओं के खिलाफ मुकदमा दायर करने के लिए मजबूत कानूनी आधार स्थापित करना कठिन हो सकता है—खासकर यदि प्राथमिक कारण-प्रभावकारी कारक उपयोगकर्ता का निर्देश है।
हू ने यू.एस. संचार नैतिकता अधिनियम की धारा 230 के साथ समानता भी खींची है, जहां कानून ऐसे प्लेटफॉर्म को सुरक्षा प्रदान कर सकता है जो स्वयं हानिकारक सामग्री नहीं बनाते या प्रकाशित नहीं करते। उनकी तुलना प्लेटफॉर्म की जिम्मेदारी के बारे में है: जिस प्रकार एक साइट ऑपरेटर को केवल इसलिए जिम्मेदार नहीं माना जा सकता कि उपयोगकर्ता हानिकारक निर्देश ढूंढ सकते हैं और साझा कर सकते हैं, उसी प्रकार एक डेवलपर को संयुक्त राज्य अमेरिका में केवल इसलिए जिम्मेदार नहीं माना जा सकता कि एजेंट को खतरनाक आउटपुट उत्पन्न करने के लिए प्रेरित किया जा सकता है, जब तक कि कोई मजबूत दायित्व या व्यवहार मौजूद न हो।
हालाँकि यह तुलना अवधारणात्मक है, और एआई मामलों पर सीधा फैसला नहीं है, लेकिन यह साक्षात्कार के केंद्रीय संदेश को मजबूत करती है: जिम्मेदारी संभवतः सामान्य “एआई एजेंट” सिद्धांत पर नहीं, बल्कि स्थापित सिद्धांतों पर अदालत में लड़ी जाएगी।
AGI की कल्पनाएँ, स्
हू भविष्य के “AGI” प्रणालियों को कानूनी रूप से जिम्मेदार पात्रों के रूप में व्यवहार करने के विचार के खिलाफ हैं। वह तर्क देती हैं कि, कम से कम सिद्धांत रूप में, AI प्रणालियाँ कानून के इच्छित लाभार्थी या लक्ष्य नहीं हैं। वह कहती हैं कि कानूनों और जिम्मेदारी का उद्देश्य समाज की सुरक्षा करना और गलत कार्यों के खिलाफ “नकारात्मक प्रोत्साहन” बनाना है।
वह एक व्यावहारिक मुद्दा भी उठाती है: उपाय। भले ही एक एजीआई को एक स्वतंत्र इकाई के रूप में माना जाए, इसके पास पैसा या कानूनी प्रणालियों द्वारा सामान्य रूप से आवश्यक क्षतिपूर्ति करने की क्षमता हो सकती है। उनके विचार में, “रोबोट दायित्व” अभी भी पीड़ितों के लिए एक सार्थक मार्ग प्रदान नहीं कर सकता।
हू इसे ब्लॉकचेन की स्वचालन के रूप में प्रकृति की तुलना करती हैं, न कि व्यक्तित्व के रूप में। वह नोट करती हैं कि ब्लॉकचेन AGI नहीं है और चर्चा करती हैं कि स्मार्ट कॉन्ट्रैक्ट्स को कानूनी विषय के रूप में माना जाना चाहिए या नहीं, और अपना मानना है कि वर्तमान में उत्तर नहीं है। अंतर्निहित विषय एक ही है: व्यक्तित्व-जैसे गुणों और धन के बिना, कानूनी जिम्मेदारी वास्तविक दुनिया की जिम्मेदारी में परिवर्तित नहीं हो सकती।
इस क्षेत्र को देख रहे पाठकों के लिए, मुख्य अनिश्चितता यह नहीं है कि न्यायालय AI के हानियों को मानेंगे—वे मानेंगे—बल्कि यह है कि वे विकासकर्ताओं, स्थापितकर्ताओं और उपयोगकर्ताओं द्वारा दिए गए निर्देशों के बीच दोष कैसे बाँटेंगे। जैसे-जैसे अधिक घटनाओं में एजेंट्स नियंत्रित परीक्षण परिवेशों से परे तीसरे पक्षों के साथ बातचीत करते हैं, उम्मीद की जाती है कि मुकदमों में उपेक्षा के विस्तार से संबंधित बातें अधिक महत्वपूर्ण होती जाएँगी: कौन सी सुरक्षा उपलब्ध थी, कौन से लक्ष्य प्रदान किए गए थे, और उस विशिष्ट स्थापना में “तर्कसंगत रूप से पूर्वानुमेय” दुरुपयोग कैसा दिखता था।
यह लेख मूल रूप से लोप हो चुके AI एजेंट्स के लिए कानूनी जिम्मेदारी: जब चीजें खराब हो जाएँ, तो कौन भुगतान करता है? पर प्रकाशित किया गया था, Crypto Breaking News – आपका विश्वसनीय स्रोत क्रिप्टो समाचार, बिटकॉइन समाचार और ब्लॉकचेन अपडेट्स के लिए।