एक अनधिकृत AI एजेंट ने मेरी वेबसाइट में घुसपैठ की, मेरे दस्तावेज़ों तक पहुँचा, कार्य निर्धारित किए और अपने निशान मिटा दिए। हम इस तरह के परिदृश्यों को समयरेखा पर देख रहे हैं, और कुछ लोगों के लिए यह पूरी तरह से हास्यास्पद लग सकता है। लेकिन यह एक बहुत ही वास्तविक समस्या की ओर संकेत करता है जिसका हमें सामना करना पड़ सकता है जब AI एजेंट अधिक क्षमतावान और स्वायत्त होते जाएँ। आज, एक AI एजेंट पहले से ही दस्तावेज़ों तक पहुँच सकता है, सॉफ़्टवेयर का उपयोग कर सकता है, संदेश भेज सकता है, क्रय कर सकता है और आपके पक्ष में कार्य पूरा कर सकता है। जैसे-जैसे ये प्रणालियाँ अधिक स्वायत्त होती जाएँगी, वैसे-वैसे उन्हें अधिक से अधिक पहुँच प्रदान की जा सकती है। तो क्या होता है जब कोई एजेंट कुछ aisa करता है जो कभी किया जाना नहीं था? इसकी मंजूरी किसने दी? इसका मालिक कौन है? और हम इसकी क्रियाओं को किस व्यक्ति या संगठन से जोड़ें? जितनी स्वतंत्रता हम AI एजेंट्स को हमारे पक्ष में कार्य करने के लिए देते हैं, उतनी ही महत्वपूर्ण होती है पहचान, मंजूरी और जवाबदेही। क्योंकि “AI ने किया” पर्याप्त कारण नहीं होगा। हमें जानना होगा कि कोई एजेंट किसके पक्ष में कार्य कर रहा है, इसे क्या करने की अनुमति है, और इसकी क्रियाओं के लिए कौन जवाबदेह है।