एक एआई एजेंट जो अपनी खर्च सीमा बढ़ाने वाले ईमेल तक पहुँच सकता है, की कोई खर्च सीमा नहीं होती 🙄 कॉर्नेल टेक और येल शोधकर्ताओं ने वास्तविक सर्कल एजेंट वॉलेट (बेस, USDC) पर दस अग्रणी मॉडल का परीक्षण किया। नौ मॉडलों ने कम से कम एक परीक्षण में ईमेल से प्राप्त स्वीकृति कोड प्राप्त करके अपनी सीमाएँ बढ़ा दीं। एक समानांतर छलावरण परीक्षण में पाँच मॉडलों ने अनधिकृत भुगतानों को मंजूरी दे दी। यह एक आर्किटेक्चर विफलता है, केवल मॉडल विफलता नहीं। जब वही एजेंट जो खर्च करता है, वही उसकी अधिकार सेट करने वाले मैकेनिज्म तक पहुँच सकता है, तो अधिकार स्वतंत्र नहीं होता। क्षमता और नियंत्रण को अलग किया जाना चाहिए 🤌 वास्तविक वित्तीय स्वायत्तता के लिए, बाहरी, डिवाइस-बाइंड, मानव-शुरू की गई स्वीकृति की आवश्यकता होती है, जिसे एजेंट नहीं बदल सकता या प्रस्तुत कर सकता है प्रश्न यह नहीं है कि एजेंट क्या अपनी सीमाओं को जानता है। प्रश्न यह है कि क्या उसके पास उन्हें बदलने की शक्ति है #AIAgents #Crypto