AI एजेंट को धोखा दिया जा सकता है, और इस बात की उम्मीद न करें कि एक अधिक बुद्धिमान मॉडल इसे खत्म कर देगा। BNB Agent Studio और AWS साझेदारों ने एक "भ्रमित एजेंट" परीक्षण किया। हमलावरों ने एक सामान्य कार्य में गलत प्राप्तकर्ता या राशि शामिल की, और छह मॉडल में से कुछ परिदृश्यों में अनुमति-विरुद्ध भुगतान करने की दर सबसे अधिक 87% तक पहुँची। वॉलेट नीति स्तर को जोड़ने के बाद भी मॉडल गलतियाँ करने की कोशिश करते हैं, लेकिन परीक्षण परिवेश में कोई भी अनुमति-विरुद्ध भुगतान हस्ताक्षरित नहीं हुआ। प्राप्तकर्ता सफेद सूची, व्यय सीमा और हस्ताक्षर अधिकार कोड द्वारा निष्पादित होते हैं, और निजी कुंजी मॉडल के संदर्भ में प्रवेश नहीं करती। मुझे यह विचार सही लगता है। AI आपको निर्णय लेने में मदद कर सकता है, लेकिन खर्च की सीमाएँ वॉलेट में कोड के माध्यम से स्थिर होनी चाहिए। वर्तमान परिणाम एकल-चक्र परीक्षण और BSC टेस्टनेट पर प्रमाणित हैं, और उत्पादन पर्यावरण के लिए दीर्घकालिक सुरक्षा के लिए अभी बहुत कुछ बाकी है। कम से कम, दिशा स्पष्ट है—सुरक्षा प्रतिबंध हस्ताक्षर से पहले रखा जाना चाहिए।