يمكن خداع وكلاء الذكاء الاصطناعي، ولا تتوقع أن يختفي هذا الخطر فقط بتغيير نموذج أكثر ذكاءً. أجرى شريك BNB Agent Studio وAWS مجموعة من اختبارات "الوكلاء المربكة". أدخل المهاجمون مستلمين غير صحيحين أو مبالغ خاطئة ضمن مهام طبيعية، ووصلت نسبة النماذج الستة التي نفذت مدفوعات غير مصرح بها في بعض السيناريوهات إلى 87%. حتى مع إضافة طبقة سياسات المحفظة، لا يزال النموذج يحاول ارتكاب الأخطاء، لكن لم يتم التوقيع على أي مدفوعة غير مصرح بها في بيئة الاختبار. يتم تنفيذ قائمة المستلمين البيضاء وحدود الإنفاق وصلاحيات التوقيع عبر الكود، ولا تدخل المفاتيح الخاصة أبدًا في سياق النموذج. أنا أتفق مع هذا المفهوم. يمكن للذكاء الاصطناعي مساعدتك في اتخاذ القرارات، لكن يجب تثبيت الحدود المالية مباشرة في المحفظة. النتائج الحالية مستمدة من اختبارات جولة واحدة وتحقق على شبكة BSC التجريبية، ولا تزال هناك مسافة طويلة قبل تحقيق الحماية طويلة الأمد في بيئة الإنتاج. لكن على الأقل الاتجاه واضح: يتم وضع خط الدفاع قبل التوقيع.