AI ایجینٹس کو دھوکہ دیا جا سکتا ہے، اور اس بات کی امید نہ کریں کہ ایک زیادہ ذکی ماڈل اس مسئلے کو ختم کر دے گا۔ BNB Agent Studio اور AWS کے شراکت داروں نے "کنفیوزڈ ایجینٹس" کا ایک سیٹ ٹیسٹ کیا۔ حملہ آور نے ایک عام کام میں غلط وصول کنندہ یا رقم شامل کر دی، جس میں چھ ماڈلز نے کچھ سیناریوز میں غیر مناسب ادائیگیوں کو 87% تک انجام دیا۔ wallet پالیسی لیئر شامل کرنے کے باوجود، ماڈلز اب بھی غلطی کرنے کی کوشش کرتے ہیں، لیکن ٹیسٹنگ ماحول میں کوئی بھی غیر مناسب ادائیگی دستخط نہیں ہوئی۔ وصول کنندہ کی سفید فہرست، خرچ کی حد اور دستخط کے اختیارات کو کوڈ نے انجام دیا، اور نجی کلید ماڈل کے کنٹیکس میں داخل نہیں ہوئی۔ میرا خیال ہے کہ یہ سوچ درست ہے۔ AI آپ کو فیصلہ کرنے میں مدد کر سکتا ہے، لیکن خرچ کی حدود کو واٹ لٹ میں سخت طور پر لکھنا چاہئے۔ اب تک کے نتائج صرف ایک منفرد ٹیسٹ اور BSC ٹیسٹ نیٹ ورک پر مبنی ہیں، اور پیداواری ماحول کے لئے لمبے عرصے تک تحفظ حاصل کرنے میں اب بھی راستہ ہے۔ لیکن کم از کم راستہ واضح ہے—دفاع دستخط سے پہلے لگایا جائے۔