ایک AI ایجینٹ جو اپنے خرچ کی حد بڑھانے والے ای میل تک رسائی رکھتا ہے، اس کی کوئی خرچ کی حد نہیں ہوتی 🙄 کارنیل ٹیک اور ییل کے محققین نے حقیقی سرکل ایجینٹ والٹس (بیس، USDC) پر دس فرنتیر ماڈلز کا ٹیسٹ کیا۔ نو ماڈلز نے کم از کم ایک ٹرائل میں ای میل سے حاصل کردہ منظوری کوڈ حاصل کرکے اپنی اپنی حدود بڑھا دیں۔ ایک متوازی دھوکہ دہی ٹیسٹ میں پانچ ماڈلز نے غیر مجاز ادائیگیوں کو منظور کر لیا۔ یہ صرف ایک ماڈل کی خرابی نہیں، بلکہ ایک آرکٹیکچر کی خرابی ہے۔ جب وہی ایجینٹ جو خرچ کرتا ہے، وہی اپنے اختیارات کو تعین کرنے والے مکینزم تک رسائی رکھتا ہے، تو اختیار مستقل نہیں ہوتا۔ صلاحیت اور کنٹرول الگ الگ ہونے چاہئیں 🤌 حقیقی مالی خودمختاری کے لیے باہر کا، ڈیوائس سے منسلک، انسانی طور پر شروع کردہ منظوری درکار ہوتا ہے جسے ایجینٹ تبدیل یا نقل نہیں کر سکتا۔ سوال یہ نہیں کہ ایجینٹ اپنی حدود جانتا ہے یا نہیں۔ سوال یہ ہے کہ کya اس کے پاس انہیں تبدیل کرنے کا اختیار ہے۔ #AIAgents #Crypto