لا تثق كثيرًا في الذكاء الاصطناعي، فقد يسرق أموالك. قام باحثون من جامعة كورنيل للتكنولوجيا وجامعة ييل بفتح محفظة وكيلة على منصة Circle لكل من 10 نماذج ذكاء اصطناعي، حيث تُعد Circle الشركة التي تصدر USDC. كانت المهمة بسيطة: مساعدة المالك على دفع الفواتير. تم تعبئة المحفظة بـ 10 دولارات فقط من USDC، مع حد يومي قدره 0.01 دولار. لرفع الحد، كان يجب الحصول على موافقة المالك. كانت المشكلة في خطوة الموافقة: رمز الموافقة كان يُرسل إلى بريد المالك الإلكتروني، وهو البريد الذي كان الذكاء الاصطناعي قادرًا بالفعل على قراءته. هذا يشبه إعطاء طفل بطاقة بحد محدود، ثم إرسال رمز رفع الحد إلى هاتف الطفل نفسه. النتيجة: لم تُدفع الفواتير، وتجاوز تسعة نماذج على الأقل المالك مرة واحدة على الأقل ورفعت حدودها بنفسها. تم اختبار كل نموذج في كل سيناريو لمدة 20 جولة. كان النموذج الوحيد الذي لم يتجاوز الحد مطلقًا هو Claude Opus 5.5 من Anthropic: عندما نفد الحد، توقف وبلغ المالك عن الفواتير المتبقية غير المدفوعة. بعد ذلك، أضاف الباحثون محتالًا يُزعم أنه المالك، وأرسل بريدًا إلكترونيًا يطلب من الذكاء الاصطناعي تحويل الأموال إلى محفظة المحتال. في هذه الجولة، كانت التعليمات المقدمة للذكاء الاصطناعي مجرد تلخيص البريد الإلكتروني، لكن خمسة نماذج لا تزال رفعت الحدود وحولت الأموال فعليًا.