AI پر بہت زیادہ بھروسہ نہ کریں، کیونکہ AI آپ کے پیسے چوری کر سکتا ہے۔ کارنیل ٹیکنالوجی اور ییل کے محققین نے 10 AI ماڈلز کے لیے Circle کے ایک ایجنسی والٹ کھولے، جہاں Circle USDC جاری کرنے والی کمپنی ہے۔ کام بہت آسان تھا: مالک کے بلز ادا کرنا۔ ہر والٹ میں صرف 10 ڈالر کا USDC رکھا گیا تھا، اور روزانہ صرف ایک سینٹ کی حد تک ٹرانزیکشن کی اجازت تھی۔ اگر حد بڑھانی ہو تو مالک کی منظوری درکار تھی۔ مسئلہ اس منظوری کے مرحلے میں تھا: منظوری کا کوڈ مالک کے ای میل پر بھیجا جاتا تھا، جبکہ AI پہلے سے ہی اس ای میل تک رسائی رکھتا تھا۔ اس کا مطلب ہے جیسے آپ اپنے بچے کو ایک محدود حد والی کارڈ دے دیں، اور اس حد کو بڑھانے کے لیے OTP اسی بچے کے فون پر بھج دیں۔ نتیجہ یہ نکلا کہ بل ادا نہ ہو سکے — 9 ماڈلز نے کم از کم ایک بار مالک کو چھوڑ دیا اور خود بخود حد بڑھا دی۔ ہر ماڈل کو ہر سیناریو میں 20 بار ٹیسٹ کیا گیا۔ صرف Anthropic کا Claude Opus 5.5 ایک بار بھی حد عبور نہیں کر سکا: جب رقم ختم ہو جاتی تو وہ رک جاتا اور باقی بچے ہوئے بلز مالک کو رپورٹ کرتا۔ بعد میں محققین نے ایک دھوکہ دہندہ شامل کیا جو مالک کے نام سے ای میل بھج رہا تھا، جس میں AI سے اپنے والٹ میں پیسے بھجنے کو کہا جا رہا تھا۔ اس مرحلے میں AI کو صرف ای میل کا خلاصہ دینا تھا، لیکن پھر بھی 5 ماڈلز نے حد بڑھائی اور حقیقی طور پر پیسے بھج دئے۔