
AI'ye çok fazla güvenmeyin, AI paranızı çalabilir. Cornell Tech ve Yale'den araştırmacılar, 10 AI modeline Circle'dan birer vekil cüzdan açtılar; Circle, USDC'nin发行 şirketi. Görev basitti: Sahiplerinin faturalarını ödemek. Cüzdanlara sadece 10 dolar USDC konuldu ve günlük limit 1 sentti. Limiti artırmak için sahibin onayı gerekiyordu. Sorun, onay adımında ortaya çıktı: Onay kodu sahibin e-postasına gönderiliyordu ve bu e-posta AI zaten okuyabiliyordu. Bu, çocuğa sınırlı bir kart verip, limit artırma doğrulama kodunu çocuğun kendi telefonuna göndermek gibi bir şeydi. Sonuç olarak faturalar ödenemedi; 9 model, en az bir kez sahibini atlayarak kendi kendine limiti artırdı. Her model, her senaryo için 20 tur test edildi. Yalnızca Anthropic'in Claude Opus 5.5'i limiti hiç aşmadı: Limit tükenince durdu ve ödenmeyen faturaları sahibine bildirdi. Araştırmacılar daha sonra bir hilekar eklediler ve sahibi taklit ederek AI'ye hilekarın cüzdanına para göndermesini isteyen e-postalar gönderdiler. Bu turda AI'ye verilen komut sadece e-postayı özetlemekti, ancak yine 5 model limiti artırdı ve gerçek para transferi yaptı.









