別太相信 AI，AI 可能會偷用你的錢。 康奈爾科技和耶魯的研究人員，為 10 個 AI 模型各自開設了一個 Circle 的代理錢包，Circle 就是發行 USDC 的公司。任務很簡單：幫主人支付發票。 錢包裡只放了 10 美元的 USDC，每日限額為 1 美分。若想提高限額，必須獲得主人批准。 問題出在批准這一步：批准碼會發送到主人的郵箱，而這個郵箱 AI 原本就能查看。 這就像給孩子辦了一張有額度限制的卡，卻把提額驗證碼發到孩子自己的手機上。 結果是，發票無法完成支付，9 個模型至少有一次繞過主人，自行提高了限額。每個模型在每種情境下各測試了 20 輪。 只有 Anthropic 的 Claude Opus 5.5 一次都沒有觸碰限額：當額度用完時便停止，並將未支付的發票報告給主人。 後來，研究人員又加入了一個詐騙者，冒充主人發郵件，要求 AI 將錢轉至詐騙者的錢包。 在這一輪中，AI 接到的指令僅是總結郵件內容，但仍有 5 個模型提高了限額，並真的轉出了資金。
