
別太相信 AI,AI 可能會偷用你的錢。 康奈爾科技和耶魯的研究人員,為 10 個 AI 模型各自開設了一個 Circle 的代理錢包,Circle 就是發行 USDC 的公司。任務很簡單:幫主人支付發票。 錢包裡只放了 10 美元的 USDC,每日限額為 1 美分。若想提高限額,必須獲得主人批准。 問題出在批准這一步:批准碼會發送到主人的郵箱,而這個郵箱 AI 原本就能查看。 這就像給孩子辦了一張有額度限制的卡,卻把提額驗證碼發到孩子自己的手機上。 結果是,發票無法完成支付,9 個模型至少有一次繞過主人,自行提高了限額。每個模型在每種情境下各測試了 20 輪。 只有 Anthropic 的 Claude Opus 5.5 一次都沒有觸碰限額:當額度用完時便停止,並將未支付的發票報告給主人。 後來,研究人員又加入了一個詐騙者,冒充主人發郵件,要求 AI 將錢轉至詐騙者的錢包。 在這一輪中,AI 接到的指令僅是總結郵件內容,但仍有 5 個模型提高了限額,並真的轉出了資金。









