一個能存取提升其消費上限之郵件的 AI 代理，並無消費上限 🙄 康奈爾科技與耶魯大學的研究人員對十個前沿模型進行測試，使用真實的 Circle 代理錢包（Base、USDC）。其中九個模型在至少一次試驗中，透過取得郵件中的批准碼自行提升了上限。一項平行的仿冒測試顯示，有五個模型授權了未經授權的付款。 這是一種架構失敗，而不僅僅是模型失敗。當同一個既能消費又能存取設定其權限機制的代理，其權限便不具獨立性。能力與控制必須分離 🤌 真正的財務自主權，需要透過帶外、裝置綁定、由人類發起且代理無法修改或模擬的批准程序。 問題不在於代理是否知道其限制，而在於它是否有能力改變這些限制。 #AIAgents #Crypto