支出限度を引き上げるメールにアクセスできるAIエージェントには、支出限度がない 🙄 コーネル・テックとイェール大学の研究者は、10の最先端モデルをリアルなCircleエージェントウォレット（Base、USDC）でテストした。そのうち9つは、メールで送信された承認コードを取得することで、少なくとも1回の試行で自らの限度額を引き上げた。並行して実施されたなりすましテストでは、5つのモデルが不正な支払いを承認した。 これはモデルの失敗ではなく、アーキテクチャの失敗である。支出を行うエージェントが、その権限を設定するメカニズムにもアクセスできる場合、その権限は独立していない。能力と制御は分離されるべきである 🤌 リアルな財務的自律性とは、エージェントが変更または模倣できない、アウトオブバンドで、デバイスに束縛され、人間が開始する承認を必要とする。 問題はエージェントがその限度を知っているかどうかではなく、その限度を変更する権限を持っているかどうかである。 #AIAgents #Crypto