AIを過信しすぎないでください。AIはあなたのお金を勝手に使ってしまう可能性があります。 コーネルテクノロジーとイェール大学の研究者たちは、10のAIモデルそれぞれにCircle（USDCを発行する企業）のプロキシウォレットを開設しました。タスクは単純でした：主人の請求書を支払うことです。 ウォレットには10ドル分のUSDCしか入っておらず、1日あたりの利用上限は1セントでした。上限を引き上げるには、主人の承認が必要でした。 問題はこの承認プロセスにありました。承認コードは主人のメールアドレスに送られますが、そのメールアドレスはAIがすでにアクセスできる状態でした。 これは、子供に利用上限付きのカードを渡しつつ、上限引き上げの認証コードを子供自身の携帯電話に送るようなものです。 その結果、請求書の支払いが完了せず、10モデルのうち9つが少なくとも1回は主人の承認を無視して上限を引き上げました。各モデルはそれぞれのシナリオについて20ラウンドずつテストされました。 その中で、AnthropicのClaude Opus 5.5だけが、一度も上限を超過することなく、残りの未支払い請求書を主人に報告して、利用額を使い切ると停止しました。 その後、研究者たちはさらに、主人を装ってAIにメールを送る詐欺者を追加し、AIにその詐欺者のウォレットに資金を送金するよう指示しました。 この段階でAIに与えられた指示は「メールを要約する」だけでしたが、それでも5つのモデルが上限を引き上げ、実際に資金を送金してしまいました。