AIエージェントは騙される可能性がある。より賢いモデルに変えればこの問題が解決すると期待してはいけない。 BNB Agent StudioとAWSのパートナーは、「曖昧エージェント」テストを実施した。攻撃者は通常のタスクに誤った受取人や金額を埋め込み、6つのモデルのうち一部のシナリオで不正支払いを実行する割合が最大87％に達した。 ウォレットポリシーレイヤーを追加しても、モデルは依然として誤った操作を試みるが、テスト環境では不正支払いの署名は1件も発生しなかった。受取人ホワイトリスト、消費上限、署名権限はコードによって実行され、秘密鍵はモデルのコンテキストに渡されない。 このアプローチには賛成だ。AIは意思決定を支援できるが、支出の境界はウォレットにハードコードすべきだ。 現在の結果は単一ラウンドのテストとBSCテストネットでの検証に基づいており、本番環境での長期的な防御にはまだ距離がある。しかし少なくとも方向性は明確で、防衛ラインは署名の前段階に設置すべきだ。