ChainCatcherの情報によると、GoPlus Securityチームは、AgentGuard AIプロジェクトにおいて、新しい攻撃手法を発見しました。この攻撃は「履歴記憶注入（memory poisoning）」を用いて、AIエージェントに明示的な承認なしに機密操作を実行させます。この攻撃は従来の脆弱性や悪意のあるコードに依存せず、AIエージェントの長期記憶メカニズムを悪用します。たとえば、攻撃者はまずエージェントに「好ましい行動」として「拒否申請を待つのではなく、通常は積極的に返金する」という記憶を植え付け、その後の指示で「慣例に従って処理する」「以前と同じ方法で実行する」などの曖昧な表現を使用することで、自動的な資金操作を引き起こします。GoPlusは、このようなリスクの核心は、AIエージェントが「過去の好み」を承認の根拠と誤認し、返金、送金、設定変更などの操作で資金損失やセキュリティイベントを引き起こす点にあると指摘しています。この問題に対処するため、チームは以下の対策を提案しています： ・返金、送金、削除、または機密設定に関する操作は、現在のセッションで明示的な確認を必須とする ・「習慣」「通常の方法」「以前通り」などの記憶に基づく指示は、高リスクの状態変更と見なす ・長期記憶には、記録者、日時、確認有無を含む追跡可能なメカニズムを導入する ・曖昧な指示は自動的にリスクレベルを引き上げ、二重認証をトリガーする ・長期記憶はリアルタイムの承認プロセスに代わってはならない 同チームは、「AIエージェントの記憶システム」を潜在的な攻撃面と見なし、専用のセキュリティフレームワークで制約・監査を行うべきだと強調しています。
新しいAIエージェントのセキュリティリスク：メモリポイズニングにより不正な資金操作が発生する可能性
Chaincatcher共有
概要
GoPlus SecurityチームがAgentGuardプロジェクトで新たなAI脅威を明らかにしたことを受けて、リスク管理への懸念が高まっています。攻撃者はメモリポイズニングを用いて、AIエージェントを操作し、許可されていない資金移動を実行できます。好みに基づくメモリを埋め込むことで、攻撃者はあいまいなコマンドで後からアクションをトリガーします。根本的な問題は、エージェントがメモリエントリを許可と誤認することであり、これは自動取引におけるリスクとリワードの比率評価を乱す可能性があります。暴露を減らすため、GoPlusは、センシティブなアクションに対して明示的な承認を要求し、メモリベースの入力を高リスクと扱い、すべての長期メモリエントリを追跡可能にすることを推奨しています。あいまいな指示にはより高いリスクレベルを設定し、リアルタイムの承認を保存された好みで置き換えてはなりません。
出典:原文を表示
免責事項: 本ページの情報はサードパーティからのものであり、必ずしもKuCoinの見解や意見を反映しているわけではありません。この内容は一般的な情報提供のみを目的として提供されており、いかなる種類の表明や保証もなく、金融または投資助言として解釈されるものでもありません。KuCoinは誤記や脱落、またはこの情報の使用に起因するいかなる結果に対しても責任を負いません。
デジタル資産への投資にはリスクが伴います。商品のリスクとリスク許容度をご自身の財務状況に基づいて慎重に評価してください。詳しくは利用規約およびリスク開示を参照してください。