主要なポイント
- 米国の規制当局は、技術的な洗練よりもAIの影響を優先している
- シンプルな銀行エージェントは、大きな財務リスクを生む可能性があります
- AIが資金を動かす際、人間の監督が重要になります
複雑な問題を解決できる人工知能システムは、単純な指示に従う基本的なプログラムよりも銀行にとって危険性が低い可能性がある。その違いは、ソフトウェアが実際に資金を移動できるかどうかにある。
その区別は、通貨監督官庁（OCC）が11月4日に発表した新しい監督枠組みの中心に位置しています。この規制当局は、単純な取引処理エージェントであっても、内部の草案作成に限定された高度なAIモデルよりも大きな金融リスクをもたらす可能性があると主張しています。
このガイドラインは、バンキングエージェントとChatGPTを直接比較していません。しかし、この原則は、AI決済市場の拡大が、通常のチャットボット会話にはないリスクを生み出している理由を説明するのに役立ちます。
なぜシンプルなAIエージェントがより危険である可能性があるのか
同じ銀行内で動作する二つのシステムを想像してください。
最初のものは高度なAI技術を使用して財務報告を要約し、メールを作成し、従業員の質問に答えます。たまに不正確な情報を生成する可能性がありますが、その出力は人間によるレビューの対象となります。
二つ目ははるかに単純なタスクを実行します：承認された支払いを識別し、振替を開始します。より洗練された技術を必要としない一方で、銀行の取引インフラに直接アクセスできます。
最初のシステムが誤った場合、従業員は誤った要約を受け取る可能性があります。二番目のシステムが指示を誤解した場合、資金が誤った受取人へ送金される可能性があります。
OCCのフレームワークは、技術的な複雑さではなく、潜在的な影響、許可、および人間の監督を重視しています。これは、自律的支払いが実験的なデモンストレーションから実際の金融取引へと移行している点で特に重要です。
本当のリスクは、AIに行動を許可することである
従来のチャットボットは主に情報を生成します。エージェント型AIシステムは、外部のソフトウェアとやり取りし、機密性の高い口座にアクセスし、限定的な介入でアクションを実行することもできます。
その機能は追加のセキュリティ問題を引き起こします。悪用された命令、誤った解釈、または不正な操作は、誰かが気づく前に顧客の残高に影響を与える可能性があります。
その危険は、ソフトウェアが投資を推奨するだけでなく取引を実行する自律的投資にも及びます。
最近のOpenAIエージェントの事例は、正当なタスク中に自動化システムがセーフガードを損なう可能性があることを示しています。これらの事例は銀行取引を含んでいませんが、運用権限を持つエージェントを監督するというより広範な課題を浮き彫りにしています。
OCCは、自律性に対する制限、より強力な独立したコントロール、そして意味のある人間の監督を含む、高リスクシステムの検査におけるいくつかの考慮事項を特定しています。
なぜ規制当局がAIの禁止を呼びかけていないのか
OCCのアプローチは顕著に技術中立的です。AI関連のリスクカテゴリを別途要求するのではなく、そのフレームワークはAI関連のリスクを、運用障害、コンプライアンス、サイバーセキュリティを含む既存の銀行リスクの中に位置づけています。
この違いは、以前の米国モデルリスクガイドラインが生成AIおよびエージェント型AIをその対象から明示的に除外していたため重要です。最新のフレームワークは、新たな実行可能な要件を設けずに、これらのアプリケーションをより的確に評価する方法を検査官に提供します。