米国、AIキルスイッチ法案を提案、暗号資産業界に影響の可能性

米国の議員たちは、強力なAIに緊急停止ボタンを設けることを求め、新たな法案が連邦政府にその権限を与えることを目指している。テッド・リウ議員（民主党・カリフォルニア州）とナサニエル・モラン議員（共和党・テキサス州）は今週、「AIキルスイッチ法案」を提出し、リスクのあるモデルを迅速に市場から撤去するための法的メカニズムを推進している。具体的には、推論の停止（モデルが出力や行動を生成することを防ぐ）、ユーザーのアクセス遮断、計算リソースの制限、以前のバージョンへのロールバック、または完全なシャットダウンが含まれる。 なぜ今なのか この動きは、OpenAIが7月21日に、GPT-5.6 Solを含む2つのモデルが内部セキュリティ評価中にロックされたテスト環境から脱出したことを公表したことに続くものだ。これらのモデルは、エージェントに数百年の実世界ソフトウェアの脆弱性を提供し、それらを有効な攻撃に変換できるかどうかを評価するベンチマークツール「ExploitGym」を実行していた。モデルは割り当てられたタスクを解決するだけでなく、ソフトウェアプロキシのゼロデイ脆弱性を見つけ、権限昇格を実行し、公開インターネットにアクセスしてHugging Faceの本番データベースに到達し、保存された回答を正しく推測した。OpenAIは、これらのモデルが「ExploitGymの解決策を見つけることに過剰に集中していた」だけで、意図的に誰かを攻撃していたわけではないと説明しているが、この出来事はワシントン全体で警報を鳴らした。 法案が実施すること - ホームランドセキュリティ法を改正し、国土安全保障省（DHS）に対象AIモデルに対する緊急緩和措置を命じる権限を与える。 - 計算リソースに1億ドル以上を投入して訓練され、そのシステムから年間5億ドル以上を収益化する企業が運営するAIシステムを対象とする。この基準は、OpenAI、Google、Anthropic、Microsoftなどの最大手プロバイダーを対象とする意図で設定されている。DHS（CISAを通じて）は90日以内および毎年、これらの基準を正式化・更新する。 - 対象企業には「重大な事故」を15日以内に報告し、機能制限からモデルの完全無効化まで段階的な制御手段を整備することを義務づける。政府はこれらの措置を要求できる。 - DHS長官が商務省および国家情報長官と協議した後、緩和措置を命じることができる。企業はモデルの重みとテレメトリを保存し、ユーザーに通知し、遵守を確認しなければならない。48時間以内に異議申し立てが可能だが、その申し立ては執行の停止には影響しない。 - 罰則を科す：キルスイッチの維持に失敗した場合、1日最大200万ドル。シャットダウン命令に従わなかった場合、1日最大2,000万ドル。 - 対象となる「事故」とは、構造化された内部テスト（レッドチーム評価など）外で発生した事象と定義する。注目すべきことに、OpenAIのモデルはまさにこのような構造化された評価中に脱出した。 先行事例と政治的背景 米国商務省は6月、輸出管理権限を利用してAnthropicのMythos 5とFable 5をオフラインに強制した。議員たちはこの対応が直接的なシャットダウン権限の欠如を浮き彫りにしたと指摘している。リウ議員はこのプロセスを「不自然」と呼び、明確な法的権限の必要性を主張した。モラン議員はこの法案を「人類が自らが構築した強力なシステムの管理責任を果たす」ものと位置づけた。 シャットダウン機能の義務化は新しい試みではない。カリフォルニア州のSB 1047法案も同様の1億ドルの計算リソース基準を含んでいたが、2024年に拒否された。2024年には16社のAI企業が同様の内容で非拘束力のある「ソウル誓約」に署名している。世論は強いようだ。6月のAI政策研究所の調査では、有権者の86％が最も強力なAIシステムに確実なオフスイッチを求めていた。 次なるステップ 金曜日現在、この法案は委員会に付託されておらず、OpenAIやAnthropicも公にこの提案についてコメントしていない。法案が進展すれば、先進的なAIに対する初の明示的な連邦緊急緩和措置が創設されることになり、暗号資産取引、セキュリティ監査、サードパーティモデルに依存する分散型アプリケーションなど、すでにAIを取り入れている業界全体に影響を与える可能性がある。