米国ホワイトハウスは、AI企業Anthropicと、新世代AIモデルのセキュリティ上の欠陥に対する統一された評価フレームワークを策定するために協議中であり、これに基づいて政府が介入する必要があるかどうかを判断することを目的としている。これは、米国が以前、「ジャイル」とされるセキュリティ問題を理由にAnthropicの最新モデルに対して輸出制限を課した後のことである。
「越獄」脆弱性に基づく統一基準を構築する
報告によると、このフレームワークは今後の類似イベントの深刻度を評価するために使用され、主に以下の3点に焦点を当てます：防御策が回避された程度、暴露されたモデルの能力、および脆弱性が現実世界で及ぼす影響。
現在、政府と企業の間では、このような問題に対する意見の相違が依然として明確です。以前、AnthropicのCEOであるDario Amodeiは、政府当局者と、関連する脆弱性が重大なセキュリティ問題を構成するかどうかについて異なる判断を示しました。報道によると、AI技術の進展が速すぎ、政府の現在の体制ではこうした議論に対して一貫した評価を行うのが十分でない状況です。
出口制限後、交渉は引き続き進展している
米国ホワイトハウスは以前、Anthropicに対して輸出制限を科し、海外ユーザーによる最新モデルFable 5およびMythos 5へのアクセスを禁止した。同社はその後、これらのモデルの外部サービスを一時停止した。
報道によると、先週金曜日、両者の交渉は一時破綻寸前にまで至った。その理由は、Anthropicが政府の要請に応じてFableをサービスから削除することを拒否したためであり、同社は関連する脆弱性の影響は限定的であり、重大なセキュリティ欠陥とは認められないと考えていた。その後、ホワイトハウスは輸出制限措置を実施し、同社に該当モデルを市場から撤退させるよう圧力をかけた。
しかし、週末から両者はコミュニケーションを再開した。アメリカ商務長官のハワード・ラトニック、国家サイバーセキュリティ担当官のシーン・カーニクロス、そしてAnthropicの共同創設者であるトム・ブラウンが複数回にわたり長時間の電話会議を実施した。その後、両者はワシントンで約1週間にわたる対面協議を行った。
ホワイトハウスがAIセキュリティ規則の実施を加速
報道によると、Anthropic側で交渉に参加したのは、公共政策責任者のサラ・ヘックと共同創業者のトム・ブラウンである。同社は今週月曜日、上級研究者とセキュリティ専門家を米国商務省に派遣し、政府当局者と引き続き協議を行った。
この議論は、どのAIモデルもハッカー攻撃から完全に守られることはないという現実的な判断を反映しています。そのため、政府は、どのような状況で制限措置を取るべきかを決定する前に、企業がセキュリティリスクを評価する基準を明確にすることを望んでいます。
この方向性は、最近の七カ国グループ会議での議論とも一致しています。複数の主要AI企業と一部の国家指導者は、能力が継続的に強化されるAIシステムがもたらす経済的および国家安全保障上のリスクに対応するため、早期により明確なモデルセキュリティ評価基準を策定すべきだと指摘しています。