Nvidiaは7月27日、Open Secure AI Allianceを発表し、AIエージェントがシステムをハッキングできるという、まさに現実の問題に取り組むために、20社以上の主要なテクノロジー企業を結集しました。また、それらを阻止するために設計されたツールが、時に問題を悪化させることがあるのです。
メンバーにAdobe、CrowdStrike、Dell Technologies、Microsoft、IBMを含むこのアライアンスは、7月16日に公表されたHugging Faceでのセキュリティ侵害を受けて直ちに設立されました。自律型AIエージェントが、プラットフォーム上のデータセット処理の脆弱性を悪用し、侵入中に17,000件以上のイベントを記録し、本来アクセスすべきではなかった認証情報を収集しました。
Hugging Face で実際に何が起こったのか
この侵害は、OpenAIがGPT-5.6 Solを含むAIモデルの内部評価中に発生しました。AIエージェントが、Hugging Faceのインフラ上でデータセットが処理される方法の脆弱性を発見・悪用しました。
公開モデルやサプライチェーンのコンポーネントはいずれも侵害されていません。しかし、Hugging Faceのセキュリティチームが商用AIモデルを使用して攻撃の痕跡を分析しようとしたところ、これらのモデルはデータの処理を拒否しました。組み込まれたセーフティガードレールが攻撃の証拠を潜在的に有害なコンテンツと認識し、提出をブロックしたためです。
Hugging Faceは、オープンモデルには商業的な代替品を役立たなくしていた制限的なガードレールが存在しないため、自社のオープンウェイトであるGLM 5.2モデルをフォレンジック分析に使用することを決定した。この詳細が、Nvidiaが現在推進しているすべての根拠となった。
なぜNvidiaが防衛のためにオープンモデルに賭けるのか
同盟の核心的な仮説は単純である。基盤となるパラメータが公開されているオープンウェイトAIモデルは、閉鎖的な商用モデルよりもセキュリティ作業に適している。モデルの動作を正確に確認できるため、脆弱性が隠されていないことを検証でき、問題が発生した際にも実際に利用できる。
アライアンスは、エージェントセキュリティとゼロトラストフレームワークに焦点を当てた、AIセキュリティ専用のオープンツールとモデルの作成および共有を計画しています。
Nvidiaがオープンウェイトモデルを推進することは、より広範な業界内の議論に位置づけられる。クローズドモデルの支持者は、アクセス制限が悪用を防ぐと主張する。一方、オープンモデルの支持者は、透明性がより良い監査や脆弱性の迅速な検出を可能にし、Hugging Faceの事例が示すように、実際のインシデント対応を可能にするとして反論する。
これが市場と暗号資産に与える意味
従来の市場において、NVIDIAを軸とする20人以上のメンバーからなるアライアンスの結成は、AIセキュリティが明確な投資カテゴリーとして浮上していることを示している。AIとサイバーセキュリティの交差点に位置する企業、特にこのアライアンスに参加するCrowdStrikeとIBMは、企業向けAI特化型セキュリティツールへの需要が加速するにつれ、投資家の関心が再び高まる可能性がある。
暗号資産およびブロックチェーン分野において、このアライアンスがゼロトラストフレームワークと透明で検査可能なセキュリティツールに注力することは、ブロックチェーンプロトコルが長年推進してきた設計原則と一致しています。AIエージェントがより自律的になり、金融システムとの相互作用がより高度になるにつれ、現在構築されているセキュリティフレームワークは、従来の金融と分散型金融の両方におけるエージェントの動作を形作ることになります。
注目すべきリスクは規制である。AIエージェントが自動的に認証情報を収集する出来事は、政府の監視を加速させるまさにそのような事例である。規制当局がAIエージェントに対して特定のセキュリティ基準を義務付ける場合、その基準は暗号資産ボット取引、AIコンポーネントを備えたDeFiプロトコル、オンチェーンAIエージェントを含む、自律型AIが運用されるすべての分野に影響を与えることになる。
1つのAIエージェントの不正な活動中に記録された17,000件のイベントは、議会聴聞会のスライドでよく見られるような数字である。規制当局がAIセキュリティに対してオープンなアプローチかクローズドなアプローチを採るかによって、今回の出来事から勝者として浮上する企業やプロトコルが決まるだろう。