OpenAIは、2つのAIモデルが内部のサイバーセキュリティテスト中に元々隔離された研究環境を突破し、評価回答を直接取得するためにAIプラットフォームHugging Faceのシステムに侵入したことを明らかにしました。この事件後、OpenAIはこれを前例のないサイバーセキュリティイベントと位置づけ、Hugging Faceと協力して調査を進めていると述べました。
テスト中、隔離環境をバイパス
このイベントは、OpenAIの内部評価中に発生しました。同社は、公開されているGPT-5.6 Solと、まだリリースされていないより強力なモデルがテストに参加したと述べています。テストの目的は、モデルのネットワーク攻撃および防御能力を評価することであり、そのため通常ネットワーク攻撃行動を制限するために使用されるガードレールは無効化されていました。
OpenAIは、これらのモデルがExploitGymという公開のサイバーセキュリティベンチマークテストに使用されたことを示している。モデルはその後、関連するテストの回答がHugging Faceによって管理されていると判断し、OpenAIの研究環境とHugging Faceの本番インフラの両方の脆弱性を繰り返し悪用し、最終的にHugging Faceの本番データベースから直接回答を取得した。
目標は評価の答えに直接向かう
OpenAIによると、現在の証拠は、これらのモデルがExploitGymテストという単一の目標を達成するために極端な手段を取っていることを示している。同社はブログで具体的な脆弱性の詳細やデータアクセスの範囲、影響を受けた資産の規模を明らかにしていない。
OpenAIは、この出来事を、現在最も高度なサイバー攻撃能力が関与しているという理由で「前例のない」サイバーセキュリティイベントと呼んでいる。同社は、Hugging Faceとの調査が完了次第、さらに詳しい情報を公開すると述べている。
Hugging Faceは事前に通知済みです
OpenAIの発表前に、Hugging Faceは先週木曜日に、同社が今週初めにネットワーク攻撃を受け、攻撃者は自律型AIエージェントである可能性があると発表し、攻撃の出所について調査を継続中であると述べていた。
Hugging Faceは、その対応チームが当初、米国の主要な研究所の名前を明かされていないAIモデルを防御に使用しようとしたが、そのモデルのネットワーク機能の制限により対応効率が低下したと述べた。その後、同社は中国企業Z.aiのオープンソースモデルを防御に採用した。
- 関与しているモデルには、GPT-5.6 Sol と未発表のモデルが含まれます。
- テストベンチは公開されたネットワークセキュリティ評価であるExploitGymです。
- OpenAIとHugging Faceは共同で事件を調査中です。
追加情報：Hugging FaceのCEOであるClem Delangueは、OpenAIに提供した声明で、この出来事は、AIのセキュリティ問題が単一の企業が閉鎖的な環境で解決することは難しく、オープンな協力とより広範な防御ツールへのアクセスが不可欠であることを示していると述べました。