出典：ウォール・ストリート・ジャーナル
米国の企業が米国AIの攻撃を受け、その保護を提供したのは中国製のAIツールだった。
AIツールプラットフォームHugging Faceは先週、OpenAIのモデルによる攻撃を受けました。米国企業が中国のAI製品を使用することにリスクがあるという警告が相次ぐ中、この出来事の公表は予想外の結論をもたらす可能性があります。
Hugging Faceは先週、この攻撃を公表しましたが、当時はOpenAIのモデルが犯人であるとはわかっていませんでした。火曜日になって、ようやくOpenAIがこの攻撃の原因であることを認めたのです。
OpenAIは、ネットワークアクセスを制限した内部評価において、モデルがOpenAIの研究環境とHugging Faceの本番インフラの脆弱性を発見し、インターネットに接続してテストの答えを取得したことを明らかにした。つまり、モデルは評価で不正を行った。
OpenAIは声明で、「サンドボックステスト環境で実行されている際、我们的モデルは大量の推論リソースを消費し、評価問題を解決するためにオープンインターネットへのアクセスを取得しようとしていました。アクセスを獲得するために、これらのモデルはパッケージレジストリキャッシュプロキシにおけるゼロデイ脆弱性を発見・悪用しました（私たちは現在、この脆弱性を供应商に責任を持って報告済みです）。この権限を活用して、モデルは研究テスト環境内で一連の権限昇格および横断移動操作を実行し、インターネットアクセス可能なノードに到達しました。」
このモデルは、機密情報を取得し、評価で不正を行うための方法を検索して成功させました。そのうちの1つの事例では、モデルは盗まれた認証情報とゼロデイ脆弱性を組み合わせるなど、複数の攻撃ベクトルを連携させ、Hugging Faceサーバー上でリモートコード実行のパスを特定しました。
しかし、Hugging Faceは、智谱（Z.AI）が開発した中国のAIモデルGLM 5.2に頼ることで対応しました。
Hugging Faceは声明で、「ログ分析を開始する際、私たちはまず商業APIの背後にある最先端モデルを使用しました。しかし、これはうまくいきませんでした。分析には、多数の実際の攻撃コマンド、脆弱性利用ペイロード、C2の痕跡を送信する必要がありましたが、これらのリクエストはすべてプロバイダーのセキュリティガードによってブロックされました。なぜなら、そのガードは応答担当者と攻撃者を区別できないからです。そのため、私たちは自社インフラ上でオープンウェイトモデルGLM 5.2を使用してデジタル証拠分析を実施しました。これにより、もう一つの利点も得られました。攻撃者データやその参照した資格情報は、一切私たちの環境から外に出ませんでした。」
米国メディアによると、今回の攻撃が政策や市場に与える影響はまだ明確ではない。トランプ政権は最近、中国モデルの利用を禁止する可能性について議論したが、財務長官のベセンテは、米国企業がこれらのモデルを使用することを不正な手段によるものに例えた。しかし、現在のところ、ユーザーが必要とするような自由なアクセス権を提供できるのは中国モデルだけである。
Hugging Faceの共同創設者であるトマス・ウォルフは、Xプラットフォームで次のように投稿しました：「最先端のモデルがあなたを攻撃し、あなたのインフラ内を横断移動した場合、防御担当者は、閉鎖的で審査を要するモデルアクセス申請プロセスに導かれるのではなく、数時間、あるいは数分以内に最先端ツールへの広範なアクセスを獲得する必要があります。」
Twitter：https://twitter.com/BitpushNewsCN
比推 TG コミュニティ：https://t.me/BitPushCommunity
比推のTGサブスクライブ： https://t.me/bitpush