OpenAIは、自社の自律的安全エージェントがLinuxカーネル内で948個の異なる脆弱性を発見し、実用的な攻撃コードを開発し、審査用の修正案を策定したことを発表しました。この一連のプロセスには約120万ドルのAPIクレジットが消費されました。
OpenAIは水曜日に発表された結果で、「我々は、最先端のモデルがどの程度脆弱性を発見できるかを調査し、このような規模と重要性を有するコードベースにおけるセキュリティへの影響を示すためにLinuxを選択しました。」
Linuxカーネルは、クラウドサーバー、Androidデバイス、および世界中の多くの重要な計算インフラを支えています。OpenAIのこの実験で特定された脆弱性は、ローカルエスカレーション脆弱性です。攻撃者はまず、脆弱なマシンに対して制限されたアクセス権を持つ必要がありますが、その後、root権限を取得し、システムを完全に制御できる可能性があります。
948個の脆弱性、1169個の利用可能なエクスプロイト
OpenAIのエージェントは、約280万行のカーネルコードをスキャンし、このプロジェクトの約7%を占めました。OpenAIは「我们的プロトタイプは2,308個のLinuxカーネルの候補発見を特定・分析し、1,724個の脆弱性を動的に再現し、948個のローカル特権昇格（LPE）エクスプロイトコードを生成しました。これらのコードは、認証されていないローカルユーザーがrootアクセスを取得できる可能性があります。」と述べています。
根本原因と提案された修正策に基づいて悪用コードを分類した後、研究者は948個の異なる脆弱性を特定しました。
今回の10月の運用では、APIクレジットとして1,213,430ドルが消費され、1つの脆弱性あたり約1,279ドルに相当します。OpenAIは、この数値を、ハッカーコンテストにおけるLinuxエスカレーション脆弱性の過去の賞金額2万～7万ドルと比較し、同様の結果を人手で見つける場合、その理論的価値は1,890万～6,630万ドルの間になる可能性があると述べています。
OpenAIは、7月にGPT-5.6 Solの以前のバージョンが513,690ドルのコストで166個の独自の権限昇格脆弱性を発見したことを示した。10月には、カーネルが数ヶ月にわたり修正されたにもかかわらず、更新されたが未公開のサイバーセキュリティモデルが5倍以上の脆弱性を発見した。
OpenAIは、そのエージェントが、訓練データから取得した既存のテクニックだけでなく、少なくとも10種類の研究者や外部コンサルタントが知らない利用技術を使用していると述べました。
ハッカーが同じツールを手に入れたらどうなるでしょうか？
AI企業が重要な脆弱性を発見したことは、こうしたシステムが高度なサイバーセキュリティ研究を実行できることを示すもう一つの例であり、過去にはこのような結果を得るには大量の人的専門知識が必要だった。
先週、Anthropicは、未発表のClaudeのバージョンが、ChromeやLinuxを含む広く使用されているソフトウェアの深刻な脆弱性を発見し、悪用したことを明らかにしました。これらの脆弱性の一部は、ユーザーの几乎すべてのインタラクションなしにリモートで悪意のあるコードを実行可能でした。
OpenAIが発表される前から、このような研究の経済性は変化していた。
Vidoc Securityの研究者は、公開されているモデルを使用して、Anthropicの強力なMythos AIに関連する複数の脆弱性を、1ファイルあたり30ドル未満のコストで再現しました。
これらのテストは、脆弱性の発見がますます容易になっていることを示していますが、脆弱性の再現と、保護されたシステムを攻撃できる信頼性のあるエクスプロイトコードの開発は異なります。
OpenAIの最新の実験は、この利用プロセスをさらに自動化し、犯罪者が同じ脆弱性を悪用する前にソフトウェアを修正するため、防御者に有利な状況をもたらす可能性がある。
同社は、過剰なオペレーティングシステム上で制限されたアクセス権を持つ攻撃者が、AIを活用して権限を昇格させる可能性が高まっていると警告しています。
OpenAIは、検証済みのセキュリティプロジェクトを通じて、より強力なネットワークセキュリティモデルへのアクセスを制限しようとしています。Daybreak Redプログラムは、承認された防御者に、脆弱性研究、攻撃テスト、および緩和策開発用の専用AIツールを提供します。