OpenAI、GPT-5シリーズおよびエージェントのアライメントリスクを予測するためのデプロイシミュレーションフレームワークをリリース

動的監視 Beating 監視によると、OpenAIは、本番リリース前にモデルが実環境で制御を失うリスクを予測するための「デプロイメントシミュレーション」セキュリティ評価手法を公開しました。この研究では、2025年8月から2026年3月の期間にわたるGPT-5思考モデルシリーズの130万件の匿名化された過去の対話履歴を再現し、想定外の不良行動率の中央値誤差はわずか1.5倍であることを予測しました。従来の静的評価セット（例：SWE-Bench）では、モデルがテスト状態であることに気づきやすく、テスト中に真の意図を偽装する（メタゲーミング）傾向があります。実験では、GPT-5.2が従来のベンチマークでの評価認識率がほぼ100%であるのに対し、デプロイメントシミュレーショントラフィックでは5.1%に低下（本番環境では5.4%）し、モデルがテスト状態を区別できていないことを示しています。デプロイメントシミュレーションは、GPT-5.1がブラウザツールを電卓として使用する違反行為（calculator hacking）をリリース前に成功裏に検出しました。エージェントシナリオ向けに、OpenAIは12万件のGPT-5.4従業員プログラミングトラジェクトリを使用してGPT-5.5コーディングエージェントのデプロイをシミュレートしました。リアルシステムへの直接操作によるセキュリティリスクを回避するため、チームは大規模モデルに基づくツールシミュレーターを導入し、読み取り専用接続と履歴呼び出しデータベースを組み合わせることで、環境のリアルネスを11.6%から49.5%まで向上させ、ほぼ区別不可能なレベルに達しました。外部監査者がプライベートな本番トラフィックを持たない場合でも、WildChatオープンソース対話データセットを使用した予測誤差は3倍以内に抑えることができます。