OpenAIのJalapeñoチップが主要指標でNVIDIA Blackwellを上回る

著者：董静

OpenAIが自社開発した初のチップ「Jalapeño」が登場し、AIチップ業界の既存の構図を驚異的な速さで覆した——これは単なる製品発表ではなく、AIがチップ自体の設計方法を再定義しているというシグナルである。

华尔街见闻文章によると、ブルームバーグは8月25日、OpenAIがJalapeñoチップの単位電力あたりのAI処理量と応答速度という2つの重要な指標で、NVIDIA GB300を上回っていると発表したと報じた。このチップはOpenAIとBroadcomが共同開発し、AI推論段階専用に設計されており、今年後半にも実用化される見込みだ。OpenAIのチップ責任者であるRichard Hoは、Jalapeñoが700ワットという低電力で強力なパフォーマンスを発揮し、データセンターの電力コストを大幅に削減できると述べている。

半導体研究機関SemiAnalysisの情報によると、このチップは設計開始から流片完了まで約16ヶ月しかかからず、その中でも重要なCoWoSパッケージング流片ノードは2025年11月に完了しており、現在からわずか9ヶ月前です。これは業界の一般的な18〜36ヶ月のサイクルを大幅に下回っています。

SemiAnalysisの研究者がOpenAIラボを訪問し、自社開発のベンチマークツールキットInferenceXを用いてJalapeñoを実地テストした結果、每ワット性能（perf/W）の指標で、これまでにテストしたすべてのNVIDIA、AMD、Googleのチップを上回ることが確認された。

さらに注目すべきは、この成果がJalapeñoが投机デコードやプリフェッチとデコードの分離デプロイなどの最適化手法をまだ有効にしていない状況で達成されたという点であり、比較対象の他のチップはすべてそれぞれの最適設定が有効になっていることです。

そのため、有名な半導体アナリストのダイラン・パテルでさえ、「打ち負かされたのはBlackwellだけではなく、NVIDIAのRubinチップまで追い越された」と明言している！

分析は、この結果がNVIDIAの市場地位に直接的な挑戦をもたらし、AIチップの競争構図に対する市場の見直しを促していると示唆している。

実測データ：Jalapeño は複数の主要指標で Blackwell を圧倒しています

SemiAnalysisのテスト結果によると、Jalapeñoは推論効率において顕著な優位性を示しています。

GPT-OSS 120Bモデルにおいて、Jalapeñoは毎秒約1459トークンを出力するのに対し、NVIDIA GB200は535トークンにとどまる。エンドツーエンドレイテンシでは、Jalapeñoは1タスクを1.65秒で完了するのに対し、GB300は約6秒を要し、差は3.6倍となる。高インタラクションシナリオでは、GB300が最速デコード速度（毎秒169トークン）に達した際、Jalapeñoのスループットはその104.3倍となる。

データセンターのエネルギー効率を示す核心指標である、毎兆ワット毎秒の出力トークン数において、JalapeñoはGPT-OSSモデルで約5300万トークン/MW/sを達成し、GB200 NVL72は約1000万にとどまります。

SemiAnalysisは、この指標が本質的に1ジュールあたりのトークン生成数に等しく、データセンターの収益の上限を直接決定すると指摘した。現在、計算能力が電力に制約されている中で、この観点での優位性は特に重要である。

システム全体のコストを考慮すると、SemiAnalysisが電力供給、冷却、ネットワークをすべて含めて計算したところ、Jalapeñoの1チップあたりの1時間あたりの総所有コストは約1.56ドルで、H100の1.55ドルとほぼ同等であり、NVIDIAのVera Rubinは3.61ドルに達する。

注目すべきは、SemiAnalysis がいくつかの重要な保留意見を提示したことです。

まず、テストに使用されたモデルは現在の最先端モデルではありません。NVIDIAとAMDは、より大規模なモデル（例：DeepSeek V4 Pro、Kimi K3）でAgentXツールキットに基づく成績を発表していますが、JalapeñoはまだAgentXテストを完了していません。このツールキットは、マルチラウンドや長文コンテキストなどの実際の本番環境でのパフォーマンスをより正確に反映します。

第二に、より公平な比較対象はBlackwellではなく、同様にHBM4を採用するNVIDIAのVera Rubinである。Vera Rubinのワット当たりの性能はGB200 NVL72と比較して約5.4倍向上し、Jalapeñoと比較すると、両者の1トークンあたりの総所有コスト（TCO）はほぼ同等である。

その三、Jalapeñoは現在まだ試作段階にあり、量産は2027年から徐々に開始される見込みです。

AI設計チップ：GPT-AstraとCodexの「飛輪効果」

Jalapeñoがこのような驚異的な速度で開発できた背景には、AIツールの深層的な導入が核心的な要因の一つである。SemiAnalysisによると、OpenAIはチップ設計プロセスにおいて、外部から注目を集めるGPT-Astraを含む複数の内部AIモデルを大規模に活用した。

ソーシャルプラットフォームXのユーザーAndrew Curranは、OpenAIの情報を引用して、GPT-AstraがJalapeñoの開発全般に深く関与していたと指摘した：

チームはCodexとGPT-Astraを活用し、2か月以内にJalapeñoの量産計画に含まれていなかった3つのオープンソースモデルを高性能状態に最適化しました。

これは、AIがチップ設計そのものを加速するだけでなく、チップがサポートできるモデルの範囲を急速に拡大していることを意味します。

SemiAnalysisのデータは、この貢献をさらに定量化しています：

AIによる支援設計により、SIMDユニットの面積が8％削減され、マトリクスエンジンの面積が10％削減され、タイミングおよび電力消費のパフォーマンスも初期バージョンを上回りました。

ソフトウェアレベルで、OpenAIは内部拡張版Codexを使用してJalapeñoカーネルを記述し、一部のカーネルコードは約3000行に及ぶ。最もリソースを消費するアテンションメカニズムとMoEモジュールでは、AIが生成したコードは人間のトップエンジニアによる実装よりも1.5倍から1.8倍高速である。

SemiAnalysisは次のように鋭く評価している：NVIDIA GPU上で動作するOpenAIモデル（例：GPT-5.6 Sol）が、CUDAの護城河に真の脅威をもたらすチップの設計に利用されている。「NVIDIA自身のGPUが、実時間で自らの潜在的な後継者を生み出している」。

アーキテクチャ解析：なぜ「汎用」の方が速いのか？

外界は一般的にJalapeñoがOpenAIの自社モデル用に深く最適化されたチップであると想定しているが、SemiAnalysisの結論はその逆である：JalapeñoはAI推論向けの汎用チップであり、さまざまなモデルやワークロード、甚至Codexで移植されたDoomゲームを実行できる。

アーキテクチャレベルで、Jalapeño の核心的な設計哲学は「固定遅延の排除」です。GPUが複雑なメモリ階層に依存するのとは異なり、Jalapeñoは計算コアをHBMスライスに直接バインドし、コア間は専用の高帯域幅集合ネットワークで同期することで、メモリアクセス遅延を大幅に低減します。

また、Jalapeñoは、他のアクセラレーターで一般的に使用されるソフトウェア管理キャッシュではなく、乱序実行（OoO）コアとL1キャッシュを採用しており、小バッチ、低遅延のシナリオでハードウェアの理論的ピークにより近づきます。

メモリ帯域幅において、JalapeñoはHBM4を採用し、単一パッケージで15.4TB/sのメモリ帯域幅を実現し、ワット当たりのHBM帯域幅は22ですが、NVIDIA Rubinは11.1、GB300は5.71です。

SemiAnalysisは、JalapeñoのHBM4のピン速度が10Gbpsであり、NVIDIA Rubinの9.6Gbpsをやや上回っていると指摘し、HBMサプライヤーはサムスンである可能性があると述べている。

注目すべきは、Jalapeñoがプリフィリングとデコードの分離デプロイ（PDD）を選択しなかったことです。SemiAnalysisはこれについて詳細に説明しています：

本番環境では、入力出力比率、並列処理量、キャッシュヒット率などのパラメータが継続的に変化するため、固定プールはグローバルな利用率を低下させる。一方、同質リソースプールはトラフィックの変化に柔軟に対応し、遅延敏感なリクエストと高スループットバッチ処理の間で動的にリソースを割り当てることができる。

CUDAの護城河：亀裂が現れた？

SemiAnalysisはレポートで、CUDAの競争優位性はすでに失われた可能性があるという強力な判断を示した。

その根拠は、ソフトウェアの起動速度の比較にあります。NVIDIAのRubinはCoWoSの製造をJalapeñoより1ヶ月早く完了しましたが、これまでに公開されたRubinのベンチマークデータはCoreWeaveのプロトタイプのみであり、NVIDIAはOpenAIのように第三者にラボへの自由なアクセスを許可していません。SemiAnalysisは、これはハードウェア自体の差ではなく、ソフトウェアの成熟度の差を反映していると考えています。

ゼロからソフトウェアスタックを構築したことで、OpenAIは歴史的な負債から解放され、より洗練されたアーキテクチャの意思決定が可能となった。OpenAIは、Tritonを基盤とする自社開発のカーネルプログラミング言語Gluonと、内部推論エンジン「Teacup」を活用し、Codexを用いてカーネルの最適化を迅速に実施した。SemiAnalysisは、わずか2週間以内にJalapeñoが特定のインタラクション速度におけるスループットを2倍以上向上させたことを観察した。また、8日間でチームはテンソル並列をTP8からTP32まで拡張し、ラックを超えたフルラック規模のデプロイを実現した。

ただし、SemiAnalysisは、現在のテストが比較的単純なワークロードである8k1kに限定されており、AgentXのマルチラウンド長コンテキストテストはまだ完了していないことを明確に指摘しています。より複雑なエージェントワークロードでは、ルーターやプレフィックスキャッシュなどのコンポーネントのパフォーマンスが新たな試練となります。

次ステップ：B0が工場に到着、10GWの拡張計画が着実に進み始めています

ハラペーニョの物語はまだ終わっていません。

SemiAnalysisの情報によると、現在の公開テストで使用されているのはすべてA0ステップのサンプルであり、B0ステップは既にウェハーファクトリーに移行しており、A0と比較してワットあたりの性能が約25%向上すると予想されています。B0の単一計算ダイのMXFP4演算能力は13.4 PFLOPsに達し、TDPは700Wに維持されます。

システムレベルで、OpenAIはCelesticaと協力して完全なラック設計を実施しました：各ASICラックには128個のJalapeñoチップが搭載され、デュアルラックシステムの総消費電力は約160kWで、NVIDIA GB300デュアルワイドラックと同等です。

スケーリング面では、単一の拡張ネットワークドメインは最大2048個のJalapeño XPUを接続でき、16ラックをカバーします。量産面では、SemiAnalysisは2027年に段階的に生産を拡大すると予測しており、次のマイルストーンは100MWのデプロイ規模です。

より大きな戦略的図景では、OpenAIはBroadcomと10GWのカスタムアクセラレーターに関する協力契約を締結しました。この規模は、およそ10基の原子力発電ユニットの最大出力に相当します。

华尔街见闻文章は、OpenAIのチップ責任者リチャード・ホが、同社がインフラコストを実質的に削減できるレベルの消費電力とコストに到達したと述べ、「これは第一歩にすぎません」とし、同時に、NVIDIAが重要なパートナーであり、OpenAIの計算能力への需要は非常に大きく、短期間で現在のサプライヤーを放棄することはないとも強調した。

アナリストは、Jalapeñoの意義が、今日どれほど多くのNVIDIAチップを置き換えるかではなく、AI企業がAIツールを用いて過去に広く疑問視されていたことを証明した点にあると指摘している。つまり、記録的な短時間で、真正の競争力を持つチップを設計することに成功したのだ。この飛輪は、すでに回転を始めている。