【導読】GPT-5.6の推論速度はなんと750トークン/秒！専門家が暴露：100枚のウェハーにまたがって動作するという。AIが思考から閃光へ、リアルタイムインテリジェンスの時代は本当に訪れたのか？
さまざまな情報源によると、GPT-5.6はまもなく一般公開されます。
最近、このモデルに関するさまざまな推測がX上で話題になっています。
6月26日、OpenAIは正式に新世代のGPT-5.6ファミリーを発表しました。
また、公式ブログには次のように記載されています：OpenAIは今月、チップ大手Cerebrasのカスタムハードウェア上で、推論速度が驚異的な秒間750トークンを達成する新世代モデル「GPT-5.6 Sol」をリリース予定です。
つまり、かつて数分待つ必要があった複雑なAgent操作が、今や一瞬で完了します。
明らかに、OpenAIはハードウェアとモデルの協調設計において、革新的な一歩を先に踏み出している。
先日、史上初の自社開発AI推論チップ「Jalapeño」が公開されたことから、OpenAIが全スタックAI帝国になるという野望を抱いていることが感じ取れる。
天下の武功、速やかなるものに勝るなし：秒間750トークンの次元圧縮打击
「毎秒750個のトークン」とはどのような概念ですか？
人間にとって、これは1秒間に約500〜600の漢字を読み取り、出力するのに相当します。
あなたが眼前にしているこのテキストは、GPT-5.6 Solなら0.何秒もかからずに生成できます。
X上で有名な開発者Caleb Shepherdは次のように熱狂的に語った：「これが最もワクワクする出来事です。GPT-5.6 SolがCerebras上で動作しています。コードを書く速度が速くなっただけでなく、コンピュータの使用速度が質的に変化したからです。もうAIがボタンをクリックするのを2分間待つ必要はありません。」
長年にわたり、大規模モデルはますます賢くなっている一方で、「推論遅延」は、リアルタイムのインタラクティブな複数ステップエージェントタスクの実装における最大のボトルネックであり続けてきた。
モデルが数兆パラメータに達すると、従来のGPUクラスタはノード間通信（NVLink接続）で物理的ボトルネックに直面することが多い。
一方、OpenAIの回答は次の通りです：モデルがハードウェアに適応するのではなく、ハードウェアとモデルを一体化させることです。
公式が公表した初期情報によると、GPT-5.6 Solは7月に限定的な規模で特定の顧客に開放され、生産能力が段階的に増加するにつれて徐々に拡大されます。
オンラインで推測されていたように、これは確かに非常に高額なサービスであり、速度に価値を置くトップ企業向けの特権です。
3兆パラメータの巨大モデルをチップにどう収めるのか？
750 Tokens/sというメッセージが広まったとき、LLM Arenaの責任者であるPeter Gostevは、誰もが疑問に思った次の質問を投げかけた：
GPT-5.6 SolがCerebras上で実際に何なのか？私の理解では、これは以前のGPT-5.3-Codex-Sparkのように視覚やコンテキストが削除された劣化版ではなく、完全な同じモデル（視覚を含むマルチモーダル機能を備えた）であるようだ。
しかし、私の理解では、Cerebrasの単一チップには最大で7000億〜9000億パラメータのモデルしか搭載できません。では、モデルが小さくなったのでしょうか？それとも、私が知らない新しいチップがあるのでしょうか？あるいは、複数チップを協調させる新しい技術でしょうか？
この疑問はすぐに多くのネットユーザーの議論を引き起こした。
誰かが、これは「真夜中に法医レベルのチップ監査を行っている」と冗談を言い、さらに「もしこれが本当に同じ完全なモデルであるなら、それは誰かがスーパーヨットをガラスの瓶に無理やり押し込んでいるようなもので、しかもその方法を教えてくれない」と述べた。
まもなく、経験豊富な技術専門家Bleys Goodsonが、非常に説得力のあるハードコアな推論を提示しました——
GPT-5.6 Solは1枚のチップを組み込んだのではなく、70〜100枚のCerebrasウェハレベルチップを横断しています！
究極のデプロイ美学：「1枚のウェハ、1つのネットワーク」
業界の専門家によると、GPT-5.6 Solの仕様は非常に巨大です：
- 総パラメータ数：約3兆
- アクティブパラメーター：約1500億
- ネットワーク層：約70〜90層
健康的推論サービス特性を得るため、OpenAIとCerebrasは、ニューラルネットワークの各層を1枚のCerebrasウエハに個別にデプロイするという、極めて贅沢で衝撃的な方法を採用しました。
あるネットユーザーが指摘したように、パイプラインステージを増やすことで、十分なウェハーを用意してそれらを接続すれば、理論的には任意の大きさのモデルを拡張でき、トークン生成速度には影響せず、最初のトークンまでの時間（TTFT）にわずかな影響を与える可能性があるだけです。
断固たるアーキテクチャの再構築——迫られた軽量化KV Cache
しかし、大量のウエハだけでは十分ではありません。Cerebrasチップアーキテクチャの大きな特徴の一つは、非常に高速だが容量が極めて貴重な大量のオンチップSRAM（静的ランダムアクセスメモリ）を備えていることです。
OpenAIが過去と同じように、GPT-5.6 Solで従来の重いKVキャッシュを使用した場合、これらの高価なSRAM帯域幅は瞬時に消費されてしまうだろう。
これにより、今回の提携の最も核心的な戦略的転換が浮かび上がります：特定のハードウェアに沿ったモデルの再構築。
Bleys Goodsonは、OpenAIがハードウェア協同設計に深く関与していることから、従来のアテンションメカニズムキャッシュ方式を放棄し、より先進的な軽量設計を採用した可能性が非常に高いと指摘した。
最も可能性の高い案には：
DeepSeekV4と同様のアーキテクチャ：キャッシュ占有量を極限まで最適化
ハイブリッドSSM設計：Mambaなどの線形時間複雑度モデルをTransformerと組み合わせ、KVキャッシュの歴史的負担を完全に解消。
また、有名な開発者John Lamは、注意機構とFFNの分離という驚異的な仮説を提起しました。
彼は、OpenAIが注意計算に従来のGPUを使用し、フィードフォワードニューラルネットワーク部分の計算には膨大なCerebrasウエハを駆使していると推測している。
これはまったくの根拠のない話ではない。ネットユーザーたちは、Cerebrasが以前のブログでKimi K2.6のデプロイ詳細について記述していたことをすぐに掘り起こした。
Cerebrasは、CS-3システム上でKimi K2.6のオリジナル重みを4ビットで格納し、計算には16ビット浮動小数点を使用して精度を保証します。重みは複数のワーファーに分散され、アクティベーション値はワーファー間でストリーミングされます。層と層間の完全連結通信は、ワーファー上のネットワーク構造に完全に依存しており、その帯域幅はNvidia NVL72のNVLinkの200倍以上です！カスタムオペレーターと投機的デコードを組み合わせることで、彼らは兆パラメータ規模のMoEモデルを約1000トークン/秒の速度で実行できます。
公式仕様によると、革新的なCS-3システムは速度が圧倒的であり、単一の論理デバイス上で24兆パラメータのモデルを簡単に拡張できます！
誰かが感嘆したように：「もしこれがCerebras上で動作するSolの完全版であれば、今日の夜、すべての人が想定していたモデルサイズの上限がいきなり突破されたことになる。」
真の切り札——OpenAIが自社開発したチップ「Jalapeño」を初公開
そしてその直前、OpenAIは史上初の自社開発チップ「Jalapeño」を正式にリリースしました。
このチップの登場は、OpenAIとCerebrasの協力の深層的なロジックを明確に説明している：OpenAIはサードパーティの最高峰の推論ハードウェアでの探求を通じて、専用推論アーキテクチャの核心と価値を完全に理解し、それを自社が制御できる基盤プラットフォームに転化した。
ハラペーニョはメキシコの唐辛子の中で最も辛さが控えめな品種の一つです。OpenAIがこの名前を採用したのは、これが単なる前菜にすぎないことを示唆している显然です。
このチップは、大規模モデル推論のために設計されたカスタムASICです。最初の線を引いた瞬間から、すべてのトランジスタは一つの目的のために最適化されています：大規模モデルを実行すること。
驚異的に、JalapeñoはOpenAIの自社モデルだけでなく、業界全体のLLMと互換性があり、大きなプラットフォームへの野心を示しています。
さらに、このチップの設計とプロセス製造はたった9か月で完了しました。
その背後には、非常に強力な産業アライアンスがあります：
アーキテクチャ主導：OpenAIが底层アーキテクチャ設計を直接手がけます。
チップ実装とネットワーク接続：チップ大手のBroadcomが強力な実装能力とネットワーク接続技術を提供。
システム統合：Celesticaが最終的なボード製造およびラックレベルの物理的統合を担当します。
サプライチェーン全体を吸収する、OpenAIのフルスタック帝国への野望
モデルを自前で学習し、チップを自前で設計し、推論を自前で最適化し、デプロイを自前で制御する。
明らかに、OpenAIの目標は、広大なフルスタックAI帝国である。
しかし、OpenAIの野心はAppleやGoogleよりもさらに大胆であり、彼らは前例のないスーパーフライホイールを有している：AIを使ってAIインフラストラクチャの構築を加速し、構築されたより強力なインフラを使ってより強力なAIを実行する。
OpenAIが公表した壮大な計画によると、最初のGW級スーパーデータセンターは2026年末から、マイクロソフトなどの主要な提携パートナーと共同で導入されます。
ある中規模都市の全電力消費量が、Jalapeñoおよび次世代ペッパー・チップの推論ラックを駆動するために使われる。
準備してください。まもなく、GPT-5.6 SolがCerebrasウエハ上で750 Tokens/sの速度で駆け抜け、パラメータと推論速度の物理的制約を打破します。
参考資料：https://x.com/bleysg/status/2073937651150029084
本文は微信公衆号「新智元」より、著者：ASI启示録；編集：Aeneas