OpenAI 的 Jalapeño 芯片在關鍵指標上超越 NVIDIA Blackwell

iconOdaily
分享
AI summary icon精華摘要
OpenAI 的 Jalapeño 芯片在網路指標如能效和回應速度上超越 NVIDIA 的 Blackwell。SemiAnalysis 報導,Jalapeño 在 GPT-OSS 120B 上每秒處理 1459 個 token,而 NVIDIA 的 GB200 僅為 535 個。該芯片由 Broadcom 製造,預計今年晚些時候投入部署。隨著 OpenAI 挑戰 NVIDIA 在 AI 硬體領域的主導地位,值得關注的山寨幣可能發生變化。

原文作者:董靜

原文來源:华尔街见闻

OpenAI 首顆自研晶片 Jalapeño 橫空出世,以令人咋舌的速度顛覆了 AI 晶片行業的既有格局——這不僅是一次產品發布,更是一個信號:AI 正在重塑晶片本身的設計方式。

根據华尔街见闻文章報導,彭博於 8 月 25 日報導,OpenAI 表示,Jalapeño 在單位功耗可處理的 AI 工作量和響應速度這兩項關鍵指標上均領先英偉達 GB300。該晶片由 OpenAI 與 Broadcom 合作開發,專為 AI 推理階段設計,最快將於今年晚些時候投入實際使用。OpenAI 芯片負責人 Richard Ho 表示,Jalapeño 在 700 瓦低功耗下即可實現強勁性能,有助於大幅降低數據中心電力成本。

根據半導體研究機構 SemiAnalysis 披露,這顆晶片從設計啟動到完成流片僅歷時約 16 個月,而其中關鍵的 CoWoS 封裝流片節點完成於 2025 年 11 月,距今不過 9 個月,遠低於行業慣常的 18 至 36 個月週期。

SemiAnalysis 研究人員親赴 OpenAI 實驗室,使用其自研基準測試套件 InferenceX 對 Jalapeño 進行了實測,結論直接:該晶片在每瓦性能(perf/W)指標上擊敗了他們此前測試過的所有英偉達、AMD 及谷歌晶片。

更值得關注的是,這一成績是在 Jalapeño 尚未啟用投機解碼、未做預填充與解碼分離部署等優化手段的情況下取得的,而參與對比的其他晶片均已開啟各自最佳配置。

难怪連著名半導體分析師 Dylan Patel 也直言,「被掀翻的不只是 Blackwell,就連英偉達 Rubin 芯片也被超越了」!

分析認為,這一結果對英偉達的市場地位構成直接挑戰,也令市場重新審視 AI 芯片競爭格局。

實測數據:Jalapeño 在多項關鍵指標上碾壓 Blackwell

SemiAnalysis 的測試結果顯示,Jalapeño 在推理效率上的優勢相當顯著。

在 GPT-OSS 120B 模型上,Jalapeño 每秒可輸出約 1459 個 Token,而英偉達 GB200 僅為 535 個;在端到端延遲方面,Jalapeño 完成一個任務僅需 1.65 秒,GB300 則需接近 6 秒,差距達 3.6 倍。在高互動場景下,當 GB300 被推至其最快解碼速度(每秒 169 個 Token)時,Jalapeño 的吞吐量是其 104.3 倍。

在每兆瓦每秒輸出 Token 數這一衡量數據中心能效的核心指標上,Jalapeño 在 GPT-OSS 模型上達到約 5300 萬個 Token/MW/s,而 GB200 NVL72 僅約 1000 萬。

SemiAnalysis 指出,這一指標本質上等同於每焦耳產出的 Token 數,直接決定了數據中心的收入天花板——在算力受電力約束的當下,這一維度的優勢尤為關鍵。

從系統級成本來看,據 SemiAnalysis 將供電、散熱、網絡全部納入計算後,Jalapeño 每晶片每小時總擁有成本約為 1.56 美元,與 H100 的 1.55 美元幾乎持平,而英偉達 Vera Rubin 則高達 3.61 美元。

值得注意的是,SemiAnalysis 同時提出了若干重要保留意見。

其一,測試所用模型並非當前最前沿的模型,英偉達和 AMD 已在更大規模模型(如 DeepSeek V4 Pro、Kimi K3)上發布了基於 AgentX 套件的成績,而 Jalapeño 尚未完成 AgentX 測試——該套件更能反映多輪、長上下文等真實生產場景的性能表現。
其二,更公平的比較對象應是同樣採用 HBM4 的英偉達 Vera Rubin,而非 Blackwell;Vera Rubin 的每瓦性能較 GB200 NVL72 提升約 5.4 倍,與 Jalapeño 相比,兩者在每 Token 總擁有成本(TCO)上幾乎持平。
其三,Jalapeño 目前仍處於工程樣片階段,量產預計要到 2027 年才逐步爬坡。

AI 設計晶片:GPT-Astra 與 Codex 的"飛輪效應"

Jalapeño 能以如此驚人的速度完成開發,AI 工具的深度介入是核心原因之一。據 SemiAnalysis 披露,OpenAI 在晶片設計過程中大量使用了內部 AI 模型,其中包括備受外界關注的 GPT-Astra。

社交平台 X 用戶 Andrew Curran 援引 OpenAI 資訊指出,GPT-Astra 深度參與了 Jalapeño 的研發全程:

團隊借助 Codex 與 GPT-Astra,在兩個月內將三個原本不在 Jalapeño 量產計劃內的開源模型調優至高性能狀態。

這意味著,AI 不僅在加速晶片設計本身,還在快速擴展晶片所能支援的模型範圍。

SemiAnalysis 的數據進一步量化了這一貢獻:

AI-assisted design reduces the area of SIMD units by 8% and the area of the matrix engine by 10%, while achieving better timing and power performance than the initial version.

在軟體層面,OpenAI 使用內部擴展版 Codex 撰寫 Jalapeño 核心,部分核心代碼長達約 3000 行;在最耗性能的注意力機制和 MoE 模塊上,AI 生成的代碼比人類頂尖工程師的實現快 1.5 至 1.8 倍。

SemiAnalysis 的評價頗為犀利:運行在英偉達 GPU 上的 OpenAI 模型(如 GPT-5.6 Sol),正被用來設計一款對 CUDA 护城河構成真實威脅的晶片——「英偉達自己的 GPU 正在實時催生自己潛在的接班人」。

架構解析:為何「通用」反而更快?

外界普遍預設 Jalapeño 是一顆專為 OpenAI 自家模型深度定製的晶片,但 SemiAnalysis 的結論恰恰相反:Jalapeño 是一顆面向 AI 推理的通用晶片,能夠運行各類模型和工作負載,甚至包括用 Codex 移植的《毀滅戰士》遊戲。

在架構層面,Jalapeño 的核心設計哲學是「消除固定延遲」。與 GPU 依賴複雜記憶體層級不同,Jalapeño 將計算核心與 HBM 切片直接綁定,核心間通過專用高頻寬集合網路同步,大幅降低了記憶體存取延遲。

此外,Jalapeño 採用亂序執行(OoO)核心搭配 L1 快取,而非其他加速器普遍使用的軟體管理暫存器,這使其在小批量、低延遲場景下能夠更接近硬體理論峰值。

在記憶體頻寬方面,Jalapeño 採用 HBM4,實現了 15.4 TB/s 的單封裝記憶體頻寬,每瓦 HBM 頻寬達 22,而英偉達 Rubin 為 11.1,GB300 僅為 5.71。

SemiAnalysis 指出,Jalapeño 的 HBM4 引腳速度達 10Gbps,略高於英偉達 Rubin 的 9.6Gbps,HBM 供應商可能為三星。

值得一提的是,Jalapeño 選擇不進行預填充與解碼分離部署(PDD)。SemiAnalysis 對此作出了詳細解釋:

在真實生產環境中,輸入輸出比例、併發量、快取命中率等參數持續變化,固定分池會導致全局利用率下降;而同構資源池可以靈活響應流量變化,在延遲敏感型請求和高吞吐批處理之間動態调配。

CUDA 护城河:裂縫已現?

SemiAnalysis 在報告中拋出了一個頗具分量的判斷:CUDA 的護城河可能已經死了。

其依據在於軟體啟動速度的對比。英偉達 Rubin 的 CoWoS 流片比 Jalapeño 早一個月完成,但迄今為止,外界能看到的 Rubin 公開基準數據僅來自 CoreWeave 的工程樣片,英偉達並未像 OpenAI 那樣開放第三方進入實驗室自由測試。SemiAnalysis 認為,這反映的不是硬體本身的差距,而是軟體成熟度的差距。

從零開始構建軟體棧,反而讓 OpenAI 得以擺脫歷史包袱,做出更乾淨的架構決策。OpenAI 使用自研內核編程語言 Gluon(基於 Triton 構建)以及內部推理引擎 "Teacup",並借助 Codex 快速完成內核調優。SemiAnalysis 觀察到,在不到兩週的時間內,Jalapeño 在特定交互速度下的吞吐量提升超過 2 倍;在 8 天內,團隊將張量並行從 TP8 擴展至 TP32,實現了跨機架的全機櫃規模部署。

不過,SemiAnalysis 也明確指出,目前的測試僅覆蓋 8k1k 這一相對簡單的工作負載,尚未完成 AgentX 多輪長上下文測試。在更複雜的智能體工作負載下,路由器、前綴快取等組件的表現將成為新的考驗。

下一步:B0 已入廠,10GW 版圖徐徐展開

Jalapeño 的故事遠未結束。

根據 SemiAnalysis 披露,目前公開測試所用的均為 A0 步進樣片,而 B0 步進已進入晶圓廠,預計在每瓦性能上較 A0 再提升約 25%——B0 單顆計算 die 的 MXFP4 算力將達 13.4 PFLOPs,TDP 維持在 700W。

在系統層面,OpenAI 與 Celestica 合作設計了完整的機架方案:每個 ASIC 機櫃包含 128 顆 Jalapeño 芯片,雙機櫃系統總功耗約 160kW,與英偉達 GB300 雙寬機櫃相當。

在規模化部署方面,單一擴展網絡域最多可連接 2048 顆 Jalapeño XPU,覆蓋 16 個機架。在量產方面,SemiAnalysis 預計將於 2027 年逐步爬坡,下一個里程碑目標是 100MW 部署規模。

更大的戰略圖景是,OpenAI 與 Broadcom 已簽署 10GW 定制加速器合作協議,這一量級大致相當於十座核電機組的滿發功率。

华尔街见聞文章寫道,OpenAI 芯片負責人 Richard Ho 表示,公司已達到能夠切實降低基礎設施成本的功耗和成本水平,"這只是第一步"。他同時強調,英偉達仍是重要合作夥伴,OpenAI 對算力的需求極為龐大,短期內不會放棄現有供應商。

分析人士指出,Jalapeño 的意義或許不在於它今天能替代多少 NVIDIA 芯片,而在於它證明了一件此前被普遍質疑的事:一家 AI 公司,用 AI 工具,在創紀錄的時間內,造出了一顆真正具備競爭力的芯片。這個飛輪,已經開始轉動。

免責聲明:本頁面資訊可能來自第三方,不一定反映KuCoin的觀點或意見。本內容僅供一般參考之用,不構成任何形式的陳述或保證,也不應被解釋為財務或投資建議。 KuCoin 對任何錯誤或遺漏,或因使用該資訊而導致的任何結果不承擔任何責任。 虛擬資產投資可能存在風險。請您根據自身的財務狀況仔細評估產品的風險以及您的風險承受能力。如需了解更多信息,請參閱我們的使用條款風險披露