La puce Jalapeño d'OpenAI surpasse le Blackwell de NVIDIA sur les principales métriques

Auteur original : Dong Jing

Source : Wall Street Journal

Le premier puce autonome d'OpenAI, Jalapeño, fait son apparition et bouleverse le paysage de l'industrie des puces AI à une vitesse incroyable — ce n'est pas seulement un nouveau produit, mais aussi un signal : l'IA est en train de redéfinir la manière même dont les puces sont conçues.

Selon l'article de Wall Street Journal, Bloomberg a rapporté le 25 août qu'OpenAI a déclaré que Jalapeño surpasse le GB300 de NVIDIA sur deux indicateurs clés : la quantité de travail AI traitée par unité de consommation d'énergie et la vitesse de réponse. Ce processeur, développé en collaboration entre OpenAI et Broadcom, est spécifiquement conçu pour la phase d'inférence AI et devrait être mis en œuvre en production avant la fin de l'année. Richard Ho, responsable des processeurs chez OpenAI, a indiqué que Jalapeño offre des performances puissantes avec une consommation faible de 700 watts, ce qui permettra de réduire considérablement les coûts énergétiques des centres de données.

Selon l'organisme de recherche semi-conducteur SemiAnalysis, ce puce a mis environ 16 mois pour passer de la conception à la production, et le nœud clé de la fabrication avec le封装 CoWoS a été achevé en novembre 2025, soit il y a seulement 9 mois, bien en dessous du cycle habituel de 18 à 36 mois dans l'industrie.

Les chercheurs de SemiAnalysis se sont rendus sur place dans les laboratoires d'OpenAI et ont testé Jalapeño avec leur propre suite de tests InferenceX, concluant directement que ce puce surpasse toutes les puces NVIDIA, AMD et Google qu'ils avaient précédemment testées en termes de performance par watt (perf/W).

Ce résultat est d'autant plus remarquable qu'il a été obtenu sans activer les optimisations telles que le décryptage spéculatif, le pré-remplissage ni le déploiement séparé du pré-remplissage et du décryptage pour Jalapeño, tandis que les autres puces impliquées dans la comparaison avaient déjà activé leurs configurations optimales.

Il n'est donc pas étonnant que l'analyste semi-conducteur célèbre Dylan Patel ait déclaré : « Ce n'est pas seulement Blackwell qui a été dépassé, mais aussi la puce Rubin de NVIDIA » !

L'analyse considère que ce résultat constitue un défi direct à la position de marché de NVIDIA et pousse le marché à réévaluer le paysage concurrentiel des puces AI.

Les résultats des tests de SemiAnalysis montrent que Jalapeño présente un avantage significatif en matière d'efficacité d'inférence.

Sur le modèle GPT-OSS 120B, Jalapeño peut générer environ 1459 tokens par seconde, contre seulement 535 pour le GB200 d’NVIDIA ; en termes de latence end-to-end, Jalapeño termine une tâche en seulement 1,65 seconde, tandis que le GB300 en nécessite près de 6 secondes, soit un écart de 3,6 fois. Dans les scénarios à forte interaction, lorsque le GB300 est poussé à sa vitesse de décodage maximale (169 tokens par seconde), le débit de Jalapeño est 104,3 fois supérieur.

Sur l'indicateur clé d'efficacité énergétique des centres de données, qui mesure le nombre de tokens générés par mégawatt par seconde, Jalapeño atteint environ 53 millions de tokens/MW/s sur le modèle GPT-OSS, tandis que le GB200 NVL72 n'atteint qu'environ 10 millions.

SemiAnalysis souligne que cet indicateur équivaut fondamentalement au nombre de tokens produits par joule, déterminant directement le plafond des revenus des centres de données — dans un contexte où la puissance de calcul est limitée par l'électricité, cet avantage est particulièrement crucial.

Du point de vue des coûts systémiques, selon SemiAnalysis, qui inclut l'alimentation électrique, le refroidissement et le réseau dans ses calculs, le coût total de possession par puce et par heure de Jalapeño est d'environ 1,56 $, presque équivalent aux 1,55 $ du H100, tandis que le Vera Rubin de NVIDIA atteint 3,61 $.

Il est à noter que SemiAnalysis a également formulé plusieurs réserves importantes.

Premièrement, le modèle utilisé pour les tests n'est pas le modèle le plus récent ; NVIDIA et AMD ont déjà publié des résultats basés sur le kit AgentX pour des modèles plus volumineux, tels que DeepSeek V4 Pro et Kimi K3, tandis que Jalapeño n'a pas encore terminé les tests AgentX — ce kit reflète mieux les performances dans des scénarios de production réels impliquant des conversations multiround et des contextes longs.

Deuxièmement, le comparatif le plus équitable serait avec l’NVIDIA Vera Rubin, qui utilise également le HBM4, et non Blackwell ; la performance par watt de Vera Rubin est environ 5,4 fois supérieure à celle du GB200 NVL72, et les deux sont presque équivalents en termes de coût total de possession (TCO) par token.

Troisièmement, Jalapeño est encore en phase d'échantillons d'ingénierie, et la production de masse devrait progressivement augmenter à partir de 2027.

La profonde intégration d'outils d'IA est l'une des raisons principales pour lesquelles Jalapeño a pu être développé à un rythme aussi impressionnant. Selon SemiAnalysis, OpenAI a largement utilisé des modèles internes d'IA dans le processus de conception de puces, notamment GPT-Astra, largement suivi par le public.

L'utilisateur de la plateforme sociale X, Andrew Curran, cite des informations d'OpenAI indiquant que GPT-Astra a été profondément impliqué dans le développement complet de Jalapeño :

L'équipe a utilisé Codex et GPT-Astra pour optimiser trois modèles open source initialement non prévus dans le plan de production de Jalapeño, les amenant à un niveau de performance élevé en deux mois.

Cela signifie que l'IA n'accélère pas seulement la conception des puces elle-même, mais élargit également rapidement la gamme de modèles que les puces peuvent prendre en charge.

Les données de SemiAnalysis quantifient davantage cette contribution :

La conception assistée par IA réduit la surface des unités SIMD de 8 % et celle du moteur matriciel de 10 %, tout en offrant de meilleures performances en termes de timing et de consommation d'énergie par rapport à la version initiale.

Au niveau logiciel, OpenAI a utilisé une version interne étendue de Codex pour écrire le noyau Jalapeño, certaines parties du noyau atteignant environ 3 000 lignes de code ; sur les mécanismes d'attention et les modules MoE les plus exigeants en performances, le code généré par l'IA est 1,5 à 1,8 fois plus rapide que les implémentations des ingénieurs humains les plus compétents.

SemiAnalysis évalue cela de manière percutante : les modèles OpenAI (comme GPT-5.6 Sol) exécutés sur les GPU NVIDIA sont utilisés pour concevoir une puce qui constitue une véritable menace pour le fossé CUDA — « les propres GPU de NVIDIA sont en train de催生 en temps réel leur successeur potentiel ».

On suppose généralement que Jalapeño est un processeur spécifiquement conçu pour les modèles internes d'OpenAI, mais les conclusions de SemiAnalysis sont exactement l'inverse : Jalapeño est un processeur universel dédié à l'inférence IA, capable d'exécuter divers modèles et charges de travail, y compris le jeu Doom porté par Codex.

Au niveau de l'architecture, la philosophie de conception centrale de Jalapeño est « éliminer les délais fixes ». Contrairement aux GPU qui dépendent de hiérarchies mémoire complexes, Jalapeño lie directement les cœurs de calcul aux tranches HBM, et les cœurs synchronisent leurs opérations via un réseau collectif dédié à haut débit, réduisant considérablement la latence d'accès à la mémoire.

De plus, Jalapeño utilise un cœur avec exécution hors ordre (OoO) et un cache L1, contrairement aux registres gérés par logiciel couramment utilisés par d'autres accélérateurs, ce qui lui permet de s'approcher davantage du pic théorique du matériel dans les scénarios à faible volume et faible latence.

En termes de bande passante mémoire, Jalapeño utilise HBM4, offrant une bande passante mémoire par package de 15,4 To/s et une bande passante HBM par watt de 22, contre 11,1 pour NVIDIA Rubin et seulement 5,71 pour GB300.

SemiAnalysis indique que la vitesse des broches HBM4 de Jalapeño atteint 10 Gbps, légèrement supérieure aux 9,6 Gbps de Rubin de NVIDIA, avec un fournisseur d'HBM potentiellement Samsung.

Il est à noter que Jalapeño a choisi de ne pas mettre en œuvre le déploiement séparé du pré-remplissage et du décodage (PDD). SemiAnalysis en donne une explication détaillée :

Dans un environnement de production réel, les paramètres tels que le rapport entrée/sortie, le niveau de concurrence et le taux de命中 du cache varient continuellement ; une répartition fixe des pools entraîne une baisse de l'utilisation globale ; en revanche, des pools de ressources homogènes peuvent réagir de manière flexible aux variations du trafic, en allouant dynamiquement les ressources entre les requêtes sensibles à la latence et les traitements par lots à haut débit.

SemiAnalysis a émis un jugement puissant dans son rapport : le fossé protecteur de CUDA pourrait être mort.

Cela repose sur la comparaison de la vitesse de démarrage des logiciels. Le flux de production CoWoS de la Rubin d’NVIDIA a été achevé un mois avant celui du Jalapeño, mais jusqu’à présent, les seules données de référence publiques de la Rubin visibles par le grand public proviennent uniquement des échantillons d’ingénierie de CoreWeave ; NVIDIA n’a pas ouvert ses laboratoires aux tiers pour des tests libres, contrairement à OpenAI. SemiAnalysis estime que cela reflète non pas un écart en termes de matériel, mais un écart en matière de maturité logicielle.

En construisant la pile logicielle depuis zéro, OpenAI a pu se débarrasser des fardeaux historiques et prendre des décisions d’architecture plus propres. OpenAI utilise son propre langage de programmation de noyau, Gluon (basé sur Triton), ainsi que son moteur d’inférence interne « Teacup », et s’appuie sur Codex pour optimiser rapidement le noyau. SemiAnalysis a observé qu’en moins de deux semaines, Jalapeño a augmenté son débit de plus de deux fois à une vitesse d’interaction spécifique ; en huit jours, l’équipe a étendu le parallélisme tensoriel de TP8 à TP32, réalisant un déploiement à l’échelle d’un rack complet entre racks.

Cependant, SemiAnalysis a également souligné que les tests actuels ne couvrent que la charge de travail relativement simple de 8k1k et n'ont pas encore été menés sur les tests longs en plusieurs étapes d'AgentX. Sous des charges de travail d'agent plus complexes, les performances des composants tels que le routeur et le cache de préfixe constitueront de nouveaux défis.

L'histoire de Jalapeño n'est pas encore terminée.

Selon SemiAnalysis, les échantillons utilisés pour les tests publics actuels sont tous des versions A0, tandis que les versions B0 ont déjà été envoyées à l'usine de fabrication de puces et devraient offrir une amélioration d'environ 25 % de la performance par watt par rapport aux A0 — la capacité de calcul MXFP4 d'un seul die de calcul B0 atteindra 13,4 PFLOPs, avec une TDP maintenue à 700 W.

Au niveau système, OpenAI a collaboré avec Celestica pour concevoir une solution de rack complète : chaque rack ASIC contient 128 puces Jalapeño, avec une consommation totale d'environ 160 kW pour un système à deux racks, équivalente à celle d'un rack double largeur NVIDIA GB300.

En ce qui concerne le déploiement à grande échelle, un seul domaine de réseau étendu peut connecter jusqu'à 2048 Jalapeño XPU, couvrant 16 baies. En termes de production de masse, SemiAnalysis prévoit une montée en puissance progressive à partir de 2027, avec le prochain jalon visant une capacité de déploiement de 100 MW.

La vision stratégique plus large est qu'OpenAI a signé un accord de collaboration pour 10 GW d'accélérateurs sur mesure avec Broadcom, un volume équivalent à la puissance maximale de dix réacteurs nucléaires.

Article de Wall Street Journal rapporte que Richard Ho, responsable des puces chez OpenAI, a déclaré que l'entreprise a atteint un niveau de consommation énergétique et de coûts permettant de réduire concrètement les coûts d'infrastructure, « Ceci n'est qu'une première étape ». Il a également souligné que NVIDIA reste un partenaire important, car les besoins d'OpenAI en puissance de calcul sont énormes et qu'elle ne renoncera pas à ses fournisseurs actuels à court terme.

Les analystes soulignent que l'importance de Jalapeño ne réside peut-être pas dans sa capacité à remplacer aujourd'hui un certain nombre de puces NVIDIA, mais dans le fait qu'elle prouve une chose longtemps remise en question : une entreprise d'IA, en utilisant des outils d'IA, a pu concevoir en un temps record une puce véritablement compétitive. Ce cercle vertueux a déjà commencé à tourner.