L'accord de 2 milliards de dollars de NVIDIA avec Groq porte ses fruits alors que les puces Groq 3 LPX entrent en production de masse

Découverte Beating AI : NVIDIA Groq 3 LPX entre en production de masse. En décembre dernier, NVIDIA a acquis la licence des technologies de Groq pour environ 20 milliards de dollars et recruté l'équipe clé, dont le fondateur Jonathan Ross. Huit mois plus tard, le premier matériel issu de cette transaction est enfin disponible. Le Groq 3 LPX est un système dédié à l'accélération de l'inférence des grands modèles, composé de 256 puces Groq 3 LPU. Lors des tests d'Artificial Analysis, avec une entrée de 100 000 tokens pour Gemma 4 31B, le Groq 3 LPX a atteint une vitesse de 3 431 tokens sortants par seconde. Dans les mêmes conditions, le plus rapide API publiquement disponible à l'époque ne dépassait pas environ 870 tokens par seconde — soit près de quatre fois moins. En déploiement réel, les GPU Rubin gèrent les calculs les plus intensifs, tandis que le Groq 3 LPX optimise spécifiquement la vitesse de génération des tokens. Pour un agent de codage effectuant des appels modèles consécutifs, plusieurs dizaines ou centaines de fois, cela réduit considérablement le temps d'attente pendant la génération des tokens. Nebius deviendra le premier fournisseur de cloud AI à adopter le Groq 3 LPX. Plus intéressant encore : Groq lui-même figure parmi les premiers utilisateurs et déployera le système en collaboration avec Dell. L'année dernière, Groq a accordé sa licence à NVIDIA ; cette année, il utilise à son tour une version « Groq » conçue par NVIDIA.