La plupart des gens voient la gamme de GPU NVIDIA comme une ligne droite : H100 rapide, H200 plus rapide, B200 le plus rapide. Achetez le plus récent que vous puissiez vous permettre. C’est l’une des erreurs les plus coûteuses en infrastructure d’IA. Ces trois puces ne poussent pas le même goulot d’étranglement plus fort. Elles résolvent trois goulets d’étranglement différents : L’H100 est la machine de base. 80 Go, une puissance de calcul solide. Sa limite n’est pas le calcul, c’est la capacité : 80 Go. L’H200 n’est PAS une nouvelle puce. Même die de calcul que l’H100. Mêmes FLOPS. NVIDIA n’a modifié que la mémoire : 141 Go et 43 % de bande passante en plus. Pourquoi ? Parce que l’inférence est limitée par la bande passante mémoire, pas par le calcul. Résultat : environ 40 % de performances supérieures pour zéro watt supplémentaire. Le B200 représente le vrai saut. Nouvelle architecture, double die, 192 Go, 2,4 fois plus de bande passante, FP4 natif, 1 000 W. Environ 2 à 2,5 fois plus puissant qu’un H100. Mais une classe de machine différente : nouvelles cartes mères, nouveau refroidissement, livraisons reportées à mi-2026. La règle qui fait économiser de l’argent : choisissez selon le goulot d’étranglement, pas selon la génération. Le modèle tient-il dans la mémoire (capacité) ? La décodage est-il limité par la bande passante ? Avez-vous vraiment besoin de plus de puissance de calcul ? Achetez la puce qui résout le premier mur que vous rencontrez. Le plus grand regret avec les GPU consiste à payer pour une puissance de calcul maximale alors que la charge de travail était limitée par la mémoire tout du long. #AI #GPU #AIModels