Le H100 de NVIDIA coûte jusqu'à 40 000 $, tandis que la RTX 5090, une carte gaming, coûte environ 2 000 $. Pour exécuter réellement de l'IA, quelle part de cet écart de 15 fois est réelle ? Moins que vous ne le pensez, pour la plupart des gens. Pour toute charge de travail qui tient dans 32 Go (modèles jusqu'à environ 13 Go en précision complète, ~32 Go quantifiés), la 5090 à 2 000 $ offre le meilleur rapport performance/prix disponible. Il n'y a pas de comparaison. Un fine-tuning d'un petit modèle ? Une exécution coûtant environ 2 $ en électricité sur une 5090 que vous possédez coûte environ 50 $ pour louer le temps équivalent sur un H100 dans le cloud. La carte se paie elle-même en un an. Mais le H100 justifie son prix dès que vous franchissez trois limites : - Mémoire : un modèle de 70 Go nécessite environ 40 Go même en 4 bits. Les 32 Go de la 5090 ne peuvent pas le contenir. - Fiabilité : la mémoire ECC détecte les erreurs de bits qui corrompent silencieusement une session d'entraînement de 48 heures. La 5090 n'en possède aucune. - Évolutivité : NVLink relie les H100 à 7 fois la vitesse PCIe. La 5090 ne dispose absolument pas de NVLink. La mauvaise décision coûteuse n'est pas de choisir la carte « moins bonne ». C'est de choisir la mauvaise carte pour votre tâche : payer trop cher un H100 que vous n'utiliserez jamais pleinement, ou sous-acheter une 5090 et heurter un mur que vous ne pouvez pas contourner par la quantification.