Alors que la taille des centres de données AI continue de croître, les discussions sur l'avantage concurrentiel de NVIDIA évoluent. TechCrunch, média étranger, note que les investisseurs se concentraient autrefois sur la question de savoir si les puces développées en interne par les fournisseurs de cloud affaibliraient les GPU, mais après le dernier rapport financier, le marché commence à se tourner vers une autre question : qui pourra faire fonctionner efficacement l'ensemble du système AI.
Le focus de la concurrence se déplace vers le système
L'article affirme que le déploiement de la puissance de calcul IA tend vers des niveaux de puissance plus élevés et des clusters plus grands ; se concentrer uniquement sur les GPU ne suffit plus à expliquer le paysage concurrentiel. Plus un centre de données est vaste, plus la synergie entre les données, le stockage, le réseau et le calcul devient complexe. Les GPU restent des composants essentiels, mais l'efficacité est de plus en plus déterminée par les capacités système situées au-delà des GPU.
C’est également au cœur du changement de narration actuel de NVIDIA. Même si de grands fournisseurs de cloud comme Amazon et Google continuent de développer leurs propres puces, NVIDIA construit un écosystème d’infrastructure plus complet autour des GPU. L’article le résume ainsi : si le GPU est le moteur, le reste du système constitue la voiture entière.
Vera Rubin couvre davantage d'étapes
TechCrunch mentionne que NVIDIA avance sur l'architecture Vera Rubin. Cette architecture ne se limite pas au GPU Rubin, mais inclut également le CPU Vera, ainsi qu'un système de rack dédié au stockage, au réseau, et autres composants. L'article estime que l'importance de ces produits réside dans le fait qu'ils ne génèrent pas directement des tokens, mais visent à minimiser les pertes de performance hors GPU.
Dans ce contexte, la Vera CPU est décrite comme un maillon essentiel de la planification des données. Jason Hardy, vice-président des technologies de stockage chez NVIDIA, a déclaré que la mémoire pouvant être hébergée sur un seul serveur ou une seule plateforme de calcul est limitée ; il est donc crucial de transférer les données vers le GPU au bon moment pour optimiser l'efficacité du système.
Les données deviennent un nouveau champ de bataille
L'article cite Hardy selon qui, dans certaines opérations concernées, l'accélération apportée par le CPU Vera peut atteindre environ trois fois. Cela signifie que les ressources matérielles telles que le flash peuvent être utilisées de manière plus efficace, et que les goulots d'étranglement du système ont la possibilité de diminuer.
L'article mentionne également que des problèmes similaires ne se limitent pas au système NVIDIA. Lors de la présentation précédente du puce Jalapeño, OpenAI avait également listé la réduction du déplacement des données et de la latence de communication comme objectifs principaux. L'idée consiste à garder la charge de travail complète au sein d'un système interconnecté afin de réduire les pertes liées à la transmission entre modules.
Selon TechCrunch, cela indique que la concurrence autour des infrastructures IA entre dans une nouvelle phase. Les entreprises ne se mesurent plus seulement à la puissance de traitement des processeurs, mais aussi à la manière dont les données circulent, comment le stockage s'adapte et comment le réseau évite les congestions. Autrement dit, la concurrence évolue de « qui a les GPU les plus puissants » vers « qui peut faire fonctionner l'ensemble du système avec une efficacité supérieure ».
L'article estime que ce changement ne signifie pas qu'NVIDIA a déjà remporté la victoire. L'entreprise doit toujours faire face à la concurrence d'autres fabricants de puces et de grands fournisseurs de services cloud. Toutefois, à ce stade, NVIDIA reste en avance en matière d'intégration et de gestion des systèmes, ce qui constitue une raison majeure pour laquelle le marché réévalue son avantage en matière d'IA.