Organisé par Jinshi Data
NVIDIA (NVDA.O) a lancé la plateforme NVIDIA DSX lors du salon NVIDIA GTC Taipei à Taipei, étendant ainsi sa présence dans les infrastructures d'usines d'IA.
Contrairement aux approches passées centrées sur la vente de GPU, DSX vise à fournir aux entreprises une solution complète d'usine AI, couvrant la conception, la simulation, le déploiement et la gestion opérationnelle.
À mesure que la taille des modèles d'IA continue d'augmenter, les défis auxquels les centres de données sont confrontés ne se limitent plus aux performances des puces, mais incluent également l'approvisionnement en électricité, la capacité de dissipation thermique, la planification des ressources et l'efficacité opérationnelle globale. NVIDIA estime que les indicateurs clés de la concurrence dans l'industrie de l'IA à l'avenir passeront progressivement des performances individuelles des puces à l'efficacité globale de l'infrastructure, c'est-à-dire la capacité à produire davantage de puissance de calcul et de services intelligents dans des limites d'électricité, d'espace et de ressources données.
À cette fin, la plateforme DSX intègre les puces, systèmes, logiciels, architectures de référence et technologies des partenaires de NVIDIA, couvrant tout le cycle de vie de la construction et de l'exploitation d'usines d'IA. La plateforme aide les clients à accélérer le déploiement, à améliorer la fiabilité et l'efficacité opérationnelle, ainsi qu'à réduire le coût de génération des tokens lors de l'inférence IA, en unifiant les technologies de calcul, de logiciel et d'infrastructure.
Huang Renxun a déclaré :
Nous ne livrons pas seulement des puces — nous fournissons à chaque constructeur d’infrastructure un système complet pour créer des usines d’IA. Avec la plateforme DSX, vous pouvez simuler l’ensemble de l’usine sans dépenser un centime, valider les performances avant l’installation du premier rack, et exploiter avec la fiabilité requise pour l’IA de production.
Le système logiciel publié cette fois-ci comprend principalement DSX MaxLPS et DSX OS.
DSX MaxLPS utilise le refroidissement liquide à 45 degrés Celsius et des technologies d'optimisation de la consommation énergétique au niveau du rack pour augmenter la production de tokens par mégawatt. NVIDIA indique que cette technologie permet d'ajouter jusqu'à 40 % de GPU supplémentaires avec un impact minimal sur les performances, réduisant ainsi davantage les coûts de calcul dans un budget énergétique fixe.
DSX OS est une plateforme logicielle open source dédiée à l'exploitation d'usines d'IA, offrant des fonctionnalités telles que la gestion du cycle de vie, l'ordonnancement intelligent, l'automatisation de la santé, l'exploitation multi-locataire et les services plateforme. NVIDIA ouvrira également des bibliothèques logicielles modulaires, des API, des designs de référence et une plateforme de calcul accéléré pour construire une architecture logicielle unifiée.
En plus du logiciel principal, DSX intègre plusieurs capacités existantes. Le DSX Reference Design propose une architecture de référence couvrant le calcul, le réseau, le stockage, l’alimentation et les systèmes de refroidissement ; DSX Sim permet la simulation et l’optimisation par jumeau numérique tout au long du processus, de la planification à l’exploitation ; DSX Flex ajuste dynamiquement les charges de travail en fonction de la charge du réseau et des variations tarifaires ; DSX Exchange assure la synergie des données entre les systèmes de calcul, de réseau, d’énergie et de refroidissement.
Sur le plan de la mise en œuvre commerciale, des fournisseurs de cloud tels que CoreWeave, Crusoe, IREN et Lambda ont déployé les composants principaux de DSX pour améliorer l'utilisation des GPU et réduire le temps de mise en ligne des services cloud AI.
L'écosystème matériel s'étend également en parallèle. Des fabricants tels que Dell Technologies (DELL.N), Hewlett Packard Enterprise (HPE.N), Lenovo (0992.HK), Supermicro (SMCI.O), ASUS, Foxconn, Gigabyte, Pegatron et Quanta Cloud Technology développent des systèmes prêts pour NVIDIA DSX afin d'aider leurs clients à construire des usines AI complètes.
Meanwhile, DSX Flex has launched commercial pilot projects with Emerald AI and Silicon Valley Power to validate the AI factory's ability to dynamically adjust power consumption based on grid demand.
Sur le plan stratégique, DSX marque la poursuite de la transformation de NVIDIA, passant d’un fournisseur de puces AI à un fournisseur de plateformes d’infrastructure AI. En intégrant les puces, le logiciel, l’architecture des centres de données, la gestion opérationnelle et la planification énergétique au sein d’un système unifié, NVIDIA vise à établir des normes industrielles couvrant tout le cycle de vie des usines AI et à renforcer davantage sa position de leader sur le marché mondial des infrastructures AI.