Organizado por Jinshi Data
NVIDIA (NVDA.O) lanzó la plataforma NVIDIA DSX en el evento NVIDIA GTC Taipei celebrado en Taipéi, ampliando aún más su presencia en la infraestructura de fábricas de IA.
A diferencia de en el pasado, cuando el enfoque principal era la venta de GPU, DSX busca ofrecer a las empresas una solución integral de fábrica de IA que abarca diseño, simulación, implementación y operación administrativa.
A medida que los modelos de IA continúan creciendo en tamaño, los desafíos que enfrentan los centros de datos ya no se limitan al rendimiento de los chips, sino que también incluyen el suministro de energía, la capacidad de disipación térmica, la programación de recursos y la eficiencia operativa general. NVIDIA considera que el indicador clave de la competencia en la industria de la IA en el futuro evolucionará gradualmente desde el rendimiento individual del chip hacia la eficiencia general de la infraestructura, es decir, cómo producir más capacidad de cómputo y servicios inteligentes dentro de límites limitados de electricidad, espacio y recursos.
Para ello, la plataforma DSX integra chips, sistemas, software, arquitecturas de referencia y tecnologías de socios de NVIDIA, cubriendo todo el ciclo de vida de la construcción y operación de fábricas de IA. La plataforma ayuda a los clientes a mejorar la velocidad de implementación, la confiabilidad y la eficiencia operativa, así como a reducir los costos de generación de tokens durante la inferencia de IA, mediante una pila tecnológica unificada de cómputo, software e infraestructura.
Huang Renxun dijo:
No solo estamos entregando chips; estamos proporcionando a cada constructor de infraestructura un sistema completo para construir fábricas de IA. Con la plataforma DSX, puedes simular toda la fábrica sin gastar un centavo, validar el rendimiento antes de instalar el primer rack y operar con la confiabilidad requerida por la IA de producción.
El sistema de software lanzado en esta ocasión incluye principalmente DSX MaxLPS y DSX OS.
Entre ellos, DSX MaxLPS utiliza refrigeración líquida a 45 grados Celsius y tecnología de optimización de consumo de energía a nivel de rack para aumentar la producción de tokens por megavatio de electricidad. NVIDIA indica que esta tecnología permite desplegar hasta un 40 % más de GPU con un impacto mínimo en el rendimiento, reduciendo aún más los costos de cómputo dentro de un presupuesto eléctrico fijo.
DSX OS es una plataforma de software de código abierto diseñada para la operación de fábricas de IA, que admite funciones como gestión del ciclo de vida, programación inteligente, automatización de salud, operación multiinquilino y servicios de plataforma. NVIDIA también abrirá el código de bibliotecas de software modular, API, diseños de referencia y plataformas de cómputo acelerado para construir una arquitectura de software unificada.
Además del software principal, DSX integra varias capacidades existentes. El DSX Reference Design ofrece una arquitectura de referencia que cubre sistemas de cómputo, red, almacenamiento, suministro de energía y refrigeración; DSX Sim permite la simulación y optimización digital twin desde la planificación hasta la operación; DSX Flex ajusta dinámicamente la carga de trabajo según la carga de la red eléctrica y los cambios en los precios de la energía; DSX Exchange facilita la colaboración de datos entre los sistemas de cómputo, red, energía y refrigeración.
En términos de implementación comercial, proveedores de nube como CoreWeave, Crusoe, IREN y Lambda ya han desplegado los componentes centrales de DSX para aumentar la utilización de GPU y reducir el tiempo de lanzamiento de servicios de IA en la nube.
El ecosistema de hardware también se está expandiendo simultáneamente. Fabricantes como Dell Technologies (DELL.N), Hewlett Packard Enterprise (HPE.N), Lenovo (0992.HK), Supermicro (SMCI.O), ASUS, Foxconn, Gigabyte, Pegatron y Quanta Cloud Technologies están desarrollando sistemas preparados para NVIDIA DSX para ayudar a sus clientes a construir fábricas de IA de pila completa.
Meanwhile, DSX Flex has launched commercial pilot projects with Emerald AI and Silicon Valley Power to validate the AI factory's ability to dynamically adjust power consumption based on grid demand.
Desde una perspectiva estratégica, DSX marca la continuación de NVIDIA en su transición de proveedor de chips de IA a proveedor de plataformas de infraestructura de IA. Al integrar chips, software, arquitectura de centros de datos, gestión operativa y programación energética en un sistema unificado, NVIDIA busca establecer estándares industriales para todo el ciclo de vida de las fábricas de IA y consolidar aún más su liderazgo en el mercado global de infraestructura de IA.