Организовано: Jinshi Data
NVIDIA (NVDA.O) анонсировала платформу NVIDIA DSX на конференции NVIDIA GTC Taipei в Тайбэе, расширив свое присутствие в сфере инфраструктуры AI-фабрик.
В отличие от прошлого, когда основной акцент делался на продаже GPU, DSX стремится предоставить предприятиям полное решение для AI-фабрики, охватывающее проектирование, моделирование, развертывание и операционное управление.
По мере постоянного роста масштабов моделей ИИ вызовы, стоящие перед центрами обработки данных, выходят за рамки производительности чипов и затрагивают вопросы энергоснабжения, теплоотвода, распределения ресурсов и общей операционной эффективности. NVIDIA считает, что ключевым показателем конкуренции в будущем ИИ-секторе постепенно станет не производительность отдельного чипа, а общая эффективность инфраструктуры — то есть способность производить больше вычислительной мощности и интеллектуальных услуг в условиях ограниченных электропитания, пространства и ресурсов.
Для этого платформа DSX интегрирует чипы, системы, программное обеспечение, эталонные архитектуры и технологии партнеров NVIDIA, охватывая весь жизненный цикл строительства и эксплуатации AI-фабрик. Платформа помогает клиентам повысить скорость развертывания, надежность и операционную эффективность, а также снизить стоимость генерации токенов при AI-выводах за счет унификации вычислительных ресурсов, программного обеспечения и инфраструктуры.
Хуан Ренсюнь заявил:
Мы не просто поставляем чипы — мы предоставляем каждому строителю инфраструктуры полную методологию для создания AI-фабрики. С помощью платформы DSX вы можете смоделировать всю фабрику без каких-либо затрат, проверить производительность до установки первого стойки и эксплуатировать ее с надежностью, необходимой для промышленного уровня AI.
Основными компонентами выпущенной программной системы являются DSX MaxLPS и DSX OS.
Среди них DSX MaxLPS использует жидкостное охлаждение при 45 градусах Цельсия и технологию оптимизации энергопотребления на уровне стойки для повышения выхода токенов на каждый мегаватт электроэнергии. NVIDIA заявляет, что эта технология позволяет дополнительно развернуть до 40% GPU при минимальном влиянии на производительность, что дополнительно снижает вычислительные затраты при фиксированном энергетическом бюджете.
DSX OS — это открытая программная платформа, предназначенная для эксплуатации фабрик ИИ, поддерживающая управление жизненным циклом, интеллектуальное планирование, автоматизацию мониторинга здоровья, многопользовательскую эксплуатацию и другие сервисы платформы. NVIDIA также откроет модульные программные библиотеки, API, эталонные проекты и платформу ускоренных вычислений для создания единой программной архитектуры.
Помимо основного программного обеспечения, DSX интегрирует ряд существующих возможностей. DSX Reference Design предоставляет эталонную архитектуру, охватывающую вычисления, сеть, хранение данных, электропитание и системы охлаждения; DSX Sim поддерживает цифровое twins-моделирование и оптимизацию на всех этапах — от планирования до эксплуатации; DSX Flex динамически корректирует рабочие нагрузки в зависимости от нагрузки на сеть и колебаний цен на электроэнергию; DSX Exchange обеспечивает синхронизацию данных между вычислительными, сетевыми, энергетическими и системами охлаждения.
В плане коммерческого внедрения облачные провайдеры, такие как CoreWeave, Crusoe, IREN и Lambda, уже развернули основные компоненты DSX для повышения эффективности использования GPU и сокращения времени вывода AI-облачных сервисов на рынок.
Экосистема оборудования также расширяется. Такие компании, как Dell Technologies (DELL.N), Hewlett Packard Enterprise (HPE.N), Lenovo (0992.HK), Supermicro (SMCI.O), ASUS, Foxconn, Gigabyte, Pegatron и Quanta Cloud Technology, разрабатывают системы, совместимые с NVIDIA DSX, чтобы помочь клиентам создавать полные стеки AI-фабрик.
В то же время DSX Flex запустила коммерческие пилотные проекты с Emerald AI и Silicon Valley Power для проверки способности AI-фабрики динамически регулировать потребление энергии в соответствии с потребностями электросети.
На стратегическом уровне DSX означает продолжение трансформации NVIDIA из поставщика AI-чипов в поставщика платформы AI-инфраструктуры. Объединив чипы, программное обеспечение, архитектуру центров обработки данных, управление операциями и распределение энергии в единую систему, NVIDIA стремится создать отраслевой стандарт, охватывающий весь жизненный цикл AI-фабрик, и дальнейшее укрепление своего лидирующего положения на глобальном рынке AI-инфраструктуры.