Організовано: Jinshi Data
NVIDIA (NVDA.O) на конференції NVIDIA GTC Taipei в Тайбей анонсувала платформу NVIDIA DSX, розширюючи свої бізнес-ініціативи в сфері інфраструктури AI-фабрик.
На відміну від минулого, коли основою були продажі GPU, DSX намагається надати компаніям повний рішення для AI-фабрики — від проектування, симуляції та розгортання до управління операціями.
Зі збільшенням розмірів моделей ШІ центри обробки даних стикаються з викликами, які виходять за межі продуктивності чіпів і стосуються постачання електроенергії, здатності до охолодження, розподілу ресурсів та загальної ефективності функціонування. NVIDIA вважає, що ключовими показниками конкуренції в майбутньому ШІ-секторі поступово стануть не продуктивність окремих чіпів, а загальна ефективність інфраструктури — тобто те, як можна виробляти більше обчислювальних потужностей та інтелектуальних послуг у межах обмежених електроенергії, простору та ресурсів.
Для цього платформа DSX інтегрує чіпи, системи, програмне забезпечення, референсні архітектури та технології партнерів NVIDIA, охоплюючи весь життєвий цикл побудови та експлуатації AI-фабрик. Платформа допомагає клієнтам підвищити швидкість розгортання, надійність та ефективність операцій, а також знизити витрати на генерацію Token під час AI-виведення, об’єднуючи обчислювальні ресурси, програмне забезпечення та інфраструктуру.
Хуан Ренсюнь сказав:
Ми не просто постачаємо чіпи — ми надаємо кожному інфраструктурному розробнику повну методологію для створення AI-фабрики. За допомогою платформи DSX ви можете симулювати всю фабрику без будь-яких витрат, перевірити продуктивність ще до встановлення першого стелажу та експлуатувати її з надійністю, необхідною для виробничого AI.
До цього випуску програмного забезпечення входять DSX MaxLPS та DSX OS.
DSX MaxLPS використовує рідинне охолодження при 45 градусах Цельсія та технології оптимізації споживання електроенергії на рівні стелажу, щоб збільшити виробництво токенів на один мегаватт електроенергії. NVIDIA заявляє, що ця технологія дозволяє додатково розгорнути до 40% GPU з мінімальним впливом на продуктивність, що додає зниження витрат на обчислення при фіксованому бюджеті електроенергії.
DSX OS — це відкрита програмна платформа, призначена для експлуатації AI-фабрик, яка підтримує управління життєвим циклом, розумне планування, автоматизацію здоров’я, багатокористувацьку експлуатацію та платформні сервіси. NVIDIA також відкриє модульні програмні бібліотеки, API, еталонні проекти та платформу прискорених обчислень для створення єдиної програмної архітектури.
Крім основного програмного забезпечення, DSX інтегрує кілька існуючих можливостей. DSX Reference Design надає еталонну архітектуру, що охоплює обчислення, мережі, сховище, енергопостачання та системи охолодження; DSX Sim підтримує цифрове моделювання та оптимізацію на всьому шляху від планування до експлуатації; DSX Flex динамічно регулює навантаження залежно від навантаження на мережу та цін на електроенергію; DSX Exchange забезпечує синхронізацію даних між обчисленнями, мережами, енергією та системами охолодження.
Щодо комерційного впровадження, хмарні провайдери, такі як CoreWeave, Crusoe, IREN та Lambda, вже розгорнули основні компоненти DSX для підвищення використання GPU та скорочення часу виведення AI-хмарних послуг на ринок.
Екосистема обладнання також розширюється. Такі виробники, як Dell Technologies (DELL.N), Hewlett Packard Enterprise (HPE.N), Lenovo (0992.HK), Supermicro (SMCI.O), ASUS, Foxconn, Gigabyte, Pegatron та Quanta Cloud Technology, розробляють системи, сумісні з NVIDIA DSX, щоб допомогти клієнтам створити повноцінні AI-фабрики.
Тим часом DSX Flex розпочав комерційні пілотні проекти з Emerald AI та Silicon Valley Power для перевірки здатності AI-фабрики динамічно регулювати споживання енергії відповідно до потреб електромережі.
З стратегічної точки зору, DSX означає продовження трансформації NVIDIA з постачальника AI-чіпів у постачальника інфраструктурних платформ для AI. Шляхом інтеграції чіпів, програмного забезпечення, архітектури центрів обробки даних, управління операціями та розподілу енергії в єдину систему, NVIDIA прагне створити галузеві стандарти для повного життєвого циклу AI-фабрик та далі закріпити свою лідерську позицію на глобальному ринку AI-інфраструктури.