Ось брудна таємниця інфраструктури ШІ: деяке з найдорожчого обладнання на планеті проводить дивовижно багато часу, нічого не роблячи. GPU, основні пристрої для навчання та висновування сучасного ШІ, часто залишаються бездіяльними, чекаючи, поки дані надійдуть із систем зберігання. DDN та Nvidia зараз співпрацюють, щоб вирішити цю проблему, дозволивши GPU самостійно ініціювати доступ до даних, виключаючи посередника.
Партнерство зосереджено на платформі інтелекту даних DDN Infinia, яка інтегрується з ініціативою Nvidia Storage-Next для забезпечення операцій з даними, ініційованих GPU. На англійській мові: замість того щоб GPU ввічливо чекали, поки CPU отримає та доставить дані, тепер GPU можуть самостійно отримувати те, що їм потрібно.
Що насправді робить ця технологія
Результатом є зменшення затримки, мінімізація навантаження на ЦП та значно краще використання ГП. Для організацій, які запускають великі AI-фабрики, де тисячі ГП працюють разом, навіть незначні покращення використання перетворюються на значну економію витрат.
Генеральний директор DDN Свен Оеме описав співпрацю в економічних термінах, зазначивши покращення «економіки ШІ в масштабі». Джейсон Гарді, віце-президент з технологій зберігання Nvidia, підкреслив безперебійну інтеграцію між обчислювальною та інфраструктурою даних як ключову перевагу.
Ця технологія вписується в загальну стратегію платформи Nvidia на 2026 рік, яка включає платформу Nvidia Rubin та BlueField-4 DPUs.
Партнерство, що тривало десятиліття
DDN та Nvidia співпрацюють з 2016 року, коли DDN стала першим постачальником сховищ, який сертифікував свою платформу з технологією GPUDirect Storage від Nvidia.
GPUDirect Storage дозволяв переміщати дані безпосередньо між сховищем та пам’яттю GPU, не проходячи через системну пам’ять. Нова співпраця з Infinia розширює цю концепцію, надаючи GPU можливість активно ініціювати ці передачі даних, а не пасивно отримувати їх.
DDN планує продемонструвати ці можливості на Flash Memory Summit, де компанія, як очікується, поділиться результатами тестування продуктивності та деталями щодо доступності операцій.
Чому це важливо для ринку інфраструктури ШІ
Зі зростанням розмірів моделей та розширенням навчальних вибірок розрив між обчислювальними можливостями та доставкою даних збільшується. Великі навчальні процеси ШІ можуть включати петабайти даних, розподілених між розподіленими системами зберігання. Кожна мікросекунда затримки при доступі до даних накопичується тисячами GPU та мільйонами ітерацій навчання.
Замість того щоб просто прискорити зберігання, DDN і Nvidia переглядають весь процес потоку даних у системі. Надання GPU прямого контролю над операціями з даними — це фундаментальна зміна в роботі інфраструктури штучного інтелекту.