Вот грязный секрет инфраструктуры ИИ: некоторые из самых дорогих аппаратных средств на планете проводят удивительно много времени, ничего не делая. ГПУ, основные рабочие лошадки современного обучения и вывода ИИ, часто простаивают, ожидая поступления данных из систем хранения. DDN и Nvidia теперь сотрудничают, чтобы решить эту проблему, позволив ГПУ самостоятельно инициировать доступ к данным, исключив посредников.
Партнёрство сосредоточено на платформе интеллекта данных Infinia от DDN, которая интегрируется с инициативой Nvidia Storage-Next для обеспечения операций с данными, инициируемых GPU. На английском: вместо того чтобы GPU вежливо ждали, пока CPU извлечёт и доставит данные, теперь GPU могут самостоятельно получить то, что им нужно.
Что на самом деле делает эта технология
Результатом является снижение задержки, минимизация нагрузки на ЦП и значительно более эффективное использование ГПУ. Для организаций, эксплуатирующих крупномасштабные AI-фабрики, где тысячи ГПУ работают совместно, даже незначительное улучшение использования приводит к существенной экономии затрат.
CTO DDN Свен Охме описал сотрудничество в экономических терминах, указав на улучшения в «экономике ИИ в масштабе». Джейсон Харди, вице-президент Nvidia по технологиям хранения данных, подчеркнул бесшовную интеграцию между вычислительной инфраструктурой и инфраструктурой данных как ключевое преимущество.
Технология вписывается в более широкую стратегию платформы Nvidia на 2026 год, которая включает платформу Nvidia Rubin и DPUs BlueField-4.
Партнёрство, длившееся десятилетие
DDN и Nvidia сотрудничают с 2016 года, когда DDN стала первым поставщиком хранилищ, сертифицировавшим свою платформу с технологией GPUDirect Storage от Nvidia.
GPUDirect Storage позволял данным перемещаться непосредственно между хранилищем и памятью GPU, минуя системную память. Новое сотрудничество с Infinia развивает эту концепцию, предоставляя GPU возможность активно инициировать эти передачи данных, а не пассивно их получать.
DDN планирует продемонстрировать эти возможности на Flash Memory Summit, где компания, как ожидается, представит производительностные показатели и детали об операционной доступности.
Почему это важно для рынка инфраструктуры ИИ
По мере увеличения размеров моделей и расширения обучающих наборов данных разрыв между вычислительной мощностью и доставкой данных увеличивается. Крупные обучающие процессы ИИ могут включать петабайты данных, распределённых по распределённым системам хранения. Каждая микросекунда задержки при доступе к данным умножается на тысячи GPU и миллионы итераций обучения.
Вместо того чтобы просто ускорить хранение данных, DDN и Nvidia пересматривают весь поток данных в системе. Предоставление GPU прямого контроля над операциями с данными представляет собой фундаментальный сдвиг в работе инфраструктуры ИИ.