По мере продолжения расширения масштабов центров обработки данных на базе ИИ, дискуссии о конкурентных преимуществах NVIDIA также меняются. Зарубежное издание TechCrunch отмечает, что ранее инвесторы больше внимания уделяли вопросу, не ослабят ли облачные провайдеры GPU собственными чипами, но после последнего отчета о финансовых результатах рынок начал сосредотачиваться на другом вопросе: кто сможет эффективно запустить всю систему ИИ.
Фокус конкуренции смещается на систему
Статья утверждает, что развертывание вычислительных мощностей ИИ движется к более высокой мощности и большим кластерам, и одного лишь GPU уже недостаточно для объяснения конкурентной среды. Чем больше центр обработки данных, тем сложнее становится взаимодействие между данными, хранилищем, сетью и вычислениями. GPU остается ключевым компонентом, но все большую роль в определении эффективности играют системные возможности, выходящие за рамки GPU.
Это также является核心ом текущего изменения нарратива NVIDIA. Даже при том, что крупные облачные компании, такие как Amazon и Google, продолжают активно разрабатывать собственные чипы, NVIDIA продолжает создавать более полный набор инфраструктурных решений вокруг GPU. В статье это сформулировано так: если GPU — это двигатель, то остальные системы — это весь автомобиль.
Vera Rubin охватывает больше этапов
TechCrunch отмечает, что NVIDIA продвигает архитектуру Vera Rubin. Эта архитектура включает не только GPU Rubin, но и CPU Vera, а также систему уровня стойки для хранения, сети и других компонентов. Статья считает, что значение этих продуктов заключается в том, что они не отвечают непосредственно за генерацию токенов, а минимизируют потери производительности за пределами GPU.
При этом Vera CPU описывается как важный элемент планирования данных. Вице-президент по технологиям хранения данных NVIDIA Джейсон Харди отметил, что объем памяти, который может быть размещен на одном сервере или одной вычислительной платформе, ограничен, поэтому правильная доставка данных на GPU в нужное время становится ключевым фактором эффективности системы.
Данные стали новым полем боя
Статья цитирует Харди, утверждая, что в некоторых связанных операциях ускорение, обеспечиваемое Vera CPU, может достигать примерно в 3 раза. Это означает, что такие аппаратные ресурсы, как флеш-память, могут быть использованы более эффективно, а системные узкие места могут снизиться.
Статья также отмечает, что подобные проблемы существуют не только в системе NVIDIA. При представлении чипа Jalapeño OpenAI также выделила снижение перемещения данных и задержек связи в качестве ключевой цели. Идея заключается в том, чтобы удерживать полную рабочую нагрузку внутри одной связанной системы, чтобы минимизировать потери, связанные с передачей между модулями.
По мнению TechCrunch, это свидетельствует о том, что конкуренция в области инфраструктуры ИИ вступает в новую фазу. Компании теперь соревнуются не только в вычислительной мощности процессоров, но и в том, как данные перемещаются, как хранение данных синхронизировано и как сеть предотвращает заторы. Другими словами, уровень конкуренции смещается с вопроса «у кого мощнее GPU» на вопрос «кто сможет обеспечить более эффективную работу всей системы».
Статья отмечает, что это изменение не означает, что NVIDIA уже обеспечила себе победу. Ей все еще предстоит конкурировать с другими производителями чипов и крупными облачными провайдерами. Однако на текущем этапе NVIDIA по-прежнему лидирует в интеграции систем и управлении ресурсами, что является важной причиной пересмотра рынком ее преимуществ в области ИИ.