Marvell запустит решения для памяти и хранения данных для ИИ-инфраструктуры

Поставщик полупроводников для инфраструктуры данных Marvell Technology объявила, что представит свои решения для памяти и хранения данных, ориентированные на ИИ-инфраструктуру, с 4 по 6 августа. Marvell отметила, что с ростом масштабов инференса агентного ИИ емкость памяти, пропускная способность и способность к передаче данных становятся столь же важными, как и вычислительная мощность. Более крупные модели, более длинные окна контекста и растущие требования к KV Cache создают беспрецедентный спрос на ресурсы памяти в ИИ-системах. Компания утверждает, что ее технологии памяти и хранения данных для ИИ помогают клиентам повысить использование аппаратного обеспечения, увеличить эффективность обработки токенов и достичь более оптимального баланса между производительностью, энергопотреблением и стоимостью за счет сближения данных с вычислительными блоками и снижения задержек. По мере дальнейшего роста масштабов ИИ-моделей традиционная архитектура «приоритет вычислительных чипов» постепенно переходит к «совместной оптимизации вычислений, памяти и интерконнектов». Новые инфраструктурные решения, включая CXL, высокоскоростное хранение и оптические интерконнекты, могут стать ключевыми технологическими направлениями для следующего этапа масштабирования ИИ-центров обработки данных.