Odaily Planet Daily: Marvell Technology оголосила про запуск нового покоління рішень для пам’яті, призначених для інфраструктури ШІ, що охоплюють серверну пам’ять для ШІ, розширення та пулинг пам’яті CXL на рівні стелажу та оптичну взаємодію між кабінетами для спільного використання пам’яті, щоб вирішити зростаючі обмеження щодо об’єму та пропускної здатності пам’яті під час інференсу Agentic AI.
Marvell вказує, що зі збільшенням розміру моделей ШІ, розширенням вікон контексту та зростанням потреб у KV Cache традиційна архітектура, тісно зв’язана з обчисленнями та пам’яттю, обмежує ефективність висновування ШІ. За допомогою роз’єднання пам’яті (memory disaggregation) можна зробити ресурси пам’яті більш незалежними від ресурсів обчислення, що підвищує використання GPU та зменшує затримку переміщення даних. До цього випуску відносяться:
Контролер SSD Bravera SC6 PCIe 6.0: призначений для сценаріїв зберігання AI-висновків, допомагає провайдерам хмарних послуг переміщувати більше KV Cache на високопродуктивні SSD, підвищуючи ефективність інфраструктури. Продукт використовує архітектуру, сумісну з NAND від різних виробників, і зразки планується надіслати у четвертому кварталі 2026 року.
Рішення Marvell Structera X для розширення пам’яті: на основі технології CXL, підтримує розширення пам’яті на рівні стелажу та її пулування, що дозволяє центрам обробки даних гнучко обмінюватися та розподіляти ресурси пам’яті, знижуючи витрати на інфраструктуру штучного інтелекту.
Рішення Marvell Photonic Fabric для оптичного з’єднання пам’яті: за допомогою технологій оптичного з’єднання створюється архітектура спільної пам’яті між кількома шафами, що підтримує вивантаження до 32 ТБ теплого KV-кешу та допомагає збільшити пропускну здатність кластерів для AI-висновків.
Marvell зазначає, що рішення Photonic Fabric дозволяє збільшити пропускну здатність токенів у 2–3 рази в межах існуючих обмежень простору та споживання енергії в центрах обробки даних, що підтримує більш масштабні моделі та AI-застосунки з довшими контекстами.
Керівник Marvell Віл Чу заявив, що інфраструктура ШІ переходить від архітектури одиночного сервера до систем, де обчислення, пам’ять та з’єднання працюють спільно; у майбутньому пам’ять потребуватиме більш незалежного масштабування для підвищення ефективності використання ресурсів та токенів.
Зі зростанням попиту на AI Agent та висновки великих моделей, обсяг пам’яті, пропускна здатність та ефективність передачі даних стають новим фокусом конкуренції в інфраструктурі AI після обчислювальної потужності.