Провайдер напівпровідникових рішень для інфраструктури даних Marvell Technology оголосив, що представить свої рішення для пам’яті та сховища, призначені для AI-інфраструктури, з 4 по 6 серпня. Marvell зазначила, що зі збільшенням масштабу інференсу агентного штучного інтелекту об’єм пам’яті, пропускна здатність та здатність до з’єднання даних стають такими ж важливими, як і обчислювальна потужність. Збільшення розмірів моделей, довші вікна контексту та зростаючі вимоги до KV Cache створюють безпрецедентний попит на ресурси пам’яті в AI-системах. Компанія стверджує, що її технології пам’яті та сховища для AI, які дозволяють наближати дані ближче до обчислювальних одиниць та зменшувати затримки, допомагають клієнтам підвищити використання апаратного забезпечення, збільшити ефективність обробки токенів та досягти кращої балансування між продуктивністю, споживанням енергії та витратами. Зі зростанням розмірів AI-моделей традиційна архітектура «перевага обчислювальних чипів» поступово переходить до «спільної оптимізації обчислень, пам’яті та з’єднань», де нові інфраструктурні рішення, такі як CXL, високоскоростне сховище та оптичні з’єднання, очікуються як ключові напрямки на наступному етапі масштабування AI-центрів обробки даних.
Marvell запускає рішення для пам’яті та сховища інфраструктури ШІ
TechFlowПоділитися
Короткий зміст
Marvell запускає рішення для пам’яті та сховищ інфраструктури ШІ
Marvell Technology представить рішення для пам’яті та сховищ інфраструктури ШІ з 4 по 6 серпня — ключова новина в сфері ШІ + криптовалюти. Зі зростанням агентного висновування ШІ обсяг пам’яті, пропускна здатність та зв’язність даних стають такими ж критичними, як обчислювальна потужність. Більші моделі, розширені вікна контексту та зростаючі вимоги до KV Cache створюють безпрецедентні потреби у пам’яті для систем ШІ. Компанія стверджує, що її рішення можуть покращити використання апаратного забезпечення, ефективність обробки токенів та баланс продуктивності, потужності та витрат. Традиційні архітектури «обчислення перш за все» зміщуються до спільно оптимізованих обчислень, пам’яті та інтерконектів, де технології, такі як CXL, високошвидкісне сховище та оптичні інтерконекти, очікуються як ключові для розширення центрів обробки даних ШІ. Цей розвиток також пов’язаний із новинами щодо запуску токенів.
Джерело:Показати оригінал
Відмова від відповідальності: Інформація на цій сторінці може бути отримана від третіх осіб і не обов'язково відображає погляди або думки KuCoin. Цей контент надається лише для загального інформування, без будь-яких запевнень або гарантій, а також не може розглядатися як фінансова або інвестиційна порада. KuCoin не несе відповідальності за будь-які помилки або упущення, а також за будь-які результати, отримані в результаті використання цієї інформації.
Інвестиції в цифрові активи можуть бути ризикованими. Будь ласка, ретельно оцініть ризики продукту та свою толерантність до ризику, виходячи з ваших власних фінансових обставин. Для отримання додаткової інформації, будь ласка, зверніться до наших Умов використання та Розкриття інформації про ризики.