Новини ME: 27 серпня (UTC+8) NVIDIA представила технологію NVHBM для наступного покоління інфраструктури ШІ. NVHBM — це спеціально розроблений HBM-чип, створений спільно з основними постачальниками чипів пам’яті, який буде надаватися через NVLink Fusion великим хмарним провайдерам та ШІ-незалежним компаніям, що розробляють спеціалізовані ШІ-прискорювачі (XPU). Порівняно зі стандартним HBM4e, NVHBM забезпечує до 30% додаткової пропускної здатності пам’яті на кожен стек, зменшує споживання потужності HBM до 15% і звільняє до 25% площі обчислювального чипа для XPU. NVIDIA стверджує, що ці покращення дозволяють спеціалізованим прискорювачам підтримувати більші моделі ШІ, швидше зчитувати KV-кеш та підвищувати ефективність навчання та масштабного висновку. Шляхом переробки фізичного інтерфейсу пам’яті, переміщення контролера пам’яті всередину 3D-стека HBM та інтеграції спеціалізованого PHY, площа PHY та супутніх областей зменшується до 67%, а також спрощується трасування на посереднику. Звільнена площа чипа може бути використана для додавання матричних двигунів, кешу, мережі та інших функцій, орієнтованих на конкретні завдання. На рівні стелажу чип NVLink Fusion з’єднує спеціалізовані XPU з мережею NVLink та через NVLink-C2C — з CPU. NVIDIA повідомляє, що поєднання NVHBM і NVLink Fusion збільшує енд-ту-енд продуктивність кожного XPU приблизно на 30% і дозволяє створювати гетерогенні обчислювальні системи з спеціалізованих XPU та GPU NVIDIA. Точна дата комерційного запуску не була розкрита у статті. (Джерело: BlockBeats)
NVIDIA запускає технологію NVHBM зі збільшенням пропускної здатності на 30% і зниженням споживання енергії на 15%
KuCoinFlashПоділитися
Короткий зміст
NVIDIA представила свою технологію пам’яті NVHBM для інфраструктури ШІ 27 серпня, запропонувавши на 30% більшу пропускну здатність і на 15% менше споживання енергії порівняно з HBM4e. Ця технологія, розроблена разом з основними постачальниками пам’яті, зменшує площу кристала XPU на 25% і скорочує простір PHY на 67%. Вона підтримує екосистеми новин про ШІ та криптовалюти, забезпечуючи більше місця для матричних двигунів та спеціалізованих прискорювачів. У поєднанні з NVLink Fusion вона збільшує продуктивність XPU на 30% і сумісна з GPU NVIDIA. Випуск спрямований на гіпермасштабні провайдери та компанії, нативні для ШІ, хоча терміни комерціалізації в ланцюжку блоків не були вказані.
Джерело:Показати оригінал
Відмова від відповідальності: Інформація на цій сторінці може бути отримана від третіх осіб і не обов'язково відображає погляди або думки KuCoin. Цей контент надається лише для загального інформування, без будь-яких запевнень або гарантій, а також не може розглядатися як фінансова або інвестиційна порада. KuCoin не несе відповідальності за будь-які помилки або упущення, а також за будь-які результати, отримані в результаті використання цієї інформації.
Інвестиції в цифрові активи можуть бути ризикованими. Будь ласка, ретельно оцініть ризики продукту та свою толерантність до ризику, виходячи з ваших власних фінансових обставин. Для отримання додаткової інформації, будь ласка, зверніться до наших Умов використання та Розкриття інформації про ризики.