NVIDIA Blackwell перевищує H200 у 20 разів у бенчмарку агентського обладнання

iconKuCoinFlash
Поділитися
AI summary iconКороткий зміст
ME AI Новина: за даними моніторингу Beating, аналітична компанія Artificial Analysis представила перший у галузі бенчмарк для апаратного забезпечення агентів — AA-AgentPerf. Традиційні тести подібні до «спринту» — оцінюють лише швидкість відповіді, тоді як завдання агентів нагадують «естафету»: ШІ повинен самостійно розбивати цілі, взаємодіяти з файлами, змінювати код та запускати тести, постійно переходячи між етапами. Часта взаємодія ставить під великий тиск на об’єм пам’яті сервера та ефективність планування. Бенчмарк використовує відтворення реальних програмних трас і визначає ключовий показник ефективності — «кількість паралельних агентів на один мегаватт споживаної потужності», що безпосередньо вирішує проблеми енергоспоживання та фінансових обмежень у центрах обробки даних. У першому етапі тестування використовувалася відкрита модель з 1,6 трильйона параметрів DeepSeek V4 Pro. Результати показали, що система охолодження рідиною NVIDIA Blackwell GB300 NVL72 підтримує 61 400 паралельних агентів на мегаватт, тоді як попереднє покоління Hopper HGX H200 — лише 2 600, що дає підвищення ефективності більше ніж у 20 разів. Параелельна ємність однієї GPU також зросла на 41 відсоток. Це дозволяє центрам обробки даних при однаковому бюджеті на електроенергію підтримувати у 20 разів більше паралельних агентів, значно знижуючи витрати на реалізацію застосунків, таких як автоматизоване програмування та служби підтримки. У перших результатах AMD Instinct MI355X залишилася позаду. Аналітики зазначили, що як AMD, так і H200 використовували загальнодоступний відкритий фреймворк vLLM без глибокої оптимізації; з подальшим вдосконаленням сервісних фреймворків та адаптацією внутрішніх ядерних операторів продуктивність AMD ще може зростати. Наразі такі провайдери інференсу, як Together AI, вже розгорнули DeepSeek V4 Pro на Blackwell для надання реального інференсу для інструменту автоматизованого програмування Cursor. (Джерело: BlockBeats)
Джерело:Показати оригінал
Відмова від відповідальності: Інформація на цій сторінці може бути отримана від третіх осіб і не обов'язково відображає погляди або думки KuCoin. Цей контент надається лише для загального інформування, без будь-яких запевнень або гарантій, а також не може розглядатися як фінансова або інвестиційна порада. KuCoin не несе відповідальності за будь-які помилки або упущення, а також за будь-які результати, отримані в результаті використання цієї інформації. Інвестиції в цифрові активи можуть бути ризикованими. Будь ласка, ретельно оцініть ризики продукту та свою толерантність до ризику, виходячи з ваших власних фінансових обставин. Для отримання додаткової інформації, будь ласка, зверніться до наших Умов використання та Розкриття інформації про ризики.