NVIDIA Blackwell превосходит H200 в 20 раз по результатам бенчмарка агентского оборудования

iconKuCoinFlash
Поделиться
AI summary iconСводка
ME AI Сообщение: согласно мониторингу Beating, аналитическая организация Artificial Analysis выпустила первый в отрасли аппаратный бенчмарк для агентов (Agent) — AA-AgentPerf. Традиционные тесты подобны однократному вопросу и ответу — «спринту», где оценивается только скорость ответа; задачи агентов же напоминают «эстафету»: ИИ должен самостоятельно разбивать цель на этапы, многократно переключаясь между чтением и записью файлов, изменением кода и запуском тестов. Частые взаимодействия создают огромную нагрузку на объем памяти сервера и эффективность планирования. Бенчмарк использует воспроизведение реальных программных траекторий и в качестве основного показателя энергоэффективности применяет «количество одновременно поддерживаемых агентов на один мегаватт потребляемой мощности», напрямую адресуя энергетические и финансовые ограничения центров обработки данных. В первом раунде тестирования использовалась открытая модель с 1,6 триллиона параметров DeepSeek V4 Pro. Результаты показали, что система охлаждения NVIDIA Blackwell GB300 NVL72 способна поддерживать 61 400 одновременных агентов на мегаватт мощности, тогда как предыдущее поколение Hopper HGX H200 поддерживает лишь 2600, что обеспечивает повышение энергоэффективности более чем в 20 раз. Емкость одновременной работы на одном GPU также выросла в 41 раз. Это позволяет центрам обработки данных при одинаковом энергетическом бюджете поддерживать в 20 раз больше одновременных агентов, значительно снижая стоимость внедрения таких приложений, как автоматическое программирование и служба поддержки. В первых результатах AMD Instinct MI355X временно отстает. Организация-оценщик отметила, что как AMD, так и H200 используют общую открытую платформу vLLM без глубокой оптимизации; с развитием сервисных фреймворков и адаптацией ядерных операций производительность AMD еще может вырасти. В настоящее время такие поставщики инференса, как Together AI, уже развернули DeepSeek V4 Pro на платформе Blackwell для обеспечения реального времени инференса для инструмента автоматического программирования Cursor. (Источник: BlockBeats)
Источник:Показать оригинал
Отказ от ответственности: Информация на этой странице может быть получена от третьих лиц и не обязательно отражает взгляды или мнения KuCoin. Данный контент предоставляется исключительно в общих информационных целях, без каких-либо заверений или гарантий, а также не может быть истолкован как финансовый или инвестиционный совет. KuCoin не несет ответственности за ошибки или упущения, а также за любые результаты, полученные в результате использования этой информации. Инвестиции в цифровые активы могут быть рискованными. Пожалуйста, тщательно оценивайте риски, связанные с продуктом, и свою устойчивость к риску, исходя из собственных финансовых обстоятельств. Для получения более подробной информации, пожалуйста, ознакомьтесь с нашими Условиями использования и Уведомлением о риске.