NVIDIA Blackwell surpasse le H200 de 20 fois dans le benchmark matériel pour agents

iconKuCoinFlash
Partager
AI summary iconRésumé
ME AI消息,根据动察Beating监测,评测机构Artificial Analysis发布了行业首个智能体(Agent)硬件基准AA-AgentPerf。传统评测如同单次问答“短跑”,仅关注响应速度;而智能体任务则像“接力跑”,AI需自主拆解目标,在读写文件、改写代码、运行测试中反复流转。频繁交互对服务器内存容量和调度效率提出了极高要求。该基准通过重放真实编程轨迹,以“每兆瓦功耗支持的并发智能体数量”为核心能效指标,直击数据中心的电力与资金瓶颈。 首期测试运行了1.6万亿参数的开源模型DeepSeek V4 Pro。结果显示,英伟达Blackwell液冷整柜系统GB300 NVL72每兆瓦功耗可支持6.14万个并发智能体,而上一代Hopper HGX H200仅能支持2600个,能效提升超过20倍。单张显卡的并发容量也提升了41倍。这意味着,在同等电力预算下,数据中心可承载多20倍的并发智能体规模,显著降低自动编程和客服等应用的落地成本。 在首批成绩中,AMD Instinct MI355X暂时落后。评测机构指出,AMD与H200的配置均基于通用开源vLLM框架搭建,未进行深度优化;随着服务框架与内核算子适配的跟进,AMD性能仍有提升空间。目前,Together AI等推理服务商已率先在Blackwell上部署DeepSeek V4 Pro,为智能体编程工具Cursor提供实时推理支持。 (来源:BlockBeats)
Clause de non-responsabilité : les informations sur cette page peuvent avoir été obtenues auprès de tiers et ne reflètent pas nécessairement les points de vue ou opinions de KuCoin. Ce contenu est fourni à titre informatif uniquement, sans aucune représentation ou garantie d’aucune sorte, et ne doit pas être interprété comme un conseil en investissement. KuCoin ne sera pas responsable des erreurs ou omissions, ni des résultats résultant de l’utilisation de ces informations. Les investissements dans les actifs numériques peuvent être risqués. Veuillez évaluer soigneusement les risques d’un produit et votre tolérance au risque en fonction de votre propre situation financière. Pour plus d’informations, veuillez consulter nos conditions d’utilisation et divulgation des risques.