NVIDIA Blackwell, Agent Donanım Benchmark'ında H200'yu 20 kat aşıyor

ME AI Haberi, Beating İzleme tarafından izlenen değerlendirme kuruluşu Artificial Analysis, sektörde ilk kez bir Agent (akıl yürütme birimi) donanım performans ölçütü olan AA-AgentPerf’i yayınladı. Geleneksel değerlendirme, tek bir soru-cevap “koşusu” gibi sadece yanıt hızına odaklanırken, Agent görevleri “bayrak koşusu” gibi düşünülmelidir; AI, hedefini kendi başına parçalayarak dosya okuma/yazma, kod yeniden yazma ve test çalıştırma arasında sürekli geçiş yapar. Bu sıklıkla tekrarlanan etkileşimler, sunucu bellek kapasitesi ve zamanlama verimliliği açısından büyük zorluklar yaratır. Ölçüt, gerçek programlama izlerini yeniden oynatarak “her megavat güç tüketimi başına desteklenebilen eşzamanlı Agent sayısı”nı temel verimlilik göstergesi olarak kullanır ve veri merkezlerindeki elektrik ve maliyet sınırlamalarına doğrudan odaklanır. İlk testlerde, 1,6 trilyon parametreli açık kaynaklı model DeepSeek V4 Pro çalıştırıldı. Sonuçlar, NVIDIA Blackwell sıvı soğutmalı tam sistem GB300 NVL72’nin her megavat güç tüketimi başına 61.400 eşzamanlı Agent desteklediğini gösterdi; bu rakam, önceki nesil Hopper HGX H200 için yalnızca 2.600’dü ve verimlilik 20 kat arttı. Tek bir GPU’nun eşzamanlı kapasitesi de 41 kat yükseldi. Bu durum, aynı elektrik bütçesiyle veri merkezlerinin 20 kat daha fazla Agent’ı eşzamanlı olarak barındırmasını sağlıyor ve otomatik programlama ile müşteri hizmetleri gibi uygulamaların maliyetlerini büyük ölçüde düşürüyor. İlk sonuçlar arasında AMD Instinct MI355X şu anda geride kalıyor. Değerlendirme kuruluşu, AMD ve H200 yapılandırmalarının her ikisinin de derin optimizasyon yapılmadan genel açık kaynak vLLM çerçevesiyle kurulduğunu belirtti; hizmet çerçevesi ve iç hesaplama çekirdekleri uyum sağlandıkça AMD performansı hâlâ artırılabilir. Şu anda, Together AI gibi çıkarım sağlayıcılar, DeepSeek V4 Pro’yu Blackwell üzerinde öncü olarak dağıtmış ve Agent programlama aracısı Cursor’a gerçek zamanlı çıkarım desteği sağlamaktadır. (Kaynak: BlockBeats)