AIMPACT Mesajı, 30 Nisan (UTC+8), Beating izleme sistemine göre, NVIDIA bir blog gönderisinde çıkarım donanımı seçimi konusunu detaylıca inceledi ve temel argümanı şu şekilde özetledi: "Çıkarım altyapısını değerlendirirken 'her GPU saat başına maliyet' değil, 'her token başına maliyet' bakılmalıdır." GPU birim fiyatı açısından bakıldığında Blackwell daha pahalı; ancak token maliyeti açısından bakıldığında Blackwell, önceki nesli ezici bir şekilde geride bırakıyor. Blog, test aracı olarak DeepSeek-R1 (MoE çıkarım modeli) kullanarak Blackwell (GB300 NVL72) ile önceki nesil Hopper (HGX H200) karşılaştırılıyor. Bulut pazarı kira fiyatlarına göre, Blackwell'in her GPU saat başına 2,65 dolarlık maliyeti, Hopper'in 1,41 dolarlık maliyetinin neredeyse iki katı; ancak tek bir GPU'nun saniyede ürettiği token sayısı 90'dan 6000'e çıkıyor ve bu 65 katlık verimlilik artışı sayesinde her milyon token maliyeti 4,20 dolarlıktan 0,12 dolara düşüyor. Her megavat başına token üretimi de 50 kat artıyor. Dikkat edilmesi gereken ön koşul: 0,12 dolarlık rakam, FP4 düşük hassasiyetli çıkarım ve MTP (çoklu token tahmini — modelin birden fazla tokeni aynı anda üretmesini sağlayan bir teknik) gibi birçok yazılım optimizasyonunun tamamen etkinleştirilmiş olması durumunda geçerli. SemiAnalysis InferenceX v2 orijinal verilerine göre, aynı GB300 NVL72 donanımı üzerinde DeepSeek-R1 çalıştırıldığında MTP açık değilken her milyon token maliyeti yaklaşık 2,35 dolar; MTP açıkken bu rakam yaklaşık 0,11 dolara düşüyor — yalnızca bu optimizasyon tek başına 21 katlık bir fark yaratıyor. Yukarıdaki tüm sonuçlar yalnızca DeepSeek-R1 tek bir modeli için elde edilen test sonuçlarıdır; farklı model mimarileri ve boyutlarında bu rakamlar değişebilir. (Kaynak: BlockBeats)
NVIDIA, Blackwell Maliyet Detaylarını Açıkladı: GPU Fiyatı İki Katına Çıktı, Token Maliyeti 35 Kat Azaldı
KuCoinFlashPaylaş
Özet
NVIDIA’nın Blackwell GPU’su, Hopper modelinin fiyatının neredeyse iki katı, ancak token maliyeti 35 kat düşüyor. Saatlik bulut fiyatı $2,65 olan Blackwell, Hopper’ın 90’ına karşı saniyede 6.000 token üretiyor. Bu, milyon token başına maliyeti $4,20’den $0,12’ye düşürüyor. Fiyat analizleri, FP4 ve MTP gibi yazılım iyileştirmelerinin verimliliği artırdığını gösteriyor. Kripto fiyat trendleri, böyle donanım değişimlerini yansıtabilir.
Kaynak:Orijinalini göster
Yasal Uyarı: Bu sayfadaki bilgiler üçüncü şahıslardan alınmış olabilir ve KuCoin'in görüşlerini veya fikirlerini yansıtmayabilir. Bu içerik, herhangi bir beyan veya garanti olmaksızın yalnızca genel bilgilendirme amacıyla sağlanmıştır ve finansal veya yatırım tavsiyesi olarak yorumlanamaz. KuCoin, herhangi bir hata veya eksiklikten veya bu bilgilerin kullanımından kaynaklanan sonuçtan sorumlu değildir.
Dijital varlıklara yapılan yatırımlar riskli olabilir. Lütfen bir ürünün risklerini ve risk toleransınızı kendi finansal koşullarınıza göre dikkatlice değerlendirin. Daha fazla bilgi için lütfen Kullanım Koşullarımıza ve Risk Açıklamamıza bakınız.