NVIDIA Rubin Ultra HBM, bant genişliği maliyeti ana kısıt haline gelince 8-Hi'ye düşürüldü

iconKuCoinFlash
Paylaş
AI summary iconÖzet
NVIDIA, Rubin Ultra'da HBM'yi 8-Hi'ye düşürdü ve birim başına artan bant genişliği maliyetini ana neden olarak gösterdi. Bu değişiklik, DRAM die kullanımını üçte bir oranında azaltarak HBM tedarikini kolaylaştırırken toplam bant genişliğini koruyor veya artırıyor. AI çip tasarımı bant genişliği verimliliğine doğru kaydığında, izlenecek altcoin'lerde yükseliş eğilimi görülebilir. Güç ve maliyet kısıtlamaları artık saf HBM kapasitesinden daha önemli hale geldi.
ME AI mesajı, SemiAnalysis'a göre, NVIDIA, Rubin Ultra'nın HBM'sini 12-Hi'den 8-Hi'ye düşürdü; temel neden, sadece kapasiteyi azaltmak değil, şu anda AI çıkarımında gerçekten sınırlayıcı olan her birim bant genişliği maliyeti ($/bandwidth), değil her birim kapasite maliyeti ($/capacity)'dir. HBM yığın katman sayısı çoğunlukla kapasiteyi belirlerken, toplam bant genişliği daha çok HBM yığın sayısı, arayüz genişliği ve iletim hızına bağlıdır. Bu nedenle, 12-Hi'den 8-Hi'ye düşürmek, DRAM çip kullanımını yaklaşık 1⁄3 oranında azaltır, mevcut sıkışık ve pahalı HBM tedarik baskısını hafifletirken, yığın sayısı ve arayüz yapılandırması değişmeden toplam bant genişliğini koruyabilir veya hatta artırabilir. Bu, NVIDIA'nın daha az HBM kapasitesiyle daha yüksek bant genişliği ekonomisini elde etmek için aktif bir strateji izlediğini gösterir. Artık çıkarıma odaklanan AI iş yükleri için modeller, sadece "daha fazla veriyi depolamak" değil, aynı zamanda model ağırlıklarını ve KV Cache'ini sürekli ve hızlı bir şekilde taşımayı gerektirir; bu nedenle bellek bant genişliğinin önemi artmaktadır. Rubin Ultra'nın bu ayarı, HBM rekabet mantığının değiştiğini yansıtmaktadır: AI çipleri artık sadece HBM kapasitesini artırmak yerine, sınırlı DRAM, güç tüketimi ve maliyet kısıtları altında mümkün olduğunca yüksek etkili bant genişliği elde etmeyi hedeflemektedir. HBM'in temel darboğazı artık "yeterli kapasite var mı?" değil, "her dolarla ne kadar bant genişliği alınabilir?" haline gelmektedir. (Kaynak: Wall Street Journal)
Yasal Uyarı: Bu sayfadaki bilgiler üçüncü şahıslardan alınmış olabilir ve KuCoin'in görüşlerini veya fikirlerini yansıtmayabilir. Bu içerik, herhangi bir beyan veya garanti olmaksızın yalnızca genel bilgilendirme amacıyla sağlanmıştır ve finansal veya yatırım tavsiyesi olarak yorumlanamaz. KuCoin, herhangi bir hata veya eksiklikten veya bu bilgilerin kullanımından kaynaklanan sonuçtan sorumlu değildir. Dijital varlıklara yapılan yatırımlar riskli olabilir. Lütfen bir ürünün risklerini ve risk toleransınızı kendi finansal koşullarınıza göre dikkatlice değerlendirin. Daha fazla bilgi için lütfen Kullanım Koşullarımıza ve Risk Açıklamamıza bakınız.