Marvell, çıkarım bant genişliği darboğazlarını çözmek için AI Bellek Ayrıştırma Mimarisini tanıttı

iconKuCoinFlash
Paylaş
AI summary iconÖzet
Marvell, AI sistemlerindeki çıkarım bant genişliği sorunlarını çözmek için yeni bir AI bellek mimarisi duyurdu. Portföy, sunucu düzeyi depolama, CXL bellek genişletme ve fotonik bağlantıları içeriyor. AI + kripto haberleri, firmaların ölçeklenebilir altyapı arayışıyla giderek daha fazla örtüşüyor. Bravera SC6, Structera X ve Photonic Fabric, GPU verimliliğini ve token verimliliğini artırmayı hedefliyor. Enflasyon verileri hâlâ ana makro faktör olmaya devam ediyor, ancak teknoloji yeniliği altyapı güncellemelerini sürdürüyor.

Odaily星球日报: Marvell Technology, Agentic AI çıkarım sürecinde artan bellek kapasitesi ve bant genişliği darboğazlarını çözmeyi amaçlayan, sunucu düzeyi AI depolama, raf düzeyi CXL bellek genişletme ve birleştirme,以及 çok şasi optik bağlantı paylaşımlı bellek içeren yeni nesil bellek çözümleri portföyünü duyurdu.

Marvell, AI modellerinin boyutunun büyümesi, bağlam penceresinin uzaması ve KV Cache talebinin artmasıyla birlikte, geleneksel hesaplama ve bellek sıkı bağlantılı mimarinin AI çıkarımı verimliliğini sınırladığını belirtti. Belleğin ayrıştırılması (memory disaggregation) sayesinde, bellek kaynakları hesaplama kaynaklarından bağımsız olarak ölçeklenebilir, GPU kullanım oranı artırılabilir ve veri taşıma gecikmesi azaltılabilir. Bu yayınla birlikte sunulan ürünler şunlardır:

Bravera SC6 PCIe 6.0 SSD kontrolcüsü: AI çıkarım depolama senaryoları için tasarlanmıştır ve bulut sağlayıcıların daha fazla KV Cache'i yüksek performanslı SSD'lere taşımasını sağlayarak altyapı verimliliğini artırır. Bu ürün, çoklu tedarikçi NAND ile uyumlu mimariye sahiptir ve 2026 dördüncü çeyreğinden itibaren örneklerin dağıtımı planlanmaktadır.

Marvell Structera X Bellek Genişletme Çözümü: CXL teknolojisine dayalı olarak raf seviyesinde bellek genişletme ve kaynak havuzlama imkanı sunar, veri merkezlerinin bellek kaynaklarını daha esnek bir şekilde paylaşmasını ve atamasını sağlar ve AI altyapı maliyetlerini azaltır.

Marvell Photonic Fabric ışık bağlantılı bellek çözümü: Çoklu kabinler arasında paylaşılan bellek mimarisi oluşturmak için ışık bağlantılı teknolojiyi kullanır ve en fazla 32 TB sıcak KV önbelleği yüklemeyi destekler, AI çıkarım kümelerinin veri aktarım kapasitesini artırır.

Marvell, Photonic Fabric çözümünün, mevcut veri merkezi alan ve güç sınırları içinde Token işleme kapasitesini 2 ila 3 kat artırabileceğini ve daha büyük modelleri ve daha uzun bağlamlı AI uygulamalarını destekleyebileceğini belirtti.

Marvell yöneticisi Will Chu, AI altyapısının tek sunucu mimarisinden hesaplama, bellek ve bağlantıların birlikte çalıştığı sistemlere doğru geçiş yaptığını belirtti; gelecekte kaynak kullanım verimliliğini ve Token verimliliğini artırmak için belleğin daha bağımsız şekilde ölçeklendirilmesi gerekecek.

AI Agent ve büyük modellerin çıkarım taleplerinin sürekli artmasıyla birlikte, bellek kapasitesi, bant genişliği ve veri iletim verimliliği, hesaplama gücünden sonra AI altyapı rekabetinin yeni odak noktası haline gelmektedir.

Yasal Uyarı: Bu sayfadaki bilgiler üçüncü şahıslardan alınmış olabilir ve KuCoin'in görüşlerini veya fikirlerini yansıtmayabilir. Bu içerik, herhangi bir beyan veya garanti olmaksızın yalnızca genel bilgilendirme amacıyla sağlanmıştır ve finansal veya yatırım tavsiyesi olarak yorumlanamaz. KuCoin, herhangi bir hata veya eksiklikten veya bu bilgilerin kullanımından kaynaklanan sonuçtan sorumlu değildir. Dijital varlıklara yapılan yatırımlar riskli olabilir. Lütfen bir ürünün risklerini ve risk toleransınızı kendi finansal koşullarınıza göre dikkatlice değerlendirin. Daha fazla bilgi için lütfen Kullanım Koşullarımıza ve Risk Açıklamamıza bakınız.