Düzenleme: Jinshi Verileri
NVIDIA, Çin Taipei'te düzenlenen NVIDIA GTC Taipei konferansında NVIDIA DSX platformunu duyurarak iş faaliyetlerini AI fabrika altyapısı alanına genişletti.
DSX, GPU satışına odaklanan geçmişten farklı olarak, işletmelere tasarım, simülasyon, dağıtım ve operasyonel yönetim dahil olmak üzere tam bir AI fabrika çözümü sunmaya çalışıyor.
AI modellerinin boyutu arttıkça, veri merkezlerinin karşı karşıya kaldığı zorluklar artık sadece çip performansı değil, elektrik sağlanması, soğutma kapasitesi, kaynak tahsisi ve genel operasyon verimliliği de dahil olmak üzere daha geniş bir spektrumu kapsıyor. NVIDIA, gelecekteki AI endüstrisi rekabetinin anahtar göstergesinin tek bir çip performansından ziyade, sınırlı elektrik, alan ve kaynaklar altında daha fazla hesaplama gücü ve akıllı hizmet üretme konusundaki genel altyapı verimliliğine kayacağını düşünüyor.
Bu amaçla, DSX platformu, NVIDIA'nın çiplerini, sistemlerini, yazılımlarını, referans mimarilerini ve ortak teknolojilerini birleştirerek AI fabrikalarının kurulumu ve işletimi sürecinin tamamını kapsar. Platform, hesaplama, yazılım ve altyapı gibi teknoloji yığınlarını birleştirerek müşterilere dağıtım hızını, güvenilirliği ve operasyonel verimliliği artırma ve AI çıkarımı sırasında oluşturulan Token maliyetlerini azaltma imkanı sunar.
Huang Renxun dedi ki:
Sadece çipler değil, her altyapı inşaatçısına bir AI fabrikası kurmak için tam bir yöntem sistemi sunuyoruz. DSX platformuyla, ilk rafı kurmadan önce fabrikanın tamamını ücretsiz olarak simüle edebilir, performansınızı doğrulayabilir ve üretim seviyesindeki AI için gerekli güvenilirlikle operasyon yapabilirsiniz.
Bu sürümdeki yazılım sistemi, DSX MaxLPS ve DSX OS'tan oluşmaktadır.
DSX MaxLPS, 45 derece sıvı soğutma ve raf seviyesindeki güç tüketimi optimizasyonu teknolojilerini kullanarak her megawatt elektrik başına Token üretimi artırıyor. NVIDIA, bu teknolojinin performansa çok az etki ederek maksimum %40 daha fazla GPU eklemeyi mümkün kıldığını ve sabit elektrik bütçesiyle hesaplama maliyetlerini daha da düşürdüğünü belirtti.
DSX OS, AI fabrikası işletimi için tasarlanmış açık kaynaklı bir yazılım platformudur ve yaşam döngüsü yönetimi, akıllı zamanlama, sağlık otomasyonu, çok kiracılı işletme ve platform hizmetleri gibi işlevleri destekler. NVIDIA ayrıca modüler yazılım kütüphanelerini, API'leri, referans tasarımlarını ve hızlandırılmış hesaplama platformunu da açık kaynaklı hale getirerek tekil bir yazılım mimarisi oluşturacaktır.
DSX, temel yazılımın yanı sıra mevcut birçok yeteneği entegre eder. DSX Referans Tasarımı, hesaplama, ağ, depolama, güç ve soğutma sistemlerini kapsayan bir referans mimari sağlar; DSX Sim, planlamadan işletime kadar olan tüm süreçlerde dijital twin simülasyonu ve optimizasyonunu destekler; DSX Flex, şebeke yükü ve elektrik fiyatlarındaki değişikliklere göre iş yükünü dinamik olarak ayarlar; DSX Exchange ise hesaplama, ağ, enerji ve soğutma sistemleri arasında veri koordinasyonu sağlar.
CoreWeave, Crusoe, IREN ve Lambda gibi bulut hizmet sağlayıcılar, GPU kullanımını artırmak ve AI bulut hizmetlerinin piyasaya sürülme süresini kısaltmak için DSX çekirdek bileşenlerini dağıttı.
Donanım ekosistemi de aynı anda genişliyor. Dell Technologies (DELL.N), Hewlett Packard Enterprise (HPE.N), Lenovo (0992.HK), Supermicro (SMCI.O), ASUS, Foxconn, Gigabyte, Pegatron ve Quanta Cloud Technology gibi şirketler, müşterilerinin tam yığın AI fabrikaları kurmasına yardımcı olmak için NVIDIA DSX hazır sistemler geliştiriyor.
Aynı zamanda, DSX Flex, AI fabrikasının elektrik şebekesi talebine göre güç tüketimini dinamik olarak ayarlama yeteneğini doğrulamak amacıyla Emerald AI ve Silicon Valley Power ile ticari pilot projeleri başlatmıştır.
Stratejik düzeyde, DSX, NVIDIA'nın AI çip sağlayıcısından AI altyapı platformu sağlayıcısına dönüşümünü işaret ediyor. NVIDIA, çipleri, yazılımı, veri merkezi mimarisini, operasyon yönetimi ve enerji dağıtımını tek bir sistemde birleştirerek, AI fabrikasının tam yaşam döngüsünü kapsayan bir endüstri standardı kurmayı ve küresel AI altyapı pazarındaki öncü konumunu daha da pekiştirmeyi hedefliyor.