Yapay zeka veri merkezlerinin ölçeği genişlemeye devam ederken, NVIDIA'nın rekabet avantajı üzerine yapılan tartışmalar da değişiyor. Yabancı medya TechCrunch, yatırımcıların geçmişte GPU'ların bulut sağlayıcıların kendi çiplerine karşı zayıflaması konusuna daha çok odaklandığını, ancak en son finansal rapordan sonra piyasanın dikkatini bir başka soruya yönlendirdiğini belirtti: Hangi şirket, tüm yapay zeka sistemini verimli bir şekilde çalıştıracak?
Odak sisteme doğru kayıyor
Makale, AI hesaplama kapasitesinin daha yüksek güç ve daha büyük kümelere doğru ilerlediğini, yalnızca GPU'nun rekabet ortamını açıklamaya yeterli olmadığını belirtiyor. Veri merkezleri ne kadar büyük olursa, veri, depolama, ağ ve hesaplama arasındaki koordinasyon o kadar karmaşık hale gelir. GPU hâlâ temel bileşendir, ancak verimliliği belirleyen faktörler giderek GPU dışındaki sistem yeteneklerine dönüşüyor.
Bu, NVIDIA'nın mevcut hikayesindeki değişimin çekirdeğidir. Amazon, Google gibi büyük bulut sağlayıcıları kendi çiplerini geliştirmeye devam ederken, NVIDIA GPU dışındaki bir dizi altyapı bileşeni oluşturuyor. Makale bunu şöyle özetliyor: GPU motor ise, kalan sistemler tam arabadır.
Vera Rubin daha fazla aşamayı kapsıyor
TechCrunch, NVIDIA'in Vera Rubin mimarisini ilerlettiğini belirtiyor. Bu mimari, yalnızca Rubin GPU'yu değil, aynı zamanda Vera CPU ve depolama, ağ gibi bileşenler için raf seviyesinde sistemleri de içeriyor. Makale, bu ürünlerin anlamının, doğrudan token üretmek yerine GPU dışındaki performans kayıplarını en aza indirmek olduğunu düşünüyor.
Bu arada, Vera CPU, veri yönlendirme için önemli bir bileşen olarak tanımlanmıştır. NVIDIA depolama teknolojisi başkanı Jason Hardy, tek bir sunucuda veya tek bir hesaplama platformunda yerleştirilebilecek bellek miktarının sınırlı olduğunu ve verilerin doğru zamanda GPU'ya iletilmesinin sistemin verimliliği açısından kritik bir faktör olduğunu belirtti.
Veriler yeni savaş alanına taşınıyor
Hardy'nin ifadesine göre, bazı ilgili işlemlerde Vera CPU'nun sağladığı hızlandırma etkisi yaklaşık 3 kat olabilir. Bu, flash bellek gibi donanım kaynaklarının daha iyi kullanılmasını ve sistem darboğazlarının azalma şansını anlamına gelir.
Makale, benzer sorunların yalnızca NVIDIA sistemi içinde olmadığını da belirtiyor. OpenAI, Jalapeño çipini tanıtırken, veri hareketini ve iletişim gecikmesini azaltmayı önemli hedefler arasında gösterdi. Yaklaşım, tam iş yükünü bir bağlantı sistemi içinde tutarak modüller arası aktarım kayıplarını en aza indirmeyi amaçlıyordu.
TechCrunch'a göre, bu, AI altyapı rekabetinin yeni bir aşamaya girdiğini gösteriyor. Şirketler artık yalnızca işlemci gücünü değil, verilerin nasıl aktarıldığını, depolamanın nasıl uyum sağladığını ve ağın nasıl tıkanmayı önlediğini de rekabet konusu yapıyor. Başka bir deyişle, rekabet düzeyi “kimin daha güçlü GPU’su var?” yerine “kimin sistemi daha verimli çalıştırabileceğini?” yönüne kayıyor.
Makale, bu değişikliğin NVIDIA'nın zaferini zaten garantilediğini anlamına gelmediğini belirtiyor. NVIDIA, diğer çip üreticileri ve büyük bulut hizmet sağlayıcılarıyla hâlâ rekabet etmek zorunda. Ancak şu aşamada, NVIDIA'nın sistem entegrasyonu ve yönlendirme yeteneklerinde hâlâ önde olduğu görülüyor ve bu da piyasada AI üstünlüğü üzerine yeniden değerlendirme yapılmasının önemli nedenlerinden biri.