NVIDIA, Nebius için Groq 3 LPX rafalarının tam üretimini duyurdu

ChainCatcher haberine göre, NVIDIA'nın üst düzey direktörü Dion Harris, yerel zamana göre Pazartesi günü, Groq 3 LPX rafının tam üretime geçtiğini ve yeni bir bulut hizmet sağlayıcı olan Nebius'un veri merkezlerine kurulacağını duyurdu; bu sistemlerin bu yılın sonlarında hizmete girmesi bekleniyor. Bu adım, NVIDIA'nın geçen yıl Aralık'ta Groq ile yaklaşık 200 milyar dolarlık bir teknoloji lisans anlaşması imzaladıktan sonra elde ettiği teknolojinin ticari olarak hayata geçirildiğini işaret ediyor. Groq'un birçok çekirdek çalışanı NVIDIA'ya katıldı ve kurucu Jonathan Ross, NVIDIA'nın baş yazılım mimarı olarak görev yapıyor. NVIDIA, Groq çiplerinin üretimini hızlandırıyor ve müşterilere ürün sunuyor; bu da düşük gecikmeli çıkarımın önemini vurguluyor. Mart 2024'te duyurulan Groq 3 LPX, Vera Rubin platformu için bir çıkarım hızlandırıcısıdır ve çip üzerinde 500 MB yüksek hızlı SRAM entegre ederek bellek darboğazlarını azaltır. Her LPX rafı 256 adet Groq 3 çipini birleştirebilir; NVIDIA, temel testlere dayanarak her saniyede 3400 token işleyebileceğini belirtiyor. Bu çip, Samsung tarafından üretilmektedir. Harris, düşük gecikmeli çiplerin GPU'ları yerine geçmediğini, ancak iş yükünün farklı bölümlerinde uygun işlemciyi kullanmayı amaçladığını ifade etti; bulut hizmet sağlayıcıları, gecikmeye duyarlı müşterilere daha yüksek ücretli paketler sunabilir. NVIDIA CEO'su Jensen Huang, programlama uygulamaları için veri merkezi alanının yaklaşık dörtte birini Groq çiplerine ayırmayı planlıyor; kalan kısım ise Vera Rubin sistemleriyle doldurulacak ve 2027 yılına kadar Blackwell ile Vera Rubin'in toplam satışlarının 1 trilyon dolara ulaşmasını bekliyor.