Google, Gemini mimarisini yeni AI çipine entegre ederek çıkarım verimliliğini en fazla 10 kat artırıyor

icon MarsBit
Paylaş
AI summary iconÖzet
Bu hafta AI ve kripto haberleri, Google'ın Frozen v2 AI çıkarım çipini üzerinde çalıştığını duyurdu. Yeni tasarım, Gemini mimarisinin bir kısmını doğrudan donanıma gömmeyi hedefliyor. Bu değişim, hesaplama ve veri taşıma yükünü azaltmayı amaçlıyor. Google, çipin en son TPU'ya göre her watt başına 6 ila 10 kat daha fazla token işleyebileceğini tahmin ediyor. Şirket, 2028 yılına kadar bu çipi yaymayı planlıyor ve hesaplama eksikliğini hafifletmeyi amaçlıyor. Google Cloud, bu darboğaz nedeniyle zaten dış müşteri siparişlerini reddetmeye başladı. Frozen v2, TPU ile birlikte çalışacak ve daha iyi verimlilik sunacak ancak esneklik azalacak. Gemini mimarisi değişirse, çiplerin değeri kaybedebilir. AI alanının gelişimiyle birlikte yeni token listelemeleri Spotlight altında kalıyor.

Beating İzleme'ye göre, Google, Frozen v2 AI çıkarım çipini geliştiriyor. Bu çip, Gemini'nin bazı mimari bileşenlerini doğrudan çipe sabitleyerek model çalıştırma sırasında hesaplama ve veri taşıma miktarını azaltacak. İç tahminlere göre, her watt başına işleyebileceği Token sayısı, en yeni TPU'nun 6 ila 10 katına ulaşacak. Google, bu çipi en erken 2028 yılında hayata geçirmeyi planlıyor. Google, hesaplama kapasitesi eksikliğini gidermek için bu çipi kullanmayı hedefliyor. Bu eksiklik, Google Cloud'un bazı dış müşterilerin siparişlerini reddetmesine neden oldu. Frozen v2, TPU ile paralel olarak var olacak. TPU farklı modelleri çalıştırabilirken, Frozen v2 esneklik yerine verimliliği tercih ediyor. Bu aynı zamanda bir mimari tahmin de. Gelecekte Gemini temel tasarımı büyük ölçüde değiştirirse, bu çipler kullanılamaz hale gelebilir.

Kaynak:Orijinalini göster
Yasal Uyarı: Bu sayfadaki bilgiler üçüncü şahıslardan alınmış olabilir ve KuCoin'in görüşlerini veya fikirlerini yansıtmayabilir. Bu içerik, herhangi bir beyan veya garanti olmaksızın yalnızca genel bilgilendirme amacıyla sağlanmıştır ve finansal veya yatırım tavsiyesi olarak yorumlanamaz. KuCoin, herhangi bir hata veya eksiklikten veya bu bilgilerin kullanımından kaynaklanan sonuçtan sorumlu değildir. Dijital varlıklara yapılan yatırımlar riskli olabilir. Lütfen bir ürünün risklerini ve risk toleransınızı kendi finansal koşullarınıza göre dikkatlice değerlendirin. Daha fazla bilgi için lütfen Kullanım Koşullarımıza ve Risk Açıklamamıza bakınız.