Google DeepMind, DiffusionGemma'yi tanıttı, metin üretimi hızı 4 kat artırıldı

iconKuCoinFlash
Paylaş
Share IconShare IconShare IconShare IconShare IconShare IconCopy
AI summary iconÖzet

expand icon
On-chain haber: Google DeepMind, hızı 4 kat artıran DiffusionGemma adlı açık kaynaklı bir metin üretme modelini piyasaya sürdü. Difüzyon teknolojisini kullanarak, 256 tokeni paralel olarak üretiyor ve H100 üzerinde 1000+ token/s, RTX 5090 üzerinde 700+ token/s başarımı sağlıyor. 26B MoE modeli, çıkarım sırasında 3,8B parametre aktif hale getiriyor ve nicelendirmeden sonra tüketici GPU’larını destekliyor. Çift yönlü dikkat ve kendi kendini düzeltme özellikleriyle kod tamamlama ve satır içi düzenleme için ideal. Model, Apache 2.0 altında açık kaynaklı hale getirildi. Yeni token listelemeleri, bu tür üretkenlik ilerlemelerinden faydalanabilir.
ME AI Haberi, Google DeepMind, metin yayılma teknolojisini kullanan açık kaynaklı deneysel model DiffusionGemma'yi yayınladı; bu model, otoregresif tek token üretme yöntemini aşarak her ilerleme adımında 256 token'i paralel olarak üretiyor. Bu 26B MoE modeli, çıkarım sırasında yalnızca 3,8B parametre aktifleştiriyor ve kuantlaştırıldıktan sonra 18 GB VRAM'a sahip tüketici düzeyi GPU'lara uygun hale geliyor. H100 üzerinde 1000+ token/s, RTX 5090 üzerinde 700+ token/s hızla çalışıyor ve hız 4 kat artırıldı. Çift yönlü dikkat ve kendi kendini düzeltme yeteneğine sahip; içe gömülü düzenleme, kod doldurma gibi yerel etkileşimli iş akışları için tasarlandı ve Apache 2.0 lisansı altında açıktır. (Kaynak: AiHot)
Yasal Uyarı: Bu sayfadaki bilgiler üçüncü şahıslardan alınmış olabilir ve KuCoin'in görüşlerini veya fikirlerini yansıtmayabilir. Bu içerik, herhangi bir beyan veya garanti olmaksızın yalnızca genel bilgilendirme amacıyla sağlanmıştır ve finansal veya yatırım tavsiyesi olarak yorumlanamaz. KuCoin, herhangi bir hata veya eksiklikten veya bu bilgilerin kullanımından kaynaklanan sonuçtan sorumlu değildir. Dijital varlıklara yapılan yatırımlar riskli olabilir. Lütfen bir ürünün risklerini ve risk toleransınızı kendi finansal koşullarınıza göre dikkatlice değerlendirin. Daha fazla bilgi için lütfen Kullanım Koşullarımıza ve Risk Açıklamamıza bakınız.