Qwen 3.6 27B Yoğun Model, RTX 3090'da 40 Tok/s başarıyor

iconKuCoinFlash
Paylaş
Share IconShare IconShare IconShare IconShare IconShare IconCopy
AI summary iconÖzet

expand icon
MetaEra'dan blockchain üzerindeki haberlere göre, Qwen 3.6 27B Dense modeli, tek bir RTX 3090 24GB GPU'da saniyede 40 token hızına ulaştı. Kullanıcı @sudoingX, 24 Nisan'da (UTC+8) llama.cpp'in Q4_K_M kuantizasyonunu kullanarak sonuçları paylaştı. Herhangi bir hile veya birleştirilmiş çekirdek uygulanmadı. Özel bir parçacık sürüsü benchmark'ı da geliştirildi. Kripto haber platformları performansı yakından takip ediyor.

AIMPACT mesajı, 24 Nisan (UTC+8), 2026 yılında kullanıcı @sudoingX, Qwen 3.6 27B Dense modelinin tek bir RTX 3090 24GB GPU üzerinde 40 tok/s hızla 10/10 testini geçtiğini ilk test sonuçlarını yayınladı. Bu sonuç, nicelleştirme teknikleri veya füzyon çekirdekleri kullanılmadan yalnızca llama.cpp'in Q4_K_M doğrudan nicelleştirilmesiyle elde edildi. Kullanıcı ayrıca modeli değerlendirmek için bir parçacık sürüsü benchmarkı yazdı. (Kaynak: InFoQ)

Yasal Uyarı: Bu sayfadaki bilgiler üçüncü şahıslardan alınmış olabilir ve KuCoin'in görüşlerini veya fikirlerini yansıtmayabilir. Bu içerik, herhangi bir beyan veya garanti olmaksızın yalnızca genel bilgilendirme amacıyla sağlanmıştır ve finansal veya yatırım tavsiyesi olarak yorumlanamaz. KuCoin, herhangi bir hata veya eksiklikten veya bu bilgilerin kullanımından kaynaklanan sonuçtan sorumlu değildir. Dijital varlıklara yapılan yatırımlar riskli olabilir. Lütfen bir ürünün risklerini ve risk toleransınızı kendi finansal koşullarınıza göre dikkatlice değerlendirin. Daha fazla bilgi için lütfen Kullanım Koşullarımıza ve Risk Açıklamamıza bakınız.