Moonshot, Yüksek Performanslı Dikkat Mimarisi Kimi Linear'i Lansman Yapıyor

iconKuCoinFlash
Paylaş
AI summary iconÖzet
Moonshot, 29 Temmuz'da (UTC+8) yüksek performanslı bir dikkat mimarisi olan Kimi Linear'i sundu. Hibrit doğrusal model, kısa ve uzun bağlam senaryolarında ve pekiştirmeli öğrenmede tam dikkat modelini aşıyor. 3 milyar aktif parametre ile KV önbellek kullanımını %75 azaltıyor ve 1 milyon bağlamda dekodlama verimliliğini 6 kat artırıyor. KDA çekirdeği, vLLM uygulaması ve model ağırlıkları açık kaynaklı hale getirildi. Destek ve direnç seviyelerini değerlendiren trader'lar, bu ilerlemenin algoritmik stratejilerinde risk-kâr oranını iyileştirebileceğini bulabilir.

ME Haberleri'ne göre, 29 Temmuz (UTC+8) tarihinde, Ayın Karanlık Yüzü, kısa bağlam, uzun bağlam ve pekiştirmeli öğrenme senaryolarında ilk kez tam dikkat mekanizmasını aşan bir karışık lineer dikkat mimarisi olan Kimi Linear'i tanıttı. 3B aktive parametreli modeli, tüm değerlendirme görevlerinde tam MLA'ya göre belirgin şekilde daha iyi performans gösterirken, KV önbellek kullanımını en fazla %75 azaltıyor ve 1M bağlamda en yüksek 6 kat çözme verimliliği sağlıyor. Ayın Karanlık Yüzü, KDA çekirdeğini, vLLM uygulamasını ve model ağırlıklarını açık kaynak yaptı. 🔗 Makaleyi okuyun via AI HOT · https://aihot.virxact.com/items/cms4t5zra01o1roa10b19hmbh (Kaynak: AiHot)

Yasal Uyarı: Bu sayfadaki bilgiler üçüncü şahıslardan alınmış olabilir ve KuCoin'in görüşlerini veya fikirlerini yansıtmayabilir. Bu içerik, herhangi bir beyan veya garanti olmaksızın yalnızca genel bilgilendirme amacıyla sağlanmıştır ve finansal veya yatırım tavsiyesi olarak yorumlanamaz. KuCoin, herhangi bir hata veya eksiklikten veya bu bilgilerin kullanımından kaynaklanan sonuçtan sorumlu değildir. Dijital varlıklara yapılan yatırımlar riskli olabilir. Lütfen bir ürünün risklerini ve risk toleransınızı kendi finansal koşullarınıza göre dikkatlice değerlendirin. Daha fazla bilgi için lütfen Kullanım Koşullarımıza ve Risk Açıklamamıza bakınız.