Ant Group, 124 milyar parametreli Ling-3.0-Flash modelini açık kaynaklı hale getiriyor

icon MarsBit
Paylaş
AI summary iconÖzet
Ant Group'in dahil olduğu AI, Ling-3.0-flash modelini MIT lisansı altında açık kaynak hale getirdi ve geliştiriciler arasında ilgi arttı. Model, BF16 (255 GB) ve FP8 (128 GB) sürümlerini sunuyor; sonuncusu bellek gereksinimlerini azaltıyor. Toplam 124 milyar parametreye sahip ancak her üretimde yalnızca 5,1 milyar parametre kullanıyor. Model, 256.000 tokenlik bağlamı destekliyor ve programlama ile araç çağırma konularında üstün performans gösteriyor. FP8 sürümü, dört testte BF16 ile maksimum 1,57 puan fark gösteriyor. Korku ve açgözlülük endeksi verileri, yapay zeka ilerlemeleri etrafında artan iyimserliği gösteriyor.

Beating İzleme'ye göre, Ant Ling (inclusionAI), Ling-3.0-flash ağırlıklarını resmen açtı ve BF16 orijinal ve FP8 kuantize sürümlerini sundu. İki sürüm de MIT lisansı altında, Hugging Face ve ModelScope'da mevcuttur ve SGLang veya vLLM ile kendi kendine dağıtılabilir. BF16 ağırlığı yaklaşık 255 GB, FP8 sürümü ise yaklaşık 128 GB olup boyut yaklaşık yarıya indi. FP8, daha düşük hassasiyetle parametreleri kaydederek depolama ve GPU belleği gereksinimlerini azaltır. Resmi olarak listelenen 4 testte, FP8 ile BF16 arasındaki maksimum fark 1,57 puandır. Ling-3.0-flash toplam parametre sayısı 124 milyar, her üretimde yalnızca 5,1 milyar aktif hale gelir. Model, 256.000 Token bağlamı destekler ve temel olarak programlama, arama, derin araştırma ve araç çağırma gibi Agent görevleri için tasarlanmıştır. Resmi değerlendirmelere göre, çoğu benchmark'ta Ring-2.6-1T gibi trilyon parametreli önceki modele eşit veya daha iyi performans göstermektedir.

Kaynak:Orijinalini göster
Yasal Uyarı: Bu sayfadaki bilgiler üçüncü şahıslardan alınmış olabilir ve KuCoin'in görüşlerini veya fikirlerini yansıtmayabilir. Bu içerik, herhangi bir beyan veya garanti olmaksızın yalnızca genel bilgilendirme amacıyla sağlanmıştır ve finansal veya yatırım tavsiyesi olarak yorumlanamaz. KuCoin, herhangi bir hata veya eksiklikten veya bu bilgilerin kullanımından kaynaklanan sonuçtan sorumlu değildir. Dijital varlıklara yapılan yatırımlar riskli olabilir. Lütfen bir ürünün risklerini ve risk toleransınızı kendi finansal koşullarınıza göre dikkatlice değerlendirin. Daha fazla bilgi için lütfen Kullanım Koşullarımıza ve Risk Açıklamamıza bakınız.