Ant Group Melepaskan Model Ling-3.0-Flash dengan 124M Parameter

icon MarsBit
Bagikan
AI summary iconRingkasan
Ant Group's inclusionAI telah melepaskan model Ling-3.0-flash di bawah lisensi MIT, dengan minat terbuka yang meningkat di kalangan pengembang. Model ini menawarkan versi BF16 (255 GB) dan FP8 (128 GB), yang terakhir mengurangi kebutuhan memori. Model ini memiliki total 124 miliar parameter tetapi hanya menggunakan 5,1 miliar per generasi. Model ini mendukung konteks 256.000 token dan unggul dalam pemrograman dan pemanggilan alat. Versi FP8 menunjukkan selisih skor maksimal 1,57 dalam empat uji coba dibandingkan BF16. Data indeks fear and greed menunjukkan optimisme yang meningkat terhadap kemajuan AI.

Menurut pemantauan Beating, Ant Ling (inclusionAI) secara resmi membuka bobot Ling-3.0-flash, dengan menyediakan versi asli BF16 dan versi kuantisasi FP8. Kedua versi menggunakan lisensi MIT dan telah tersedia di Hugging Face dan ModelScope, siap untuk di-deploy sendiri menggunakan SGLang atau vLLM. Bobot BF16 sekitar 255 GB, sementara versi FP8 sekitar 128 GB, ukurannya hampir setengahnya. FP8 menyimpan parameter dengan presisi lebih rendah, sehingga menurunkan ambang batas penyimpanan dan memori GPU. Dalam empat uji coba yang tercantum oleh pihak resmi, selisih maksimum antara FP8 dan BF16 adalah 1,57 poin. Ling-3.0-flash memiliki total parameter 124 miliar, dengan hanya 5,1 miliar parameter yang diaktifkan setiap kali generasi. Model ini mendukung konteks hingga 256.000 token, terutama ditujukan untuk tugas Agent seperti pemrograman, pencarian, penelitian mendalam, dan pemanggilan alat. Evaluasi resmi menunjukkan bahwa model ini mencapai atau melampaui model pendahulunya Ring-2.6-1T dengan parameter triliunan pada sebagian besar benchmark.

Sumber:Tampilkan versi asli
Penafian: Informasi pada halaman ini mungkin telah diperoleh dari pihak ketiga dan tidak mencerminkan pandangan atau opini KuCoin. Konten ini disediakan hanya untuk tujuan informasi umum, tanpa representasi atau jaminan apa pun, dan tidak dapat ditafsirkan sebagai saran keuangan atau investasi. KuCoin tidak bertanggung jawab terhadap segala kesalahan atau kelalaian, atau hasil apa pun yang keluar dari penggunaan informasi ini. Berinvestasi di aset digital dapat berisiko. Harap mengevaluasi risiko produk dan toleransi risiko Anda secara cermat berdasarkan situasi keuangan Anda sendiri. Untuk informasi lebih lanjut, silakan lihat Ketentuan Penggunaan dan Pengungkapan Risiko.