Ant Group membuka sumber model Ling-3.0-Flash dengan 124B parameter

icon MarsBit
Kongsi
AI summary iconRingkasan
Ant Group's inclusionAI telah membuka sumber model Ling-3.0-flash di bawah lesen MIT, dengan minat terbuka yang meningkat di kalangan pembangun. Model ini menawarkan versi BF16 (255GB) dan FP8 (128GB), yang terakhir mengurangkan keperluan memori. Ia mempunyai 124B parameter keseluruhan tetapi hanya menggunakan 5.1B setiap generasi. Model ini menyokong konteks 256,000 token dan unggul dalam pengaturcaraan dan pemanggilan alat. Versi FP8 menunjukkan jurang skor maksimum 1.57 dalam empat ujian berbanding BF16. Data indeks ketakutan dan keserakahan menunjukkan optimisme yang semakin meningkat terhadap kemajuan AI.

Berdasarkan pemantauan Beating, Antelope Bai Ling (inclusionAI) secara rasmi membuka bobot Ling-3.0-flash, menyediakan versi asli BF16 dan versi kuantisasi FP8. Kedua versi menggunakan lesen MIT dan telah dilancarkan di Hugging Face dan ModelScope, boleh dideploy sendiri menggunakan SGLang atau vLLM. Bobot BF16 berukuran sekitar 255GB, manakala versi FP8 sekitar 128GB, saiz hampir separuh. FP8 menyimpan parameter dengan presisi lebih rendah, mengurangkan ambang penyimpanan dan memori GPU. Dalam empat ujian yang disenaraikan secara rasmi, perbezaan maksimum antara FP8 dan BF16 ialah 1.57 mata. Ling-3.0-flash mempunyai jumlah parameter 124 bilion, dengan hanya 5.1 bilion yang diaktifkan setiap kali penghasilan. Model ini menyokong konteks 256,000 token, terutama ditujukan untuk tugas Agent seperti pengaturcaraan, carian, penyelidikan mendalam, dan pemanggilan alat. Penilaian rasmi menunjukkan ia mencapai atau melebihi model generasi sebelumnya Ring-2.6-1T dengan parameter trilion dalam kebanyakan piawai.

Sumber:Tunjukkan artikel asal
Penafian: Maklumat yang terdapat pada halaman ini mungkin telah diperoleh daripada pihak ketiga dan tidak semestinya menggambarkan pandangan atau pendapat KuCoin. Kandungan ini adalah disediakan bagi tujuan maklumat umum sahaja, tanpa sebarang perwakilan atau waranti dalam apa jua bentuk, dan juga tidak boleh ditafsirkan sebagai nasihat kewangan atau pelaburan. KuCoin tidak akan bertanggungjawab untuk sebarang kesilapan atau pengabaian, atau untuk sebarang akibat yang terhasil daripada penggunaan maklumat ini. Pelaburan dalam aset digital boleh membawa risiko. Sila menilai risiko produk dan toleransi risiko anda dengan teliti berdasarkan keadaan kewangan anda sendiri. Untuk maklumat lanjut, sila rujuk kepada Terma Penggunaan dan Pendedahan Risiko kami.