Binuksan ng Ant Group ang Ling-3.0-Flash Model na may 124B na parameter

icon MarsBit
I-share
AI summary iconSummary
Ang Ant Group's inclusionAI ay nag-open source ng Ling-3.0-flash model sa ilalim ng MIT license, na nagdulot ng pagtaas na interes sa mga developer. Ang model ay nag-aalok ng BF16 (255GB) at FP8 (128GB) na bersyon, kung saan ang huli ay nagbabawas sa pangangailangan sa memorya. Mayroon itong 124B kabuuang parameter ngunit gumagamit lamang ng 5.1B bawat generation. Suportahan ng model ang 256,000-token context at nangunguna sa programming at tool calling. Ang FP8 version ay nagpakita ng maximum 1.57 score gap sa apat na pagsubok kumpara sa BF16. Ang data ng fear and greed index ay nagmumungkahi ng pagtaas na pagkakaroon ng pag-asa tungkol sa mga pag-unlad sa AI.

Ayon sa pagmamasid sa Beating, ang Antelope Bai Ling (inclusionAI) ay opisyal na inilunsad ang mga timbang ng Ling-3.0-flash, kasama ang orihinal na BF16 at ang FP8 quantized version. Parehong bersyon ay gumagamit ng MIT license at nasa Hugging Face at ModelScope, at maaaring i-deploy gamit ang SGLang o vLLM. Ang BF16 weight ay humigit-kumulang 255GB, habang ang FP8 version ay humigit-kumulang 128GB—malapit na sa pagkakabawas ng sukat sa kalahati. Ang FP8 ay nag-iimbak ng mga parameter sa mas mababang precision, na nagbabawas sa mga pangangailangan sa storage at VRAM. Sa apat na pagsusuri na listahan ng opisyal, ang pinakamalaking pagkakaiba sa marka ng FP8 at BF16 ay 1.57 puntos. Ang Ling-3.0-flash ay may kabuuang 124 bilyong parameter, ngunit bawat paggawa ay nagpapagana lamang ng 51 bilyon. Ang modelo ay sumusuporta sa 256,000 Token na konteksto, at pangunahing nakatuon sa mga Agent task tulad ng pagprograma, paghahanap, malalim na pag-aaral, at pagtawag sa mga tool. Ayon sa opisyal na pagsusuri, ito ay nakakamit o lumampas sa mga dating modelo ng trillion-parameter na Ring-2.6-1T sa karamihan ng benchmarks.

Disclaimer: Ang information sa page na ito ay maaaring nakuha mula sa mga third party at hindi necessary na nagre-reflect sa mga pananaw o opinyon ng KuCoin. Ibinigay ang content na ito para sa mga pangkalahatang informational purpose lang, nang walang anumang representation o warranty ng anumang uri, at hindi rin ito dapat ipakahulugan bilang financial o investment advice. Hindi mananagot ang KuCoin para sa anumang error o omission, o para sa anumang outcome na magreresulta mula sa paggamit ng information na ito. Maaaring maging risky ang mga investment sa mga digital asset. Pakisuri nang maigi ang mga risk ng isang produkto at ang risk tolerance mo batay sa iyong sariling kalagayang pinansyal. Para sa higit pang information, mag-refer sa aming Terms ng Paggamit at Disclosure ng Risk.