Selon les données de Beating Monitoring, Ant Bailing (inclusionAI) a officiellement ouvert les poids de Ling-3.0-flash, proposant à la fois la version originale BF16 et la version quantifiée FP8. Les deux versions sont sous licence MIT et sont désormais disponibles sur Hugging Face et ModelScope, avec la possibilité de les déployer soi-même via SGLang ou vLLM. La version BF16 pèse environ 255 Go, tandis que la version FP8 pèse environ 128 Go, soit une réduction de volume presque divisée par deux. FP8 stocke les paramètres avec une précision inférieure, réduisant ainsi les exigences en matière de stockage et de mémoire GPU. Sur les quatre tests listés par l'équipe officielle, l'écart maximal entre FP8 et BF16 est de 1,57 points. Ling-3.0-flash compte 124 milliards de paramètres au total, mais n'active que 5,1 milliards lors de chaque génération. Le modèle prend en charge un contexte de 256 000 tokens et est principalement conçu pour des tâches d'agent telles que la programmation, la recherche, les études approfondies et l'appel d'outils. Les évaluations officielles montrent qu'il atteint ou dépasse, sur la plupart des benchmarks, le modèle précédent Ring-2.6-1T doté de mille milliards de paramètres.
Ant Group open-source le modèle Ling-3.0-Flash avec 124 milliards de paramètres
MarsBitPartager
Résumé
Ant Group's inclusionAI a open-sourcé le modèle Ling-3.0-flash sous licence MIT, suscitant un intérêt croissant chez les développeurs. Le modèle propose des versions BF16 (255 Go) et FP8 (128 Go), cette dernière réduisant les besoins en mémoire. Il compte 124 milliards de paramètres au total, mais n'utilise que 5,1 milliards par génération. Le modèle prend en charge un contexte de 256 000 jetons et excelle en programmation et en appel d'outils. La version FP8 affiche un écart maximal de 1,57 point sur quatre tests par rapport à la version BF16. Les données de l'indice de peur et de cupidité suggèrent une optimisation croissante concernant les avancées en IA.
Source:Afficher l'original
Clause de non-responsabilité : les informations sur cette page peuvent avoir été obtenues auprès de tiers et ne reflètent pas nécessairement les points de vue ou opinions de KuCoin. Ce contenu est fourni à titre informatif uniquement, sans aucune représentation ou garantie d’aucune sorte, et ne doit pas être interprété comme un conseil en investissement. KuCoin ne sera pas responsable des erreurs ou omissions, ni des résultats résultant de l’utilisation de ces informations.
Les investissements dans les actifs numériques peuvent être risqués. Veuillez évaluer soigneusement les risques d’un produit et votre tolérance au risque en fonction de votre propre situation financière. Pour plus d’informations, veuillez consulter nos conditions d’utilisation et divulgation des risques.