Ant Group lanza como código abierto el modelo Ling-3.0-Flash con 124 mil millones de parámetros

Según el monitoreo de Beating, InclusionAI ha lanzado oficialmente los pesos de Ling-3.0-flash, ofreciendo tanto la versión original BF16 como la versión cuantizada FP8. Ambas versiones utilizan la licencia MIT y ya están disponibles en Hugging Face y ModelScope, con la posibilidad de desplegarlas por cuenta propia mediante SGLang o vLLM. El peso de la versión BF16 es de aproximadamente 255 GB, mientras que la versión FP8 es de aproximadamente 128 GB, reduciendo casi a la mitad el tamaño. FP8 guarda los parámetros con menor precisión, lo que reduce los requisitos de almacenamiento y memoria GPU. En las cuatro pruebas listadas por el equipo oficial, la máxima diferencia de puntuación entre FP8 y BF16 fue de 1.57 puntos. Ling-3.0-flash tiene un total de 124 mil millones de parámetros, activando solo 5.1 mil millones durante cada generación. El modelo admite un contexto de hasta 256 000 tokens y está diseñado principalmente para tareas de agentes como programación, búsqueda, investigación profunda y llamadas a herramientas. Las evaluaciones oficiales muestran que supera o iguala a los modelos anteriores de un billón de parámetros, como Ring-2.6-1T, en la mayoría de los benchmarks.