De acordo com o monitoramento da Beating, a Ant Ling (inclusionAI) lançou oficialmente os pesos do Ling-3.0-flash, disponibilizando simultaneamente as versões originais BF16 e quantizadas FP8. Ambas as versões utilizam a licença MIT e já estão disponíveis no Hugging Face e no ModelScope, podendo ser implantadas localmente com SGLang ou vLLM. O peso da versão BF16 é de aproximadamente 255 GB, enquanto a versão FP8 é de cerca de 128 GB, reduzindo o tamanho quase pela metade. A FP8 armazena parâmetros com menor precisão, diminuindo a barreira de armazenamento e memória de GPU. Em quatro testes listados oficialmente, a diferença máxima entre FP8 e BF16 foi de 1,57 pontos. O Ling-3.0-flash possui 124 bilhões de parâmetros totais, ativando apenas 5,1 bilhões por geração. O modelo suporta contexto de 256.000 tokens e é voltado principalmente para tarefas de Agentes, como programação, busca, pesquisa aprofundada e chamada de ferramentas. Avaliações oficiais mostram que ele atinge ou supera, na maioria dos benchmarks, o modelo anterior de trilhões de parâmetros, Ring-2.6-1T.
Ant Group lança abertamente o modelo Ling-3.0-Flash com 124 bilhões de parâmetros
MarsBitCompartilhar
Resumo
A Ant Group incluiu o modelo Ling-3.0-flash como código aberto sob a licença MIT, com o interesse aberto aumentando entre desenvolvedores. O modelo oferece versões BF16 (255 GB) e FP8 (128 GB), esta última reduzindo as necessidades de memória. Ele possui 124 bilhões de parâmetros totais, mas utiliza apenas 5,1 bilhões por geração. O modelo suporta contexto de 256.000 tokens e se destaca em programação e chamadas de ferramentas. A versão FP8 apresenta uma diferença máxima de 1,57 pontos em quatro testes em comparação com a BF16. Os dados do índice de medo e ganância sugerem otimismo crescente em torno dos avanços em IA.
Fonte:Mostrar original
Aviso legal: as informações nesta página podem ter sido obtidas de terceiros e não refletem necessariamente os pontos de vista ou opiniões da KuCoin. Este conteúdo é fornecido apenas para fins informativos gerais, sem qualquer representação ou garantia de qualquer tipo, nem deve ser interpretado como aconselhamento financeiro ou de investimento. A KuCoin não é responsável por quaisquer erros ou omissões, ou por quaisquer resultados do uso destas informações.
Os investimentos em ativos digitais podem ser arriscados. Avalie cuidadosamente os riscos de um produto e a sua tolerância ao risco com base nas suas próprias circunstâncias financeiras. Para mais informações, consulte nossos termos de uso e divulgação de risco.