⚡ A NVIDIA acelera em 42,5% a inferência do Ling-3.0-flash no DGX Spark A velocidade no GSM8K aumentou de 37,81 para 53,89 tokens por segundo. Foram combinados núcleos Humming, uma cabeça LM em FP8 e decodificação especulativa. A precisão passou de 96,89% para 96,82%, uma diferença descrita como estatisticamente indetectável.
Este conteúdo é apenas para fins informativos e educacionais. Ele pode incluir opiniões de terceiros, conteúdo patrocinado ou material promocional pelos quais o criador pode receber compensação. Nada neste feed constitui aconselhamento financeiro ou garantia de retorno. Você é o único responsável por suas próprias decisões de investimento. Sempre realize a sua própria pesquisa e aja com cautela antes de negociar. Não garantimos a precisão das informações de terceiros e não nos responsabilizamos por quaisquer perdas incorridas. Desempenho passado não é indicativo de resultados futuros. Consulte nossos Termos da Comunidade e a Declaração de Divulgação de Riscos para mais detalhes.
Publique sua resposta