Mensagem da AIMPACT, 5 de maio (UTC+8): A NVIDIA AI anunciou que seu framework Megatron Core agora oferece suporte end-to-end a otimizadores avançados emergentes, como Muon, e otimizadores de pesquisa, como MOP e REKLS, visando aumentar a eficiência do treinamento de modelos em grande escala. O oficial destacou que o treinamento eficiente de modelos na escala de Kimi K2 e Qwen3 30B exige técnicas além do paralelismo de dados padrão. Atualmente, a mensagem não divulga métricas de desempenho ou detalhes de implementação. (Fonte: InFoQ)
NVIDIA Megatron Core adiciona suporte ao Muon e outros otimizadores
KuCoinFlashCompartilhar
Resumo
A NVIDIA AI fez um anúncio de projeto em 5 de maio (UTC+8), revelando que seu framework Megatron Core agora suporta otimizadores avançados como Muon, MOP e REKLS. A atualização tem como objetivo aumentar a eficiência de treinamento para modelos grandes. A NVIDIA afirmou que métodos padrão de paralelismo de dados não são mais suficientes para modelos como Kimi K2 e Qwen3 30B. A empresa não compartilhou dados de desempenho nem especificações técnicas. O anúncio do projeto ocorre no contexto do contínuo interesse sobre como os dados de inflação podem afetar os orçamentos de desenvolvimento de IA.
Fonte:Mostrar original
Aviso legal: as informações nesta página podem ter sido obtidas de terceiros e não refletem necessariamente os pontos de vista ou opiniões da KuCoin. Este conteúdo é fornecido apenas para fins informativos gerais, sem qualquer representação ou garantia de qualquer tipo, nem deve ser interpretado como aconselhamento financeiro ou de investimento. A KuCoin não é responsável por quaisquer erros ou omissões, ou por quaisquer resultados do uso destas informações.
Os investimentos em ativos digitais podem ser arriscados. Avalie cuidadosamente os riscos de um produto e a sua tolerância ao risco com base nas suas próprias circunstâncias financeiras. Para mais informações, consulte nossos termos de uso e divulgação de risco.