Huawei implanta modelo MoE com 30 bilhões de parâmetros no Mate XT 2

iconKuCoinFlash
Compartilhar
AI summary iconResumo
A Huawei implantou um modelo MoE de 30 bilhões de parâmetros e 2 bilhões de ativações no Mate XT 2, baseado no MetaEra. O modelo, o primeiro MoE de modalidade completa no lado do dispositivo, funciona no chip Kirin 9050 Pro com suporte ao NPU Da Vinci. A análise on-chain mostra crescente interesse no desempenho de IA no dispositivo. O modelo foi anunciado pela primeira vez em junho, otimizado para chips Kirin com técnicas de previsão de especialistas para reduzir o uso de memória e aumentar o throughput. A integração em futuros chips e telefones Kirin está planejada para o outono.
ME AI Notícia, Beating AI em tempo real: a Huawei implementou oficialmente um novo modelo MoE de borda com 30B de parâmetros totais e 2B de parâmetros ativados no novo smartphone tri dobrável Mate XT 2. A Huawei afirma que se trata do "primeiro modelo MoE de borda multimodal da indústria". O modelo roda no recém-lançado Kirin 9050 Pro, com poder de processamento fornecido pela NPU da arquitetura Da Vinci. Esse modelo de borda de 30B/2B já havia sido anunciado em junho. A Huawei afirmou na época que foi otimizado especificamente para os chips Kirin e utiliza técnicas como predição de especialistas para reduzir o uso de memória e aumentar o throughput de inferência, com planejamento de lançamento no outono nos chips Kirin e smartphones. (Fonte: BlockBeats)
Fonte:Mostrar original
Aviso legal: as informações nesta página podem ter sido obtidas de terceiros e não refletem necessariamente os pontos de vista ou opiniões da KuCoin. Este conteúdo é fornecido apenas para fins informativos gerais, sem qualquer representação ou garantia de qualquer tipo, nem deve ser interpretado como aconselhamento financeiro ou de investimento. A KuCoin não é responsável por quaisquer erros ou omissões, ou por quaisquer resultados do uso destas informações. Os investimentos em ativos digitais podem ser arriscados. Avalie cuidadosamente os riscos de um produto e a sua tolerância ao risco com base nas suas próprias circunstâncias financeiras. Para mais informações, consulte nossos termos de uso e divulgação de risco.