Ipinapakilala ni Huawei ang 30B-parameter MoE model sa Mate XT 2

iconKuCoinFlash
I-share
AI summary iconSummary
Nilikha ng Huawei ang isang 30B-parameter, 2B-activation MoE model sa Mate XT 2, batay sa MetaEra. Ang model na ito, ang unang full-modal MoE sa gilid ng device, ay tumatakbo sa Kirin 9050 Pro chip na may suporta sa Da Vinci NPU. Ang on-chain analysis ay nagpapakita ng paglago sa interes sa on-device AI performance. Ang model ay unang inihayag noong Hunyo, na-optimize para sa Kirin chips gamit ang expert prediction techniques upang bawasan ang paggamit ng memorya at pataasin ang throughput. Ang integrasyon sa mga susunod na Kirin chips at phones ay plano para sa taglagas.
ME AI mensahe, Beating AI News: Ipinakilala ng Huawei ang isang end-side MoE na malaking modelo na may kabuuang 30B na parameter at 2B na aktibong parameter sa kanilang bagong henerasyon ng triple-fold na telepono, ang Mate XT 2. Sinasabi ng Huawei na ito ang "unang end-side MoE na multi-modal na malaking modelo sa industriya." Ang modelo ay tumatakbo sa bagong ipinakilalang麒麟 9050 Pro, na binibigyan ng end-side computing power ng Da Vinci architecture NPU. Ang这套 30B/2B end-side model ay naunang inihayag noong Hunyo. Noong panahong iyon, sinabi ng Huawei na ito ay espesyal na inoptimize para sa Kirin chip, at gumagamit ng teknolohiya tulad ng expert prediction upang bawasan ang memorya usage at pataasin ang inference throughput, na may plano na maipasok sa mga Kirin chip at telepono noong tagsibol. (Pinagmulan: BlockBeats)
Source:Ipakita ang original
Disclaimer: Ang information sa page na ito ay maaaring nakuha mula sa mga third party at hindi necessary na nagre-reflect sa mga pananaw o opinyon ng KuCoin. Ibinigay ang content na ito para sa mga pangkalahatang informational purpose lang, nang walang anumang representation o warranty ng anumang uri, at hindi rin ito dapat ipakahulugan bilang financial o investment advice. Hindi mananagot ang KuCoin para sa anumang error o omission, o para sa anumang outcome na magreresulta mula sa paggamit ng information na ito. Maaaring maging risky ang mga investment sa mga digital asset. Pakisuri nang maigi ang mga risk ng isang produkto at ang risk tolerance mo batay sa iyong sariling kalagayang pinansyal. Para sa higit pang information, mag-refer sa aming Terms ng Paggamit at Disclosure ng Risk.