Huawei déploie un modèle MoE de 30 milliards de paramètres sur le Mate XT 2

iconKuCoinFlash
Partager
AI summary iconRésumé
Huawei a déployé un modèle MoE de 30 milliards de paramètres et 2 milliards d'activations sur le Mate XT 2, basé sur MetaEra. Ce modèle, premier MoE full-modal sur appareil, fonctionne sur la puce Kirin 9050 Pro avec prise en charge du NPU Da Vinci. L'analyse sur chaîne révèle un intérêt croissant pour les performances de l'IA sur appareil. Le modèle a été annoncé pour la première fois en juin, optimisé pour les puces Kirin grâce à des techniques de prédiction d'experts pour réduire l'utilisation de la mémoire et augmenter le débit. Une intégration dans les futures puces et téléphones Kirin est prévue pour l'automne.
ME AI Actualité — Beating AI : Huawei a déployé officiellement un modèle MoE de bord de 30 milliards de paramètres totaux et 2 milliards de paramètres activés sur le nouveau smartphone triple pliable Mate XT 2. Huawei le qualifie de « premier modèle MoE de bord multi-modal de l'industrie ». Le modèle s'exécute sur le nouveau Kirin 9050 Pro, alimenté par une NPU basée sur l'architecture Da Vinci pour fournir une puissance de calcul de bord. Ce modèle de bord de 30 Go/2 Go avait déjà été annoncé en juin. Huawei indiquait alors qu'il était spécifiquement optimisé pour les puces Kirin, en réduisant la consommation mémoire et en augmentant le débit d'inférence grâce à des techniques telles que la prédiction d'experts, avec un déploiement prévu à l'automne sur les puces Kirin et les smartphones. (Source : BlockBeats)
Source:Afficher l'original
Clause de non-responsabilité : les informations sur cette page peuvent avoir été obtenues auprès de tiers et ne reflètent pas nécessairement les points de vue ou opinions de KuCoin. Ce contenu est fourni à titre informatif uniquement, sans aucune représentation ou garantie d’aucune sorte, et ne doit pas être interprété comme un conseil en investissement. KuCoin ne sera pas responsable des erreurs ou omissions, ni des résultats résultant de l’utilisation de ces informations. Les investissements dans les actifs numériques peuvent être risqués. Veuillez évaluer soigneusement les risques d’un produit et votre tolérance au risque en fonction de votre propre situation financière. Pour plus d’informations, veuillez consulter nos conditions d’utilisation et divulgation des risques.