Huawei implementa el modelo MoE de 30 mil millones de parámetros en el Mate XT 2

iconKuCoinFlash
Compartir
AI summary iconResumen
Huawei ha implementado un modelo MoE de 30 mil millones de parámetros y 2 mil millones de activaciones en el Mate XT 2, basado en MetaEra. El modelo, el primer MoE de modalidad completa en el lado del dispositivo, se ejecuta en el chip Kirin 9050 Pro con soporte Da Vinci NPU. El análisis en cadena muestra un creciente interés en el rendimiento de la IA en el dispositivo. El modelo fue anunciado por primera vez en junio, optimizado para chips Kirin con técnicas de predicción de expertos para reducir el uso de memoria y aumentar el rendimiento. Se planea la integración en futuros chips y teléfonos Kirin para el otoño.
ME AI Noticias, Beating AI en tiempo real: Huawei ha implementado oficialmente un modelo MoE de borde con 30B parámetros totales y 2B parámetros activados en el nuevo teléfono plegable triple Mate XT 2. Huawei lo describe como el «primer modelo MoE de borde multimodal de la industria». El modelo funciona en el nuevo Kirin 9050 Pro, con potencia de procesamiento en el borde proporcionada por la NPU de la arquitectura Da Vinci. Este modelo de borde de 30B/2B ya había sido anunciado en junio. Huawei indicó entonces que estaba optimizado específicamente para los chips Kirin y utiliza tecnologías como la predicción de expertos para reducir el uso de memoria y aumentar el rendimiento de inferencia, con planes de integrarlo en los chips Kirin y teléfonos durante el otoño. (Fuente: BlockBeats)
Fuente:Mostrar original
Descargo de responsabilidad: La información contenida en esta página puede proceder de terceros y no refleja necesariamente los puntos de vista u opiniones de KuCoin. Este contenido se proporciona solo con fines informativos generales, sin ninguna representación o garantía de ningún tipo, y tampoco debe interpretarse como asesoramiento financiero o de inversión. KuCoin no es responsable de ningún error u omisión, ni de ningún resultado derivado del uso de esta información. Las inversiones en activos digitales pueden ser arriesgadas. Evalúa con cuidado los riesgos de un producto y tu tolerancia al riesgo en función de tus propias circunstancias financieras. Para más información, consulta nuestras Condiciones de uso y la Declaración de riesgos.