Huawei Melaksanakan Model MoE 30B Parameter pada Mate XT 2

iconKuCoinFlash
Kongsi
AI summary iconRingkasan
Huawei telah melancarkan model MoE dengan 30B parameter dan 2B aktivasi di Mate XT 2, berdasarkan MetaEra. Model ini, yang merupakan MoE modul penuh pertama di sisi peranti, berjalan pada cip Kirin 9050 Pro dengan sokongan Da Vinci NPU. Analisis atas rantai menunjukkan minat yang semakin meningkat terhadap prestasi AI di peranti. Model ini pertama kali diumumkan pada Jun, dioptimakan untuk cip Kirin dengan teknik ramalan pakar untuk mengurangkan penggunaan memori dan meningkatkan throughput. Integrasi ke dalam cip dan telefon Kirin masa depan dirancang untuk musim gugur.
ME AI Berita, Beating AI Berita Cepat, Huawei secara rasmi melancarkan model bahasa besar MoE sisi peranti dengan jumlah parameter keseluruhan 30B dan parameter yang diaktifkan 2B ke dalam telefon pintar tiga lipat generasi baru, Mate XT 2. Huawei menyatakan bahawa ini adalah "model bahasa besar multimodal MoE sisi peranti pertama di industri". Model ini berjalan di麒麟 9050 Pro yang baru dilancarkan, dengan daya komputasi sisi peranti disediakan oleh NPU berarkitektur Da Vinci. Model sisi peranti 30B/2B ini sebenarnya telah diumumkan sejak Jun. Pada masa itu, Huawei menyatakan bahawa model ini telah dioptimaskan secara khusus untuk cip麒麟, serta mengurangkan penggunaan memori dan meningkatkan throughput inferens melalui teknik seperti ramalan pakar, dengan perancangan untuk dilancarkan pada musim gugur bersama cip麒麟 dan telefon pintar. (Sumber: BlockBeats)
Sumber:Tunjukkan artikel asal
Penafian: Maklumat yang terdapat pada halaman ini mungkin telah diperoleh daripada pihak ketiga dan tidak semestinya menggambarkan pandangan atau pendapat KuCoin. Kandungan ini adalah disediakan bagi tujuan maklumat umum sahaja, tanpa sebarang perwakilan atau waranti dalam apa jua bentuk, dan juga tidak boleh ditafsirkan sebagai nasihat kewangan atau pelaburan. KuCoin tidak akan bertanggungjawab untuk sebarang kesilapan atau pengabaian, atau untuk sebarang akibat yang terhasil daripada penggunaan maklumat ini. Pelaburan dalam aset digital boleh membawa risiko. Sila menilai risiko produk dan toleransi risiko anda dengan teliti berdasarkan keadaan kewangan anda sendiri. Untuk maklumat lanjut, sila rujuk kepada Terma Penggunaan dan Pendedahan Risiko kami.