Huawei triển khai mô hình MoE 30 tỷ tham số trên Mate XT 2

iconKuCoinFlash
Chia sẻ
AI summary iconTóm tắt
Huawei đã triển khai mô hình MoE 30 tỷ tham số, 2 tỷ kích hoạt trên Mate XT 2, dựa trên MetaEra. Mô hình này, là mô hình MoE toàn modal đầu tiên trên thiết bị, chạy trên chip Kirin 9050 Pro với hỗ trợ Da Vinci NPU. Phân tích trên chuỗi cho thấy sự quan tâm ngày càng tăng đối với hiệu suất AI trên thiết bị. Mô hình này lần đầu tiên được công bố vào tháng Sáu, được tối ưu hóa cho các chip Kirin với các kỹ thuật dự đoán chuyên gia nhằm giảm sử dụng bộ nhớ và tăng thông lượng. Việc tích hợp vào các chip Kirin và điện thoại trong tương lai dự kiến sẽ được thực hiện vào mùa thu.
ME AI Tin tức, Beating AI nhanh tin: Huawei chính thức triển khai mô hình lớn MoE đầu cuối với tổng tham số 30B và tham số kích hoạt 2B trên điện thoại gấp ba thế hệ mới Mate XT 2. Huawei cho biết đây là “mô hình lớn đa modal đầu tiên trên thiết bị đầu cuối trong ngành”. Mô hình này chạy trên麒麟 9050 Pro vừa được phát hành, được cung cấp sức mạnh tính toán đầu cuối bởi NPU kiến trúc Da Vinci. Mô hình đầu cuối 30B/2B này thực tế đã được thông báo từ tháng 6. Lúc đó, Huawei cho biết nó đã được tối ưu hóa đặc biệt cho chip Kirin và giảm sử dụng bộ nhớ, tăng thông lượng suy luận thông qua các kỹ thuật như dự đoán chuyên gia, dự kiến sẽ xuất hiện trên chip Kirin và điện thoại vào mùa thu. (Nguồn: BlockBeats)
Nguồn:Hiển thị bản gốc
Tuyên bố miễn trừ trách nhiệm: Thông tin trên trang này có thể được lấy từ bên thứ ba và không nhất thiết phản ánh quan điểm hoặc ý kiến của KuCoin. Nội dung này chỉ được cung cấp cho mục đích thông tin chung, không có bất kỳ đại diện hay bảo đảm nào dưới bất kỳ hình thức nào và cũng không được hiểu là lời khuyên tài chính hay đầu tư. KuCoin sẽ không chịu trách nhiệm về bất kỳ sai sót hoặc thiếu sót nào hoặc về bất kỳ kết quả nào phát sinh từ việc sử dụng thông tin này. Việc đầu tư vào tài sản kỹ thuật số có thể tiềm ẩn nhiều rủi ro. Vui lòng đánh giá cẩn thận rủi ro của sản phẩm và khả năng chấp nhận rủi ro của bạn dựa trên hoàn cảnh tài chính của chính bạn. Để biết thêm thông tin, vui lòng tham khảo Điều khoản sử dụng và Tiết lộ rủi ro của chúng tôi.