Alibaba hé lộ Qwen 3.8-Flash-Next 125B với 6B tham số trên mỗi token thông qua MoE

Tiêu đề: Alibaba hé lộ Qwen 3.8-Flash-Next — bản xem trước 125 tỷ tham số chỉ kích hoạt 6 tỷ mỗi token, hướng tới Qwen 4 Alibaba sẽ công bố Qwen 3.8-Flash-Next vào thứ Tư này — được công ty mô tả là bản xem trước sớm của kiến trúc Qwen 4 thế hệ tiếp theo, chứ không phải một mô hình cốt lõi hoàn chỉnh. Theo đội ngũ Alibaba và một bài tweet đang lan truyền, mô hình này chứa 125 tỷ tham số nhưng được cho là chỉ kích hoạt khoảng 6 tỷ tham số mỗi token (bài tweet cũng đề cập đến thành phần “+51B N-gram”). Những con số này và hiệu suất thực tế của mô hình vẫn chưa được xác minh; Alibaba và Hugging Face mô tả đây là bản xem trước kiến trúc và chưa công bố điểm so sánh cạnh tranh. Tại sao những con số này quan trọng: - Tham số là các nút điều chỉnh mà mô hình sử dụng để học và thích nghi. Nhiều tham số hơn thường đồng nghĩa với khả năng mạnh hơn nhưng cũng kéo theo chi phí tính toán cao hơn. - Mấu chốt ở đây là kiến trúc mixture-of-experts (MoE): thay vì chạy toàn bộ mạng lưới khổng lồ trên mỗi đầu vào, mô hình sẽ định tuyến từng yêu cầu đến một tập hợp nhỏ các sub-mô hình “chuyên gia” chuyên biệt. Điều này có thể khiến một mô hình 125 tỷ tham số hoạt động về mặt chi phí tính toán như một mô hình nhỏ hơn nhiều, bằng cách chỉ kích hoạt các chuyên gia liên quan cho từng token. Tóm lại: khả năng gần đỉnh cao tiềm năng với chi phí tính toán phổ thông — nếu hành vi MoE được tuyên bố là chính xác. Điều Alibaba nói và những điều vẫn chưa rõ ràng: - Alibaba định vị Qwen 3.8-Flash-Next là mô hình đa phương tiện, được xây dựng trên thiết kế Qwen 4 sắp tới, được phát hành sớm để các nhà phát triển có thể chuẩn bị cho toàn bộ dòng sản phẩm. - Hugging Face, nơi các trọng số dự kiến sẽ xuất hiện, cũng gọi đây là bản xem trước kiến trúc Qwen 4. - Chưa có đánh giá độc lập hay so sánh trực tiếp nào với dòng Qwen 3 hay các đối thủ phương Tây, do đó hiệu suất và sự đánh đổi về tài nguyên vẫn còn mang tính phỏng đoán. Bối cảnh: Động lực mở trọng số của Trung Quốc Lĩnh vực mở trọng số của Trung Quốc đang rất sôi động. Các bản phát hành gần đây từ các cá nhân ẩn danh và tổ chức (một mô hình Ox Alpha bí ẩn vượt trội hơn Fable của Anthropic trong một số bài kiểm tra mã hóa, cùng các trọng số mở từ Alibaba, DeepSeek và Moonshot) giúp các mô hình mạnh mẽ có thể tải về, tinh chỉnh và chạy cục bộ. Trọng số mở giảm sự phụ thuộc vào API đóng, hạ chi phí lưu trữ và cho phép các nhà phát triển tránh gửi dữ liệu nhạy cảm đến các dịch vụ bên thứ ba — những yếu tố quan trọng đối với cả AI nói chung lẫn các dự án tiền mã hóa. Tại sao cộng đồng tiền mã hóa nên quan tâm: - Công cụ và bot trên chuỗi: các mô hình lớn có thể chạy cục bộ với chi phí thấp hơn có thể hỗ trợ các tác nhân trên chuỗi thông minh hơn, công cụ kiểm toán, chiến lược giao dịch và MEV mà không cần trả phí API liên tục. - Bảo mật và quản lý khóa: tự lưu trữ mô hình giảm rủi ro rò rỉ dữ liệu đối với khóa riêng, đồ thị giao dịch hoặc tín hiệu giao dịch độc quyền. - Cơ sở hạ tầng AI phi tập trung: trọng số mở có thể thúc đẩy sự phát triển của các lớp suy luận phi tập trung và các oracle tối thiểu hóa niềm tin, tránh phụ thuộc vào một nhà cung cấp duy nhất. - Lưu ý: cho đến khi có các điểm đánh giá được xác minh và số liệu chi phí thực tế, việc giả định mô hình mang lại chất lượng đỉnh cao với chi phí thấp vẫn còn vội vàng. Tóm lại Qwen 3.8-Flash-Next đang được định vị như một bản lén nhìn vào triết lý thiết kế của Qwen 4 — hứa hẹn hiệu quả mixture-of-experts và khả năng đa phương tiện. Việc phát hành này đáng chú ý vì nếu các tuyên bố là chính xác, trọng số mở từ một mô hình MoE 125 tỷ tham số chỉ kích hoạt khoảng 6 tỷ mỗi token có thể dân chủ hóa AI mạnh mẽ cho các nhà phát triển và dự án tiền mã hóa. Nhưng chúng ta cần các điểm đánh giá được xác minh và kiểm tra thực tế để xác nhận sự hào hứng này. Hãy theo dõi bản phát hành chính thức, trọng số trên Hugging Face và các đánh giá độc lập.