Swiftlet thu nhỏ mô hình Qwen 80B để chạy trên Mac với bộ nhớ đỉnh điểm 4,3GB

Một thông báo dự án mới từ MetaEra tiết lộ dự án Swiftlet đã tối ưu hóa Qwen3-Next và các mô hình MoE khác cho Mac bằng Swift và Metal. Bằng cách chỉ tải một lõi dày đặc nhỏ vào bộ nhớ và truyền các trọng số chuyên gia từ SSD, mô hình Qwen3.6-35B-A3B 4-bit chỉ cần 18GB không gian đĩa và 2,6GB bộ nhớ đỉnh trên Mac M5, với tốc độ giải mã từ 7–11 tok/s. Tin tức trên chuỗi này nhấn mạnh việc triển khai hiệu quả các mô hình lớn trên phần cứng người dùng tiêu dùng.