Theo giám sát của Beating, công ty cơ sở dữ liệu biên SQLite AI đã mở nguồn động cơ suy luận WASTE. Nó cho phép Kimi K3 với toàn bộ lớp và chuyên gia được chạy trên một MacBook Pro 64GB. Mô hình đã chuyển đổi chiếm khoảng 1TB, tốc độ từ 0,49 đến 0,54 Token mỗi giây. WASTE giữ lại khoảng 27GB phần chính của mô hình trong bộ nhớ, hơn 80.000 chuyên gia được đặt trên SSD tích hợp. Mỗi khi tạo một Token, chỉ đọc từ ổ cứng chuyên gia được gọi hiện tại. Phiên bản này không thực hiện học sinh, cắt giảm hay xóa chuyên gia. Tuy nhiên, trọng số chuyên gia đã được lượng tử hóa lại thành 3-bit, phần chính mô hình sử dụng 4-bit và 8-bit.
SQLite AI mở nguồn động cơ suy luận WASTE cho Kimi K3 trên MacBook 64GB
MarsBitChia sẻ
Tóm tắt
SQLite AI đã mở nguồn động cơ suy luận WASTE của mình, cho phép chạy toàn bộ mô hình Kimi K3 trên MacBook Pro 64GB. Tin tức trên chuỗi này đánh dấu một bước tiến lớn trong lĩnh vực AI + tiền điện tử, khi mô hình hoạt động với tốc độ 0,49 đến 0,54 token mỗi giây. Mô hình 1TB giữ lại phần nền 27GB trong bộ nhớ và tải các chuyên gia từ SSD khi cần thiết. Các trọng số được tái lượng tử hóa về 3-bit, trong khi phần nền sử dụng 4-bit và 8-bit.
Nguồn:Hiển thị bản gốc
Tuyên bố miễn trừ trách nhiệm: Thông tin trên trang này có thể được lấy từ bên thứ ba và không nhất thiết phản ánh quan điểm hoặc ý kiến của KuCoin. Nội dung này chỉ được cung cấp cho mục đích thông tin chung, không có bất kỳ đại diện hay bảo đảm nào dưới bất kỳ hình thức nào và cũng không được hiểu là lời khuyên tài chính hay đầu tư. KuCoin sẽ không chịu trách nhiệm về bất kỳ sai sót hoặc thiếu sót nào hoặc về bất kỳ kết quả nào phát sinh từ việc sử dụng thông tin này.
Việc đầu tư vào tài sản kỹ thuật số có thể tiềm ẩn nhiều rủi ro. Vui lòng đánh giá cẩn thận rủi ro của sản phẩm và khả năng chấp nhận rủi ro của bạn dựa trên hoàn cảnh tài chính của chính bạn. Để biết thêm thông tin, vui lòng tham khảo Điều khoản sử dụng và Tiết lộ rủi ro của chúng tôi.