Theo giám sát của Beating, Ant Bailing (inclusionAI) đã chính thức mở trọng số Ling-3.0-flash, đồng thời cung cấp phiên bản gốc BF16 và phiên bản lượng tử hóa FP8. Cả hai phiên bản đều sử dụng giấy phép MIT và đã được đưa lên Hugging Face và ModelScope, cho phép người dùng tự triển khai bằng SGLang hoặc vLLM. Trọng số BF16 khoảng 255 GB, phiên bản FP8 khoảng 128 GB, kích thước gần như giảm một nửa. FP8 lưu trữ tham số với độ chính xác thấp hơn, giúp giảm ngưỡng lưu trữ và bộ nhớ GPU. Trong 4 bài kiểm tra do nhà phát hành liệt kê, sự chênh lệch lớn nhất giữa FP8 và BF16 là 1,57 điểm. Ling-3.0-flash có tổng cộng 124 tỷ tham số, mỗi lần tạo chỉ kích hoạt 51 tỷ tham số. Mô hình hỗ trợ ngữ cảnh 256.000 Token, chủ yếu nhắm đến các tác vụ Agent như lập trình, tìm kiếm, nghiên cứu sâu và gọi công cụ. Đánh giá chính thức cho thấy nó đạt hoặc vượt các mô hình tiền nhiệm có tham số nghìn tỷ như Ring-2.6-1T trên hầu hết các bộ chuẩn.
Ant Group mở nguồn mô hình Ling-3.0-Flash với 124 tỷ tham số
MarsBitChia sẻ
Tóm tắt
Ant Group's inclusionAI đã mở nguồn mô hình Ling-3.0-flash dưới giấy phép MIT, khiến sự quan tâm của các nhà phát triển tăng lên. Mô hình cung cấp phiên bản BF16 (255GB) và FP8 (128GB), với phiên bản sau giảm nhu cầu bộ nhớ. Mô hình có tổng cộng 124 tỷ tham số nhưng chỉ sử dụng 5,1 tỷ tham số mỗi lần tạo. Mô hình hỗ trợ ngữ cảnh 256.000 token và nổi bật trong lập trình và gọi công cụ. Phiên bản FP8 cho thấy độ chênh lệch điểm số tối đa 1,57 trong bốn bài kiểm tra so với BF16. Dữ liệu chỉ số nỗi sợ và tham lam cho thấy sự lạc quan ngày càng tăng xung quanh những tiến bộ trong AI.
Nguồn:Hiển thị bản gốc
Tuyên bố miễn trừ trách nhiệm: Thông tin trên trang này có thể được lấy từ bên thứ ba và không nhất thiết phản ánh quan điểm hoặc ý kiến của KuCoin. Nội dung này chỉ được cung cấp cho mục đích thông tin chung, không có bất kỳ đại diện hay bảo đảm nào dưới bất kỳ hình thức nào và cũng không được hiểu là lời khuyên tài chính hay đầu tư. KuCoin sẽ không chịu trách nhiệm về bất kỳ sai sót hoặc thiếu sót nào hoặc về bất kỳ kết quả nào phát sinh từ việc sử dụng thông tin này.
Việc đầu tư vào tài sản kỹ thuật số có thể tiềm ẩn nhiều rủi ro. Vui lòng đánh giá cẩn thận rủi ro của sản phẩm và khả năng chấp nhận rủi ro của bạn dựa trên hoàn cảnh tài chính của chính bạn. Để biết thêm thông tin, vui lòng tham khảo Điều khoản sử dụng và Tiết lộ rủi ro của chúng tôi.