DeepSeek mở nguồn khung DeepSpec, tăng tốc độ mô hình V4 lên tới 85%

Theo theo dõi của Beating, DeepSeek hợp tác với Đại học Bắc Kinh đã công bố báo cáo kỹ thuật về khung tăng tốc lấy mẫu đầu cơ DSpark và mở nguồn toàn bộ thư viện mã nguồn DeepSpec. Hiện tại, DSpark đã được triển khai trong các dịch vụ trực tuyến của DeepSeek-V4. Với việc đảm bảo đầu ra không bị mất mát, DSpark tăng tốc độ tạo nội dung cho người dùng đơn lẻ lên 60% đến 85% phiên bản Flash và 57% đến 78% phiên bản Pro. DSpark vượt trội hơn so với cơ sở MTP-1 (đa nhánh dự đoán một token), đáng kể nâng cao tổng thông lượng hệ thống dưới ràng buộc độ trễ nghiêm ngặt. Trước đây, lấy mẫu đa token rất khó triển khai trong môi trường sản xuất trực tuyến do mô hình nháp tự hồi quy sinh quá chậm, trong khi mô hình nháp song song do dự đoán độc lập tại mỗi vị trí dẫn đến tỷ lệ chấp nhận cực thấp ở phần cuối chuỗi dài. Nếu xác minh bừa bãi nhiều token nháp trong điều kiện tải cao, mô hình lớn sẽ lãng phí lượng lớn tài nguyên tính toán để xác minh những lỗi chắc chắn bị từ chối, khiến tổng thông lượng hệ thống sụp đổ nghiêm trọng; do đó, ngành công nghiệp chủ yếu giới hạn ở dự đoán một token (MTP-1) trong môi trường trực tuyến. DSpark đã vượt qua điểm nghẽn suy giảm thông lượng dưới tải cao. DSpark trước tiên sử dụng mạng chính song song DFlash để tạo trạng thái ẩn, sau đó bổ sung một đầu Markov cực kỳ nhẹ. Đầu Markov thông qua tra bảng và một phép nhân ma trận duy nhất, với chi phí cực thấp, chèn tuần tự mối quan hệ giữa các từ liền kề. Đồng thời, hệ thống tích hợp đầu dự đoán độ tin cậy và thuật toán hiệu chỉnh hậu nghiệm. Để tương thích hoàn hảo với lịch trình không chi phí trong môi trường sản xuất và ngăn rò rỉ thông tin tương lai, bộ lập lịch sử dụng cơ chế bất đồng bộ, tận dụng lịch sử dự đoán hai bước trước để động thái xác định độ dài cắt giảm từ ứng cử viên, hoàn toàn ngăn chặn mô hình lớn xác minh các lỗi đuôi rủi ro cao dưới tải nặng. Ngoài DSpark, thư viện mã nguồn DeepSpec mà DeepSeek mở nguồn lần này hỗ trợ tích hợp sẵn các mô hình lớn mã nguồn mở như Qwen3 và Gemma. DeepSpec cung cấp toàn bộ chuỗi công cụ Python từ tải xuống prompt, tái tạo bộ nhớ đệm mô hình lớn, huấn luyện mô hình nháp đến đánh giá chuẩn. Các nhà phát triển có thể trực tiếp sử dụng các kịch bản mã nguồn mở để tùy chỉnh và triển khai các module tăng tốc riêng biệt cho các mô hình lớn mã nguồn mở khác nhau tại địa phương.