Bài đăng
avatar

DeepSeek vừa mở nguồn framework suy luận DeepInfer — hệ thống sản xuất chịu trách nhiệm điều phối cụm tính toán để mô hình hoạt động hiệu quả. Mô hình (V4.1-Flash) đã được mở nguồn từ trước, lần này họ mở nguồn “động cơ” vận hành mô hình. Đây là lần đầu tiên một công ty AI hàng đầu toàn cầu làm điều này, vì trước đây những công nghệ như vậy đều là bí mật thương mại của từng công ty. Điều này cho thấy: 1. Cạnh tranh đã chuyển từ “đua mô hình” sang “đua chi phí”. Khoảng cách năng lực giữa các mô hình đang thu hẹp, ai có thể chạy cùng một dịch vụ với ít card hơn và điện năng thấp hơn thì sẽ chiến thắng. DeepSeek công khai rõ ràng lợi nhuận mỗi giờ trên mỗi card — đây là cách họ khoe: “Chi phí đơn vị của tôi thấp hơn tất cả các bạn”. 2. Mở nguồn đã trở thành vũ khí chiến lược. Về thời điểm: ngày 19/10, Mỹ vừa loại bỏ nó khỏi kênh mua sắm liên bang, đến ngày 20/10 liền mở nguồn động cơ cốt lõi. Mở nguồn = gắn kết hệ sinh thái nhà phát triển toàn cầu = không thể phong tỏa hệ sinh thái bằng lệnh cấm của Mỹ. Áp lực thực sự đặt lên các nhà phát triển đóng nguồn (đặc biệt là OpenAI): các nhà cung cấp đám mây có thể triển khai bằng DeepInfer với chi phí thậm chí còn thấp hơn phiên bản gốc chính thức. 3. Giá trị của “lớp trung gian” đã được định giá công khai. Trước đây mọi người chỉ quan tâm đến điểm số mô hình, nhưng lần này mọi người đã hiểu rõ: cùng một mô hình, chất lượng framework suy luận có thể chênh lệch chi phí vài lần. Điều này mang lại sự “giải mã công nghệ” cho cơ sở hạ tầng suy luận trong nước (hệ sinh thái vLLM, SGLang, hỗ trợ Ascend). 4. Lợi ích thực tế cho nhà phát triển bình thường: chi phí triển khai của nhà cung cấp đám mây giảm → giá API còn dư địa giảm thêm; rào cản triển khai tại chỗ giảm → triển khai riêng tư rẻ hơn. Tính tương thích với cả nền tảng NVIDIA và Huawei Ascend đặc biệt quan trọng đối với các đội ngũ trong nước muốn triển khai riêng tư. 5. Một mặt khác cần bình tĩnh: hai thành phần cốt lõi nhất — quản lý bộ nhớ KV và cân bằng tải — chưa được mở nguồn đầy đủ, chỉ công bố tài liệu thiết kế. Vì vậy đây là “bán minh bạch” — học được ý tưởng, nhưng không đồng nghĩa với việc sở hữu toàn bộ năng lực. Ngoài ra, phiên bản mở nguồn hiện tại chỉ hỗ trợ suy luận ngoại tuyến. DeepSeek đã công khai hệ thống suy luận sản xuất mà các đối thủ coi là bí mật, về bản chất là dùng “hệ sinh thái mở” để đối phó với “phong tỏa tính toán”. Trong ngắn hạn, điều này mang lại lợi ích cho tất cả những người có thể tiếp cận AI; trong dài hạn, nó tạo áp lực lớn lên các nhà phát triển đóng nguồn. #Ai

Nội dung này chỉ nhằm mục đích thông tin và giáo dục. Nội dung có thể bao gồm thông tin từ bên thứ ba, nội dung được tài trợ hoặc tài liệu quảng cáo mà nhà sáng tạo nội dung có thể nhận được thù lao. Không có nội dung nào trong nguồn cấp dữ liệu này cấu thành lời khuyên đầu tư hoặc đảm bảo lợi nhuận. Bạn hoàn toàn chịu trách nhiệm về các quyết định đầu tư của mình. Luôn luôn tự nghiên cứu và thận trọng trước khi giao dịch. Chúng tôi không đảm bảo tính chính xác của thông tin từ bên thứ ba và không chịu trách nhiệm cho bất kỳ tổn thất nào có thể phát sinh. Hiệu suất trong quá khứ không phải là chỉ báo cho kết quả trong tương lai. Vui lòng tham khảo Điều khoản Cộng đồng và Tuyên bố Tiết lộ Rủi ro của chúng tôi để biết thêm chi tiết.

avatarĐăng câu trả lời của bạn

Bình luận