source avatarDelphi Digital

Chia sẻ

Các phòng thí nghiệm AI Trung Quốc đang buộc thị trường phải cạnh tranh về chi phí của trí tuệ hữu ích. Các biện pháp kiểm soát xuất khẩu hạn chế khả năng tiếp cận các chip NVIDIA tiên tiến của các phòng thí nghiệm Trung Quốc. Để duy trì tính cạnh tranh, họ phải khai thác tối đa hiệu suất từ phần cứng sẵn có. Trong quá trình huấn luyện, Deepseek duy trì hoạt động của GPU trong khi dữ liệu di chuyển giữa chúng và chuyển sang định dạng độ chính xác thấp hơn, giúp giảm một nửa bộ nhớ và tính toán. Lợi ích lớn hơn đến từ việc phục vụ: các mô hình thưa thớt chỉ kích hoạt một phần nhỏ tham số của chúng trên mỗi token, và cơ chế chú ý được thiết kế lại đã giảm chi phí bộ nhớ cho các ngữ cảnh dài. Kết quả là các mô hình rẻ hơn để xây dựng và rẻ hơn nhiều để vận hành. Các mô hình mở trọng số của Trung Quốc đã tăng từ dưới 1,2% lượng token tiêu thụ hàng tuần trên OpenRouter vào cuối năm 2024 lên thành đa số vào năm 2026. OpenRouter chỉ chiếm một phần nhỏ trong tổng khối lượng token toàn cầu và người dùng của nó có độ co giãn giá cao, do đó không nên hiểu đây là thị phần toàn cầu. Tuy nhiên, điều này cho thấy người dùng sẽ chọn các mô hình rẻ hơn khi việc chuyển đổi dễ dàng và hiệu suất đủ tốt. Việc giảm chi phí suy luận cũng mang lại giá trị chiến lược cho Trung Quốc. Những mô hình này đã có thể chạy trên các bộ xử lý trong nước và giảm sự phụ thuộc của đất nước vào phần cứng nước ngoài cho suy luận. Trung Quốc vẫn chủ yếu phụ thuộc vào chip nước ngoài để huấn luyện các mô hình tiên tiến. Trung Quốc sẽ không đạt được sự độc lập hoàn toàn về tính toán cho đến khi các phòng thí nghiệm của nước này có thể huấn luyện quy mô lớn các mô hình tiên tiến trên cơ sở hạ tầng trong nước.

No.0 picture
Tuyên bố miễn trừ trách nhiệm: Thông tin trên trang này có thể được lấy từ bên thứ ba và không nhất thiết phản ánh quan điểm hoặc ý kiến của KuCoin. Nội dung này chỉ được cung cấp cho mục đích thông tin chung, không có bất kỳ đại diện hay bảo đảm nào dưới bất kỳ hình thức nào và cũng không được hiểu là lời khuyên tài chính hay đầu tư. KuCoin sẽ không chịu trách nhiệm về bất kỳ sai sót hoặc thiếu sót nào hoặc về bất kỳ kết quả nào phát sinh từ việc sử dụng thông tin này. Việc đầu tư vào tài sản kỹ thuật số có thể tiềm ẩn nhiều rủi ro. Vui lòng đánh giá cẩn thận rủi ro của sản phẩm và khả năng chấp nhận rủi ro của bạn dựa trên hoàn cảnh tài chính của chính bạn. Để biết thêm thông tin, vui lòng tham khảo Điều khoản sử dụngTiết lộ rủi ro của chúng tôi.