Một startup AI Trung Quốc vừa ra mắt mô hình AI mã nguồn mở lớn nhất từng được xây dựng. Moonshot AI, công ty có trụ sở tại Bắc Kinh được Alibaba hậu thuẫn, đã giới thiệu mô hình Kimi K3 vào ngày 16 tháng 7, cung cấp thông qua API và các nền tảng được lưu trữ. Trọng số đầy đủ của mô hình sẽ có thể tải về bởi bất kỳ ai vào ngày 27 tháng 7 dưới giấy phép Modified MIT.
Mô hình này chứa 2,8 nghìn tỷ tham số, trở thành mô hình đầu tiên có sẵn công khai đạt đến phạm vi 3 nghìn tỷ tham số.
Điều gì làm Kimi K3 trở nên khác biệt
Mô hình sử dụng kiến trúc mixture-of-experts (MoE) kết hợp với công nghệ Kimi Delta Attention mà Moonshot gọi là. Thay vì kích hoạt mọi tham số cho mỗi truy vấn, hệ thống chỉ kích hoạt tập hợp con liên quan nhất trong kho tham số khổng lồ của nó, giúp kiểm soát chi phí suy luận dù mô hình có quy mô cực lớn.
Kimi K3 hỗ trợ 1 triệu token, điều này có nghĩa là nó có thể xử lý lượng tương đương với vài cuốn tiểu thuyết hoàn chỉnh trong một prompt duy nhất. Điều này được thiết kế cho các tác vụ nặng như lập trình dài hạn, công việc kiến thức nâng cao và suy luận sâu.
Giấy phép MIT đã được sửa đổi có nghĩa là các nhà phát triển có thể tải xuống, chỉnh sửa và tự lưu trữ mô hình một cách tự do.
Phản ứng của thị trường là ngay lập tức và mạnh mẽ. Moonshot AI đã phải tạm dừng các đăng ký mới chỉ vài ngày sau khi ra mắt vì nhu cầu vượt quá khả năng tiếp nhận.
Bối cảnh địa chính trị
Bản phát hành này đến trong giai đoạn Mỹ tăng cường giám sát năng lực AI của Trung Quốc. Các chính quyền Biden và sau đó là Trump đã áp đặt các biện pháp kiểm soát xuất khẩu lên các con chip tiên tiến hướng đến Trung Quốc. Một khi trọng số mô hình được công bố vào ngày 27 tháng 7, bất kỳ ai có đủ sức mạnh tính toán đều có thể chạy, tinh chỉnh và triển khai K3 bất kể jurisdiction.
Điều này có nghĩa gì đối với các nhà đầu tư
Nếu Kimi K3 thực sự mang lại hiệu năng tương đương với các mô hình độc quyền hàng đầu từ OpenAI và Anthropic, và làm điều đó dưới dạng bản tải về miễn phí, điều đó sẽ làm phức tạp câu chuyện doanh thu của các công ty đang thu phí cao để truy cập API.
Sự hậu thuẫn của Alibaba cho Moonshot AI có nghĩa là mô hình này có khả năng sẽ tiếp tục được phát triển, tối ưu hóa và hỗ trợ.
Các phản ứng điều tiết từ Washington có thể tăng tốc. Nếu các nhà hoạch định chính sách xem các bản phát hành mã nguồn mở của các mô hình Trung Quốc tiên tiến là một vectơ đe dọa, chúng ta có thể chứng kiến các hạn chế mới về việc triển khai, lưu trữ hoặc tích hợp các hệ thống AI do nước ngoài phát triển trong cơ sở hạ tầng Mỹ.