Nhân dịp hôm nay ông Mã phóng xe đầy ấn tượng, mình sẽ lấp luôn cái hố đã chôn hai ngày trước về ba thứ thú vị trong lĩnh vực AI gần đây: Jev, Strata và Atlas. Mình sẽ dùng một cảnh phim để kết nối ba thứ này lại với nhau, không đi sâu vào chi tiết kỹ thuật — ai quan tâm thì tự hỏi AI hoặc tự nghiên cứu nhé. Cảnh phim đó là gì? — Terminator! Hãy tưởng tượng T-800 được gửi ngược về năm 1984 với nhiệm vụ tìm và tiêu diệt Sarah Connor! Lúc này, nó cần ba chức năng cơ bản: hiểu không gian, phán đoán tức thì, và suy nghĩ không cần kết nối internet (năm 1984 chưa có SkyNet để kết nối). Thật trùng hợp, ba thứ này đúng tương ứng với Atlas, Jev và Strata. 1. Trước tiên là Atlas của Giáo sư Li Fei-Fei — Hiểu không gian Schwarzenegger (T-800) bước vào một căn phòng, liếc một cái là biết sau cánh cửa, dưới bàn có gì. Atlas hiện tại đang làm chính xác việc đó: chỉ cần vài tấm ảnh, nó dự đoán xem nếu đổi góc nhìn thì sẽ thấy gì. LLM dự đoán từ tiếp theo. Mô hình video (như Seedance) sinh hình ảnh dọc theo trục thời gian. Atlas dự đoán góc nhìn mới. Hiện nay, nhiều mô hình video tự xưng là “mô hình thế giới”. Cách đây vài tháng, Li Fei-Fei đã phân loại chúng thành: trình render, trình mô phỏng, trình lập kế hoạch. Trình mô phỏng có thể trở thành trình render, nhưng trình lập kế hoạch phải dựa trên một trình mô phỏng mạnh mẽ. Khi T-800 liếc một cái là biết trong phòng có gì — đó là trình mô phỏng. Tính toán xem nếu nhảy xuống sẽ thế nào, hoặc viên đạn bắn đi sẽ trúng đâu — cũng là trình mô phỏng. Chọn hành động: truy đuổi, trốn chạy hay tông xe — những lựa chọn này phần lớn cần trình lập kế hoạch. Trình render thì gần như không dùng đến. Mục tiêu của Atlas chính là trở thành trình mô phỏng mạnh nhất, sau đó nâng cấp lên trình lập kế hoạch. Đường đi như sau: Không gian 3D tĩnh (hiện tại) → động (4D) → có thể chỉnh sửa → có thể tương tác → mô phỏng = lập kế hoạch (kết thúc) Chặng đường dài mới chỉ bước qua bước đầu tiên, nhưng để tạo ra Terminator thật sự không thể thiếu điều này — LLM đơn thuần là chưa đủ. 2. Tiếp theo là Jev — Phán đoán tức thì Bạn còn nhớ cảnh đó không? T-800 bị quản lý khách sạn gõ cửa, trong tầm nhìn của nó lập tức hiện ra một loạt lựa chọn phản hồi, nó chỉ cần chọn một rồi trả lời — hoàn toàn không cần tổ chức câu chữ. (Tôi nhớ nó chọn câu thô lỗ nhất…) Đó chính là Jev: không cần LLM sinh ra một đoạn văn bản, cũng không cần chuỗi suy luận COT — chỉ cần chọn trong các lựa chọn đã cho và đưa ra mức độ chắc chắn. Jev của TypeSafe làm điều này: không sinh văn bản, chỉ chọn trong các lựa chọn đã cho và đưa ra xác suất đã hiệu chỉnh. Một phản hồi có xác suất 0.97 → trực tiếp gửi đi Cao nhất chỉ có 0.60 → đừng gửi, để mô hình lớn hơn nhưng chậm hơn suy nghĩ Trong video demo của TypeSafe, họ dùng Jev để xác định hóa đơn giả — LLM truyền thống mất 8 giây, còn Jev chỉ mất 0.1 giây. Nhanh vì chỉ làm trắc nghiệm, không sinh văn bản; chính xác nhờ công nghệ “đen” RLCD — Reinforcement Learning for Calibrated Decisions (Học tăng cường cho quyết định được hiệu chỉnh). Kiến trúc hiện chưa được công khai, nhưng tôi cho rằng nó vẫn dùng nền tảng Transformer, chỉ đơn giản là loại bỏ hoàn toàn bước sinh văn bản. Có thể coi đây là ASIC của LLM trong ngữ cảnh cụ thể — không nói chuyện, không viết mã, chỉ đưa ra quyết định tần suất cao, nén và đơn giản hóa các bước phán đoán truyền thống của LLM thành một câu hỏi đúng/sai hay trắc nghiệm — tốc độ và chi phí chênh lệch từ một đến hai cấp độ. Giống như Hệ thống 1 trong cuốn sách nổi tiếng của Daniel Kahneman “Thinking, Fast and Slow”, còn LLM truyền thống là Hệ thống 2. Tôi cảm thấy đây là một con đường mới mở ra bên ngoài sinh văn bản — đó là ra quyết định/phán đoán. Dù sao đi nữa, nếu T-800 dùng tốc độ phán đoán của LLM hiện tại thì chắc chắn không thể hoàn thành bất kỳ nhiệm vụ nào trong phim — sẽ chậm như ốc sên (bỗng nhiên tôi nghĩ đến Lightning trong Zootopia…). Lúc này Jev ra đời — mảnh ghép thứ hai của chức năng Terminator đã hoàn thiện. 3. Mảnh ghép cuối cùng — Strata — Chạy mô hình lớn trên thiết bị cục bộ Năm 1984 đã có internet rồi, nhưng tốc độ cực kỳ chậm chạp, thứ hai là chỉ tồn tại trong quân đội và trường học, huống chi chẳng có SkyNet nào để kết nối lên đám mây! Bạn vẫn phải cài một mô hình cục bộ vào trong đầu T-800 để nó có thể xuyên không trở về. Strata cho phép một card đồ họa tiêu dùng với 12GB VRAM + 64GB RAM chạy mô hình Qwen3.8-Flash-Next với 125 tỷ tham số. Công nghệ “đen” là: trước tiên lượng tử hóa tham số từ 16-bit xuống còn 2–3-bit, giảm kích thước vài lần; sau đó 20% chuyên gia (bản sao) được giữ trong VRAM, toàn bộ chuyên gia được giữ trong 64GB RAM; cuối cùng còn một bảng tra cứu lớn 30GB (sổ tay tra cứu khi huấn luyện) được lưu trên SSD. Hoàn toàn ngoại tuyến, bảo mật dữ liệu — đương nhiên hiệu năng bị giảm do nén, đọc tài liệu dài cũng chậm — nhưng giờ đây một máy chơi game cao cấp có thể chạy mô hình hàng trăm tỷ tham số! Đây là vấn đề từ không có thành có. Chúng ta không biết thông số cụ thể của card đồ họa, bộ nhớ và CPU trong T-800, nhưng Strata giúp bạn chạy mô hình MOE lớn hơn trong môi trường phần cứng hạn chế (hiện tại chỉ hỗ trợ mô hình Qwen duy nhất, nhưng tư tưởng này áp dụng được cho tất cả mô hình MOE). Nhìn lại như vậy, dường như chúng ta đang ngày càng tiến gần đến thời đại SkyNet và Terminator! @drfeifei @theworldlabs @typesafeai P.S – Ai giàu có đặt trước Roadster rồi thì năm 2028 chở tôi đi trải nghiệm một chuyến nhé, xin cảm ơn!