Bạn đã bỏ tiền mua mô hình lớn đắt nhất, nhưng phía sau lại tự động thay thế bằng phiên bản rẻ hơn—ai có thể phát hiện ra? Anthropic vừa mở nguồn một dự án rất thú vị mang tên FlashProve, nhằm giải quyết vấn đề niềm tin kéo dài trong ngành AI bằng mật mã học: làm thế nào để chứng minh một nội dung do AI tạo ra thực sự đến từ mô hình mà nhà cung cấp tuyên bố? Hiện tại, khi chúng ta gọi API mô hình lớn, chúng ta gần như chỉ có thể tin tưởng nhà cung cấp. Các nền tảng định tuyến bên thứ ba có đang tự ý thay thế mô hình không? Mô hình mà các tổ chức đánh giá an toàn kiểm tra có giống với mô hình người dùng thông thường đang sử dụng không? Ngay cả khi máy chủ bị tin tặc xâm nhập, liệu có ai đó đã thay đổi đầu ra của mô hình mà không ai biết? Những vấn đề này rất khó xác định chỉ dựa vào câu trả lời của mô hình. FlashProve giới thiệu khái niệm chứng minh không tiết lộ thông tin (zero-knowledge proof - ZK), cụ thể là zkSNARK, vốn rất quen thuộc trong cộng đồng Web3. Nguyên lý khá dễ hiểu: nhà cung cấp mô hình trước tiên tạo ra một cam kết mật mã cho bộ trọng số mô hình, tương đương với việc đăng ký một danh tính không thể thay đổi tùy tiện cho mô hình. Sau đó, mỗi lần suy luận đều có thể đính kèm một chứng minh. Người dùng không cần biết tham số mô hình, cũng không cần chạy mô hình riêng, chỉ cần dùng CPU thông thường là có thể xác minh xem đầu ra này có thực sự được tạo ra bởi mô hình đã cam kết trước đó hay không. Anthropic đã thực nghiệm với Llama 4 Maverick có 400 tỷ tham số: một card H100 có thể xử lý khoảng 110 token mỗi giây để tạo chứng minh suy luận, và việc xác minh một chứng minh chỉ mất vài chục giây. Tuy nhiên, chi phí hiện tại vẫn rất cao. Chi phí GPU để tạo chứng minh tương đương 70–95 lần so với suy luận thông thường, và mỗi chứng minh có kích thước gần 19MB. Hiện tại, nó chỉ hỗ trợ ngữ cảnh 1024 token và một số phương pháp suy luận cụ thể—vẫn còn rất xa mới có thể ứng dụng thương mại quy mô lớn. Nhưng tôi cho rằng vấn đề này đáng được quan tâm. Trong vài năm qua, chứng minh không tiết lộ thông tin chủ yếu được ngành tiền mã hóa sử dụng để xác minh giao dịch và tính toán. Bây giờ Anthropic đang thử áp dụng cùng tư tưởng mật mã học này vào dịch vụ mô hình lớn. Điều đáng chú ý hơn nữa là tiềm năng của nó trong quản trị AI. Trong tương lai, khi cơ quan quản lý yêu cầu mô hình phải qua đánh giá an toàn mới được triển khai, nhà cung cấp sẽ cần chứng minh rằng mô hình đang chạy thực tế chính là bộ trọng số đã được phê duyệt. Các tổ chức kiểm toán độc lập cũng có thể xác minh xem mô hình họ đã kiểm tra có giống với mô hình mà khách hàng đang sử dụng hay không. Tuy nhiên, mật mã học chỉ có thể chứng minh quá trình tính toán tuân thủ cam kết đã đưa ra trước đó, chứ không đảm bảo câu trả lời của mô hình là chính xác, càng không đảm bảo mô hình本身 an toàn. Tôi luôn cho rằng, khi các AI Agent bắt đầu đảm nhận ngày càng nhiều công việc thực tế, cả ngành công nghiệp cuối cùng sẽ phải đối mặt với một câu hỏi: chúng ta dựa vào đâu để tin rằng AI đang chạy trên máy chủ từ xa chính là AI đúng như mong đợi? FlashProve vẫn chỉ là bản nguyên mẫu nghiên cứu, nhưng ít nhất nó đã chỉ ra một hướng đi kỹ thuật đáng để tiếp tục khám phá.