Như đã dự đoán, AI cần mật mã để xác minh. Trong môi trường đa thuê bao với các đám mây được lưu trữ và các bộ định tuyến mô hình, nhu cầu này càng tăng lên. Người dùng cần xác minh rằng họ đang nhận được mô hình mà họ đã trả tiền, đồng thời chứng minh cho các cơ quan quản lý biết mô hình/trọng số nào họ đang sử dụng, khi những mô hình này trở thành nền tảng cho các quy trình an ninh và doanh nghiệp trong các ngành được quản lý chặt chẽ. ZKP luôn được xem là giải pháp bổ sung cho AI khi dịch vụ yêu cầu sự tin tưởng từ bên thứ ba vào “hộp đen” AI. Tuy nhiên, cần lưu ý rằng nhu cầu của Anthropic trong việc chứng minh suy luận khác với cách sử dụng ZKP trong lĩnh vực tiền mã hóa. Các dự án bản địa tiền mã hóa được tối ưu hóa để xác minh trên-chain với chi phí thấp, do đó họ muốn các bằng chứng nhỏ và chấp nhận thời gian tạo bằng chứng chậm. Anthropic lại tối ưu hóa cho các auditor và cơ quan quản lý ngoài-chain, nên họ chấp nhận các bằng chứng lên tới 19 MB và đạt được trình tạo bằng chứng nhanh. Anthropic chọn STARKs vì chúng có thể tạo bằng chứng nhanh — một lô gồm 24 yêu cầu được chứng minh trong khoảng 223 giây, tương đương khoảng 110 token/giây. Điều này tương đương khoảng 72 lần thời gian GPU so với việc phục vụ cùng các yêu cầu đó trên vLLM. Điều này dẫn họ đến việc áp dụng các bằng chứng STARK, vừa an toàn trước máy tính lượng tử vừa thân thiện với GPU. Nhưng — và đây là một điểm lớn — những gì Anthropic thực sự đang chứng minh với bên thứ ba chỉ là trọng số mô hình trong cam kết băm đã được chạy dưới dạng số nguyên để phản hồi một prompt duy nhất. Điều này không đủ để chứng minh chính xác mô hình nào đã được chạy, mà chỉ xác nhận rằng trọng số đó chính là những gì đã được cam kết. Điều này ngụ ý rằng có những cách khá trực quan để thao túng hệ thống — cam kết một mô hình rẻ hơn nhưng có trọng số tương tự, viết lại prompt một cách chọn lọc để gian lận trên phần lớn lưu lượng không được lấy mẫu hoặc chứng minh, và việc chọn ngẫu nhiên có thể điều hướng các token nằm trong phạm sai số của bằng chứng. https://t.co/VHR8DG0vbx
