正如預期，AI 需要密碼學進行驗證。在多租戶環境中，搭配託管雲端與模型路由時，這一需求會進一步增加。人們需要驗證自己獲得的是付費的模型，並向監管機構證明所使用的模型/權重，因為這些模型正成為受監管行業中安全與企業工作流程的基石。零知識證明（ZKP）從一開始就被視為當服務需要第三方信任 AI 黑箱時的補充解決方案。 但請注意，Anthropic 對證明推論的需求，與加密貨幣對 ZKP 的使用不同。加密原生項目針對低成本鏈上驗證進行優化，因此偏好小規模證明，並接受較慢的證明生成速度；而 Anthropic 則針對鏈下審計員與監管機構進行優化，因此接受 19 MB 的證明，並實現了快速的證明生成器。Anthropic 選擇了 STARKs，因其能快速生成證明——一組 24 個請求的證明約需 223 秒，相當於每秒約 110 個 token。這大約是使用 vLLM 服務相同請求所耗 GPU 時間的 72 倍。 這促使他們採用既具抗量子安全性又適合 GPU 的 STARK 證明。 但——這裡有一個巨大的問題——Anthropic 向第三方實際證明的，僅僅是哈希承諾中的模型權重，在回應單一提示時被作為整數運行。這並不足以證明實際運行的是哪個確切模型，僅能證明權重與承諾一致。 這意味著存在相當直觀的操縱方式：承諾一個權重相似但成本更低的模型，有選擇性地重寫提示，對未被抽樣或證明的其餘流量進行欺騙；隨機選擇可將 token 引導至證明誤差範圍內。