你花錢買了最貴的大模型，後台卻偷偷給你換成便宜版本，誰能發現？ Anthropic 剛剛開源了一個很有意思的項目 FlashProve，試圖用密碼學解決 AI 行業長期存在的信任問題：如何證明一段 AI 生成的內容，確實來自服務商聲稱的那個模型？ 現在我們調用大模型 API，基本上只能相信服務商。第三方路由平台有沒有偷偷替換模型？安全評估機構測試的模型，和普通用戶實際使用的是不是同一個？甚至當伺服器被駭客入侵後，有沒有人偷偷篡改模型輸出？這些事情，僅憑模型的回答很難判斷。 FlashProve 引入了 Web3 圈子非常熟悉的零知識證明（ZK），具體來說是 zkSNARK。 原理其實很好理解，模型提供者先對一套模型權重生成密碼學承諾，相當於給模型登記一個無法隨意更換的身份。之後每次推理都可以附上一份證明。用戶無需知道模型參數，也不需要自己運行模型，只用普通 CPU 就能驗證，這段輸出是否真的由事先承諾的模型生成。 Anthropic 用 4000 億參數的 Llama 4 Maverick 做了實驗，單張 H100 每秒可以完成約 110 個 Token 的推理證明，驗證一份證明只需要十幾秒。 當然，目前的成本仍然很誇張。生成證明的 GPU 開銷相當於普通推理的 70～95 倍，而且每份證明接近 19MB，目前也只支援 1024 Token 的上下文和特定推理方式，距離大規模商用還有很長一段路。 但我覺得這件事情值得關注。 過去幾年，零知識證明主要被加密行業用來驗證交易和計算。現在 Anthropic 正在嘗試把同一套密碼學思想引入大模型服務。 更值得關注的是它在 AI 治理中的潛力。未來監管機構要求模型通過安全評測後才能部署，服務商就需要證明實際運行的是通過審核的那套權重。獨立審計機構也可以核驗，自己測試的模型和客戶使用的模型是否一致。 當然，密碼學只能證明計算過程符合事先的承諾，無法保證模型的回答正確，更無法保證模型本身安全。 我一直覺得，隨著 AI Agent 開始接管越來越多的實際工作，整個行業遲早要面對一個問題：我們究竟憑什麼相信遠端伺服器裡運行的那個 AI？ FlashProve 還只是研究原型，但它至少給出了一條值得繼續探索的技術路線。