Seperti yang diramalkan, AI memerlukan kriptografi untuk pengesahan. Dalam persekitaran pelbagai penyewa dengan awan yang disewa dan penghala model, keperluan ini meningkat. Orang perlu mengesahkan bahawa mereka menerima model yang mereka bayar, dan membuktikan kepada pengawal apa model/berat yang mereka gunakan, kerana model-model ini menjadi tulang belakang untuk keselamatan dan alur kerja perusahaan dalam industri yang diatur. ZKP selalu direncanakan sebagai penyelesaian pelengkap untuk AI apabila perkhidmatan memerlukan kepercayaan pihak ketiga terhadap kotak hitam AI. Namun, perlu diperhatikan bahawa keperluan Anthropic untuk membuktikan inferens berbeza daripada penggunaan ZKP dalam kripto. Projek berasaskan kripto dioptimakan untuk pengesahan berkos rendah di rantai, jadi mereka menginginkan bukti kecil dan menerima proses pembuktian yang perlahan. Anthropic dioptimakan untuk auditor dan pengawal luar rantai, jadi mereka menerima bukti sebesar 19 MB dan mendapatkan proses pembuktian yang pantas. Anthropic memilih STARKs yang boleh menghasilkan bukti dengan pantas—sekumpulan 24 permintaan membuktikan dalam kira-kira 223 saat, yang setara dengan kira-kira 110 token/detik. Ini kira-kira 72x masa GPU untuk menyediakan permintaan yang sama pada vLLM. Ini membawa mereka untuk mengadopsi bukti STARK yang selamat daripada kuantum dan mesra GPU. Tetapi & ada satu masalah besar—apa yang sebenarnya dibuktikan Anthropic kepada pihak ketiga hanyalah bahawa berat model dalam komitmen hash adalah apa yang dijalankan sebagai integer sebagai respons kepada satu prompt sahaja. Tidak cukup untuk membuktikan model tepat apa yang sebenarnya dijalankan, hanya bahawa beratnya adalah apa yang dikomitkan. Ini bermaksud terdapat cara yang agak intuitif untuk menipu sistem ini—mengkomitkan model yang lebih murah dengan berat serupa, menulis semula prompt secara selektif untuk menipu pada sebahagian besar trafik yang tidak disampel atau dibuktikan, pemilihan rawak boleh mengarahkan token dalam julat ralat bukti. https://t.co/VHR8DG0vbx