Seperti yang diprediksi, AI membutuhkan kriptografi untuk verifikasi. Dalam lingkungan multi-tenant dengan cloud yang dihosting dan model router, kebutuhan ini meningkat. Orang-orang perlu memverifikasi bahwa mereka mendapatkan model yang mereka bayar dan membuktikan kepada regulator model/weight apa yang mereka gunakan, karena model-model ini menjadi tulang punggung untuk keamanan dan alur kerja perusahaan di industri yang diatur. ZKP selalu menjadi solusi pelengkap untuk AI ketika layanan membutuhkan kepercayaan pihak ketiga terhadap kotak hitam AI. Namun perhatikan bahwa kebutuhan Anthropic untuk membuktikan inferensi berbeda dari penggunaan ZKP dalam kripto. Proyek-proyek kripto-natif dioptimalkan untuk verifikasi on-chain yang murah, sehingga mereka menginginkan bukti kecil dan menerima prover yang lambat. Anthropic dioptimalkan untuk auditor dan regulator off-chain, sehingga mereka menerima bukti sebesar 19 MB dan mendapatkan prover yang cepat. Anthropic memilih STARKs yang dapat menghasilkan bukti dengan cepat—sekelompok 24 permintaan dibuktikan dalam sekitar 223 detik, yang setara dengan sekitar 110 token/detik. Itu kira-kira 72x waktu GPU dibandingkan melayani permintaan yang sama dengan vLLM. Hal ini mendorong mereka mengadopsi bukti STARK yang aman terhadap komputer kuantum dan ramah GPU. Namun & ada satu hal besar—apa yang sebenarnya dibuktikan Anthropic kepada pihak ketiga hanyalah bahwa weight model dalam komitmen hash adalah apa yang dijalankan sebagai bilangan bulat sebagai respons terhadap satu prompt saja. Tidak cukup untuk membuktikan model apa yang sebenarnya dijalankan, hanya bahwa weight-nya adalah yang dikomitmenkan. Ini menyiratkan ada cara-cara intuitif untuk menipu sistem ini—mengkomitmen model yang lebih murah dengan weight serupa, menulis ulang prompt secara selektif untuk menipu sisa lalu lintas yang tidak diambil sampel atau dibuktikan, pemilihan acak dapat mengarahkan token dalam batas kesalahan bukti. https://t.co/VHR8DG0vbx