Tulad ng inaasahan, kailangan ng AI ang kriptograpiya para sa pag-verify. Sa isang multi-tenant na kapaligiran na may hosted clouds at model routers, tumataas ang pangangailangan. Kailangan ng mga tao na i-verify kung ano ang modelo na kanilang binabayaran at patunayan sa mga regulador kung anong modelo/weights ang ginagamit nila, dahil ang mga modelo ay nagsisiging pundasyon para sa seguridad at enterprise workflows sa mga reguladong industriya. Ang ZKP ay laging isinasaalang-alang bilang komplimentarong solusyon para sa AI kapag ang serbisyo ay nangangailangan ng tiwala mula sa ikatlong panig sa AI blackbox. Ngunit tandaan na ang pangangailangan ni Anthropic na patunayan ang inference ay iba sa paggamit ng ZKP sa crypto. Ang mga proyektong crypto-native ay optimal para sa murang on-chain verification, kaya sila ay naghahanap ng maliit na proofs at tinanggap ang mabagal na prover. Ang Anthropic naman ay optimal para sa off-chain auditors at regulador, kaya tinanggap nila ang 19 MB na proofs at nakakuha ng mabilis na prover. Pumili ang Anthropic ng STARKs na maaaring mag-generate ng proofs nang mabilis—isang batch ng 24 na kahilingan ay natutupad sa halos 223 s, na nagiging halos 110 tokens/s. Ito ay halos 72x ang GPU time ng pagpapagana ng parehong mga kahilingan sa vLLM. Ito ang nagdulot sa kanila na tanggapin ang STARK proofs na parehong quantum secure at GPU-friendly. Ngunit—at may malaking ngunit—ang tunay na ipinapatotohan ni Anthropic sa ikatlong panig ay kung ang weights ng modelo sa hash commitment ay ang ginamit bilang integer bilang tugon sa isang solong prompt. Hindi sapat ito upang patunayan kung anong eksaktong modelo ang talagang ginamit, kundi lamang kung ang weights ay ang naka-commit. Ito ay nagsasabing mayroong medyo intuitibong paraan upang pahirapan ito—mag-commit ng mas mura at magkakaparehong weights na modelo, piliin ang mga prompt na i-rewrite upang makapag-cheat sa natitirang traffic na hindi sinusubukan o pinapatotohan, at ang pagpili ng randomness ay maaaring mag-steer ng mga token sa loob ng error rate ng proof. https://t.co/VHR8DG0vbx
