
Binebenta mo ang pinakamahal na malaking modelo, ngunit tinatago ng backend ang pagpapalit nito sa mas mura bersyon—sino ang makakakita nito? Kasalukuyang inilabas ng Anthropic ang isang interesanteng proyekto na FlashProve, na nagtatangkang gamitin ang kriptograpiya upang lutasin ang matagal nang isyu ng pagkakatiwala sa industriya ng AI: paano patunayan na ang isang nilikhang nilalaman ng AI ay talagang galing sa modelo na sinasabing galing sa serbisyo? Kapag gumagamit tayo ng API ng malaking modelo, kadalasan ay naniniwala na lang tayo sa serbisyo. May mga third-party routing platform ba na nagpapalit nang lihim ng modelo? Pareho ba ang modelo na sinusubok ng mga ahensya sa pagtatasa ng kaligtasan at ang modelo na ginagamit ng karaniwang user? Kahit pa man ay binoboy ang server ng mga hacker, mayroon bang nagpapalit nang lihim sa output ng modelo? Ang mga bagay na ito, ay mahirap masuri lamang sa pamamagitan ng sagot ng modelo. Ang FlashProve ay naglalayong gamitin ang zero-knowledge proof (ZK), partikular na ang zkSNARK, na kilala sa loob ng Web3. Ang prinsipyo ay madaling maunawaan: una, gumagawa ang provider ng modelo ng isang kriptograpikong commitment sa isang set ng model weights, parang pagpaparehistro ng isang identity na hindi maaaring palitan nang libre. Pagkatapos, bawat inference ay maaaring kasama ng isang patunay. Ang user ay hindi kailangang malaman ang mga parameter ng modelo, o kahit mag-run ng modelo mismo—kailangan lamang ng karaniwang CPU upang i-verify kung totoo bang galing sa modelo na nakapag-commit bago. Ginamit ng Anthropic ang Llama 4 Maverick na may 400 bilyong parameter para sa eksperimento, at maaaring makamit ng isang H100 GPU nang halos 110 tokens bawat segundo para sa paggawa ng patunay, at maaaring i-verify ang isang patunay sa loob lamang ng ilang sampung segundo. Gayunpaman, ang gastos ay kasalukuyang sobrang mataas. Ang GPU cost para sa pagbuo ng patunay ay katumbas ng 70 hanggang 95 beses ang karaniwang inference, at bawat patunay ay halos 19MB. Kasalukuyan lamang ito sa suporta sa 1024-token context at partikular na paraan ng inference, at may malaking daan pa bago maging komersyal sa malawakang saklaw. Ngunit naniniwala ako na mahalaga ang proyektong ito. Sa nakaraang ilang taon, ang zero-knowledge proof ay pangunahing ginamit sa crypto industry para i-verify ang mga transaksyon at computation. Ngayon, sinubukan ng Anthropic na ilapat ang parehong ideya sa serbisyo ng malaking modelo. Mas mahalaga pa ang potensyal nito sa AI governance. Sa hinaharap, kung hihingin ng mga regulahor na maging pass na ang modelo sa seguridad assessment bago ito mai-deploy, kailangan ng provider na patunayan na ang aktwal na ginagamit ay ang parehong set ng weights na nakapasa sa pagsusuri. Maaari rin ng mga independiyenteng auditor na i-verify kung pareho ba ang modelo na sinubok nila at ang ginagamit ng kanilang mga kliyente. Gayunpaman, ang kriptograpiya ay maaaring patunayan lamang na tumutugma ang proseso sa nakaraang commitment—hindi ito nagpapatunay na tama ang sagot ng modelo, o kahit na ligtas ito. Palaging naniniwala ako na habang tumataas ang bilang ng AI Agent na nagsisigaw sa mga aktwal na gawain, sasalungatin din natin ang tanong: ano nga ba ang batayan natin upang maniwala sa AI na tumatakbo sa malayo? Ang FlashProve ay kasalukuyang isang research prototype lamang, ngunit binigay nito ang isang landas na dapat patuloying pag-aralan.



