Proposes ng Arbitrum ang AI Inference Verification upang bawasan ang oras ng Proof sa mga milliseconds

TL;DR:

• Pinag-aaralan ng Arbitrum ang isang bagong paraan ng pag-verify ng AI inference na nagpapababa ng oras ng pagbuo ng proof mula sa 15 minuto hanggang sa milliseconds.
• Isang papel mula sa Offchain Labs ay nagmumungkahi ng pag-verify sa mga inferences ng AI model sa pamamagitan ng random sampling ng mga panloob na daanan, nang hindi magrererun ng bawat operasyon.
• Gumagamit ang protocol ng parehong lohika sa paglutas ng dispute tulad ng Arbitrum One upang makita ang pagpapalit ng modelo sa AI APIs.

Ang ekonomiya ng artificial intelligence agents ay nakakaranas ng isang problema na, hanggang ngayon, ay walang nalutas nang sapat na bilis upang maging kapaki-pakinabang sa produksyon: verifying na ang AI model na sinasabing tinatatakbo ng isang provider ay talagang tinatatakbo.

Isang papel na inilathala noong Marso 2026 ng Offchain Labs, na may pamagat na *Towards Verifiable AI with Lightweight Cryptographic Proofs of Inference*, ay nagmungkahi ng isang solusyon na nagpapababa ng panahon ng pagbuo ng patotoo mula sa halos 15 minuto hanggang sa milliseconds, at ang lohika sa likod ng sistema ay hindi asal sa Arbitrum ecosystem.

Ang per-token pricing model ay gumagawa ng malinaw na ekonomikong insentibo para sa pandaraya. Ang pagpapagana ng isang 7-bilyong-parameter na modelo ay mas mura kaysa sa pagpapagana ng isang 70-bilyong-parameter, at ang pagpapatakbo ng quantized inference ay mas mura kaysa sa full precision. Kung ang isang provider ay makakapag-redirect ng bahagdan ng mga query patungo sa isang mas maliit na modelo habang nagbabayad ng bayad para sa mas malaking modelo, ang benepisyo ay tumataas kasabay ng volume. Sinuri ng mga siyentipiko sa Stanford na ang pag-uugali ng GPT-3.5 at GPT-4 ay nagbago sa measurable na paraan sa pagitan ng Marso at Hunyo 2023 sa parehong mga evaluation task. Ang kasalukuyang API contract ay walang mekanismo upang makita ang pagkakaiba na ito.

Ang mga umiiral na kriptograpikong patunay, ng parehong uri na ginagamit ng zk-rollups, ay maaaring ipakita na ang isang server ay nag-execute ng isang komputasyon nang tama nang hindi kailangang ulitin ng kliyente. Ang problema ay ang bilis. Ang mga istruktura tulad ng zkLLM ay gumagawa ng isang patunay ng inferensya para sa isang modelo na may 13-bilyong parameter sa halos 15 minuto, isang bilang na hindi kompatibulo sa mga API na kailangang magbigay ng tugon sa loob ng isang segundo.

Ang propuesta ng Offchain Labs ay nagtatanggal ng exhaustive proof at nagtatanggap ng sampling. Ang server ay nagkumit sa harap sa isang digital fingerprint ng mga timbang ng modelo at sa mga panloob na halaga na ginawa habang isinasagawa ang isang partikular na query. Pagkatapos ay pumipili ang client ng random na daan patungo sa output ng network at hinihingi sa server na ipakita lamang ang mga halaga sa dadaanang daan. Kung ang server ay nagpapatakbo ng iba’t ibang modelo, ang mga halaga ay magkakaroon ng kawalan ng pagkakasunod-sunod at magkakaroon ng pagkabigo sa pag-verify. Ang probabilidad ng pagkakatuklas ay tumutubo kasama ang bawat paulit-ulit na query, na nagpapabago sa sistema bilang epektibong hadlang para sa mga makatwirang kalaban.

Ang koneksyon sa Arbitrum ay eksplisito sa papel. Ang mga optimistic rollup ay gumagana sa parehong intuisyon: ang pag-re-execute ng bawat hakbang ng isang mahabang komputasyon sa bawat machine ay mahal, habang ang pag-sample sa pinag-uusapan na hakbang ay mura. Ang propong protokolo ay nagpapalawig sa lohikang iyon sa mga halaga ng neural network, gamit ang isang bisection procedure na pinapaliit ang pagkakaiba sa pagitan ng dalawang server sa isang logarithmic na bilang ng round, ang parehong istruktura ng dispute resolution na nagpaprotekta sa Arbitrum One.

Para sa mga reguladong industriya, mga grupo ng pamamahala ng modelo, at ang umuunlad na merkado ng mga autonomous agent, ang pagkakaiba sa pagitan ng isang pag-claim ng transparensya at isang verifiable na pag-claim ay nagsisimulang magdulot ng direktang epekto. Ang protocol ay hindi nangangailangan ng pagbabago sa mga umiiral na stack ng mga developer; ito ay nangangailangan lamang na siyempre ang isang tao sa sistema, kahit ang provider, ang auditor, o ang platform, ay magbigay ng isang verifiable na pahayag.