Anda membayar untuk membeli model terbesar dan termahal, tetapi latar belakang secara sembunyi-sembunyi menggantikannya dengan versi yang lebih murah—siapa yang akan tahu? Anthropic baru-baru ini melepaskan proyek menarik bernama FlashProve, yang berusaha menyelesaikan masalah kepercayaan jangka panjang dalam industri AI menggunakan kriptografi: bagaimana membuktikan bahwa konten yang dihasilkan AI benar-benar berasal dari model yang diklaim oleh penyedia layanan? Saat ini, ketika kita memanggil API model besar, kita hampir selalu harus percaya pada penyedia layanan. Apakah platform routing pihak ketiga secara diam-diam mengganti model? Apakah model yang diuji oleh lembaga penilaian keamanan sama dengan yang sebenarnya digunakan oleh pengguna biasa? Bahkan, ketika server diserang peretas, apakah ada yang secara diam-diam mengubah output model? Hal-hal ini sulit dinilai hanya berdasarkan jawaban model itu sendiri. FlashProve memperkenalkan bukti tanpa pengetahuan (zero-knowledge proof/ZK), khususnya zkSNARK, yang sangat dikenal di kalangan Web3. Prinsipnya cukup mudah dipahami: penyedia model terlebih dahulu membuat komitmen kriptografi terhadap serangkaian bobot model, seolah-olah mendaftarkan identitas yang tidak dapat diubah sembarangan. Setiap kali inferensi dilakukan, ia dapat menyertakan bukti terkait. Pengguna tidak perlu mengetahui parameter model atau menjalankan model sendiri—hanya dengan CPU biasa, mereka dapat memverifikasi apakah output tersebut benar-benar dihasilkan oleh model yang telah dikomitmenkan sebelumnya. Anthropic melakukan eksperimen menggunakan Llama 4 Maverick dengan 400 miliar parameter. Dengan satu H100, mereka mampu menghasilkan sekitar 110 token per detik untuk bukti inferensi, dan memverifikasi satu bukti hanya memakan waktu beberapa belas detik. Namun, biaya saat ini masih sangat tinggi. Beban GPU untuk menghasilkan bukti setara dengan 70–95 kali biaya inferensi biasa, dan setiap bukti berukuran hampir 19MB. Saat ini, solusi ini hanya mendukung konteks 1024 token dan metode inferensi tertentu, sehingga masih jauh dari penerapan komersial skala besar. Tetapi saya rasa hal ini patut diperhatikan. Dalam beberapa tahun terakhir, bukti tanpa pengetahuan terutama digunakan oleh industri kripto untuk memverifikasi transaksi dan komputasi. Sekarang, Anthropic mencoba menerapkan ide kriptografi yang sama ke layanan model besar. Yang lebih penting lagi adalah potensinya dalam tata kelola AI. Di masa depan, ketika regulator mewajibkan model melewati evaluasi keamanan sebelum diluncurkan, penyedia layanan harus dapat membuktikan bahwa bobot yang dijalankan adalah bobot yang telah disetujui. Lembaga audit independen juga dapat memverifikasi apakah model yang mereka uji sama dengan model yang digunakan pelanggan. Tentu saja, kriptografi hanya dapat membuktikan bahwa proses komputasi sesuai dengan komitmen sebelumnya; ia tidak dapat menjamin jawaban model itu benar, apalagi menjamin keamanan model itu sendiri. Saya selalu merasa bahwa seiring AI Agent mulai mengambil alih semakin banyak pekerjaan nyata, seluruh industri pasti akan menghadapi pertanyaan ini: apa dasar kita untuk percaya bahwa AI yang berjalan di server jarak jauh itu benar-benar seperti yang diklaim? FlashProve masih merupakan prototipe penelitian, tetapi setidaknya ia memberikan jalur teknis yang layak untuk dieksplorasi lebih lanjut.