Anda menghabiskan uang untuk membeli model besar termahal, tetapi di latar belakang secara diam-diam diganti dengan versi yang lebih murah—siapa yang bisa mengetahuinya? Anthropic baru saja merilis proyek menarik bernama FlashProve secara open-source, yang berusaha menyelesaikan masalah kepercayaan jangka panjang di industri AI dengan kriptografi: bagaimana membuktikan bahwa konten yang dihasilkan AI benar-benar berasal dari model yang diklaim oleh penyedia layanan? Saat ini, saat kita memanggil API model besar, kita hampir selalu harus percaya pada penyedia layanan. Apakah platform routing pihak ketiga secara diam-diam mengganti model? Apakah model yang diuji oleh lembaga penilaian keamanan sama dengan yang sebenarnya digunakan pengguna biasa? Bahkan, ketika server diretas, apakah ada yang secara diam-diam mengubah output model? Hal-hal semacam ini sulit dinilai hanya berdasarkan jawaban model itu sendiri. FlashProve memperkenalkan zero-knowledge proof (ZK), yang sangat dikenal di kalangan Web3—secara khusus, zkSNARK. Prinsipnya cukup mudah dipahami: penyedia model terlebih dahulu membuat komitmen kriptografi terhadap serangkaian bobot model, seolah-olah mendaftarkan identitas yang tidak bisa diubah sembarangan. Setiap kali terjadi inferensi, sebuah bukti akan dilampirkan. Pengguna tidak perlu mengetahui parameter model atau menjalankan model sendiri—hanya dengan CPU biasa, mereka dapat memverifikasi apakah output tersebut benar-benar dihasilkan oleh model yang telah dikomitmenkan sebelumnya. Anthropic melakukan eksperimen dengan Llama 4 Maverick berparameter 400 miliar, dan satu kartu H100 mampu menyelesaikan sekitar 110 token per detik untuk pembuktian inferensi, dengan waktu verifikasi hanya beberapa belas detik. Namun, biaya saat ini masih sangat tinggi. Biaya GPU untuk menghasilkan bukti setara dengan 70–95 kali biaya inferensi biasa, dan setiap bukti berukuran hampir 19MB. Saat ini, hanya mendukung konteks 1024 token dan metode inferensi tertentu—masih jauh dari penerapan komersial skala besar. Tetapi saya rasa hal ini patut diperhatikan. Selama beberapa tahun terakhir, zero-knowledge proof terutama digunakan oleh industri kripto untuk memverifikasi transaksi dan komputasi. Sekarang, Anthropic mencoba menerapkan ide kriptografi yang sama ke layanan model besar. Yang lebih penting lagi adalah potensinya dalam tata kelola AI. Di masa depan, ketika regulator mengharuskan model melewati evaluasi keamanan sebelum diluncurkan, penyedia layanan harus dapat membuktikan bahwa model yang benar-benar dijalankan adalah bobot yang telah disetujui. Lembaga audit independen juga dapat memverifikasi apakah model yang mereka uji sama dengan yang digunakan pelanggan. Tentu saja, kriptografi hanya dapat membuktikan bahwa proses komputasi sesuai dengan komitmen sebelumnya; ia tidak dapat menjamin jawaban model itu benar, apalagi menjamin keamanan model itu sendiri. Saya selalu percaya bahwa seiring AI Agent mulai mengambil alih semakin banyak pekerjaan nyata, seluruh industri pasti akan menghadapi pertanyaan ini: apa dasar kita untuk percaya bahwa AI yang berjalan di server jarak jauh itu benar-benar seperti yang diklaim? FlashProve masih merupakan prototipe penelitian, tetapi setidaknya ia memberikan jalur teknis yang layak untuk terus dieksplorasi.