Standar kepercayaan di era AI sedang terbentuk. Di masa depan, perusahaan terkemuka tidak hanya perlu memiliki kemampuan AI, tetapi juga harus membuktikan: mengapa AI bertindak, dan siapa yang bertanggung jawab atasnya.Penulis artikel, sumber: Sumsub
AI sedang memasuki era eksekusi mandiri.
Dari layanan pelanggan cerdas, operasi otomatis, hingga analisis perdagangan, penilaian risiko, dan audit kepatuhan, AI Agent secara bertahap berubah dari "alat bantu" menjadi entitas digital yang mampu menyelesaikan tugas secara mandiri.
Namun seiring meningkatnya tingkat otonomi AI, sebuah masalah baru sedang muncul: ketika AI membuat keputusan atas nama perusahaan, apakah perusahaan dapat membuktikan—mengapa ia melakukan hal itu? Siapa yang memberikan otorisasi? Berdasarkan apa?
Pada Agustus 2026, platform otentikasi identitas dan kepercayaan digital global Sumsub bekerja sama dengan Singapore FinTech Association merilis laporan "Status Quo Kepercayaan Digital di Asia Pasifik: Benchmark Tata Kelola AI".
Laporan ini meneliti 9 pasar di wilayah Asia-Pasifik dan 720 profesional dari bidang risiko, kepatuhan, teknologi, dan operasi, menganalisis secara mendalam tantangan tata kelola baru yang dihadapi perusahaan di era AI Agent.
Laporan tersebut mengusulkan konsep kunci: "Asimetri Akuntabilitas". Artinya: perusahaan harus bertanggung jawab atas hasil yang dihasilkan oleh AI, tetapi tidak selalu dapat membuktikan bagaimana keputusan AI dibentuk.
Aplikasi AI sedang mempercepat, tetapi kemampuan tata kelola belum sejalan
Laporan menunjukkan bahwa kecepatan penerapan AI oleh perusahaan China sedang meningkat pesat:
- Sekitar 97% perusahaan Tiongkok sedang menggunakan atau menguji sistem AI multi-tahap
- Namun, hanya 29% perusahaan yang memiliki kepercayaan penuh dalam melacak dan menjelaskan proses keputusan AI
Ini berarti bahwa sejumlah besar perusahaan telah mulai mengandalkan AI untuk menyelesaikan tugas-tugas kompleks, tetapi masih kurang kemampuan untuk memverifikasi secara lengkap jalur keputusan, dasar data, sumber otoritas, dan catatan operasi di balik perilaku AI.
Masa lalu, perusahaan harus membuktikan: "Mengapa karyawan ini membuat keputusan ini?" Masa depan, perusahaan harus menjawab: "Mengapa AI Agent ini membuat keputusan ini?"
Inti tata kelola AI: Membuat perilaku otonom dapat diverifikasi
Sumsub melaporkan evaluasi kemampuan tata kelola AI perusahaan Asia Pasifik dari tiga dimensi:
1. Otonomi (Autonomy):
Sejauh mana AI dapat menyelesaikan tugas secara mandiri.
Seiring perkembangan Agentic AI, AI sedang beralih dari generasi konten sederhana ke: eksekusi otomatis alur kerja, pemanggilan alat eksternal, pengambilan keputusan kompleks, dan interaksi dengan sistem lain.
2. Tanggung jawab (Responsibility):
Setelah AI menghasilkan hasil, apakah ada pihak yang bertanggung jawab secara jelas.
Laporan menunjukkan: 75% perusahaan Tiongkok telah menetapkan tanggung jawab hasil terkait AI kepada individu atau tim tertentu. Di antaranya: 35% ditetapkan kepada individu, 40% ditetapkan kepada tim. Ini menunjukkan bahwa perusahaan sedang membangun kerangka tanggung jawab AI.
3. Keterlacakan (Traceability):
Apakah perusahaan dapat mencatat dan memulihkan proses pengambilan keputusan AI?
Dan inilah tantangan terbesar saat ini. Hanya sedikit perusahaan yang memiliki kemampuan pencatatan keputusan AI yang lengkap. Jika Agen AI terlibat dalam: penilaian transaksi keuangan, penilaian risiko pengguna, verifikasi identitas, dan deteksi penipuan, tetapi tidak dapat menjelaskan dasar penilaian tersebut, perusahaan akan menghadapi risiko kepercayaan baru.
Dari identitas digital ke identitas AI: Infrastruktur kepercayaan generasi berikutnya sedang terbentuk
Seiring dengan munculnya AI Agent sebagai peserta penting dalam ekonomi digital, muncul pertanyaan baru: apakah AI juga memerlukan identitas?
Di era internet tradisional, sistem identitas menjawab: "Siapa orang ini?" Sedangkan di era AI, perlu dijawab lebih lanjut: "Siapa AI ini? Apa yang diizinkan dilakukan olehnya? Apa yang telah dilakukannya?"
Laporan tersebut menunjukkan bahwa perusahaan di masa depan perlu membangun:
- Manajemen Identitas AI Agent
- Mekanisme kontrol izin
- Sistem pencatatan perilaku
- Kemampuan audit keputusan
Pastikan setiap operasi AI dapat dilacak ke: sebuah entitas AI yang telah diverifikasi, serta tanggung jawab di baliknya.
Era integrasi Web3 dan AI, kepercayaan menjadi infrastruktur kunci
Tren ini terutama jelas bagi industri Web3, aset digital, dan fintech.
Aplikasi terdesentralisasi, kontrak pintar, perdagangan aset digital, dan layanan AI Agent semuanya bergantung pada kemampuan inti: identitas tepercaya.
Ekonomi digital masa depan tidak hanya membutuhkan AI yang lebih cerdas dan sistem yang lebih otomatis, tetapi juga mekanisme otorisasi yang lebih transparan, sistem identitas yang lebih andal, dan kemampuan audit yang lebih lengkap.
Hanya dengan membuat perilaku AI dapat diverifikasi, perusahaan dapat benar-benar menerapkan secara skala besar.
Dari "menggunakan AI" ke "membuktikan kepercayaan AI"
Laporan menunjukkan: 99% perusahaan bersedia mengadopsi metode yang dapat membuktikan setiap operasi AI.
Ini menunjukkan bahwa pasar sedang membentuk konsensus baru: tahap berikutnya dari persaingan AI bukan hanya tentang kemampuan model, tetapi juga tentang siapa yang dapat membangun tata kelola AI yang dapat dipercaya.
Seperti yang dinyatakan oleh Penny Chai, Wakil Presiden Sumsub untuk Asia Pasifik:
Peraturan regulasi menetapkan batasan tanggung jawab, sementara infrastruktur kepercayaan digital seperti identifikasi identitas, pelacakan keputusan, dan pencatatan audit memungkinkan akuntabilitas AI benar-benar diterapkan dalam penggunaan nyata.
Standar kepercayaan di era AI sedang terbentuk. Di masa depan, perusahaan terkemuka tidak hanya perlu memiliki kemampuan AI, tetapi juga harus membuktikan: mengapa AI bertindak, dan siapa yang bertanggung jawab atasnya.
Unduh laporan lengkap
Ingin mengetahui lebih lanjut tentang tren tata kelola AI di Asia Pasifik, status penerapan AI Agent perusahaan, serta cara membangun sistem kepercayaan digital yang dapat diverifikasi? Klik tautan asli untuk mendapatkan Laporan Status Kepercayaan Digital Sumsub di Asia Pasifik: Laporan Acuan Tata Kelola AI