Standard kepercayaan di era AI sedang terbentuk. Di masa depan, perusahaan terkemuka tidak hanya perlu memiliki kemampuan AI, tetapi juga perlu membuktikan: mengapa AI bertindak, dan siapa yang bertanggung jawab atasnya.Penulis artikel, sumber: Sumsub
AI sedang memasuki era pelaksanaan autonomi.
Dari perkhidmatan pelanggan pintar, pengoperasian automatik, hingga analisis perdagangan, penilaian risiko, dan semakan kesesuaian, AI Agent sedang berubah perlahan-lahan dari “alat bantuan” menjadi subjek digital yang mampu menyelesaikan tugas secara berdiri sendiri.
Namun, seiring dengan peningkatan otonomi AI, satu masalah baru sedang muncul: apakah perusahaan mampu membuktikan—mengapa ia melakukan perkara tersebut? Siapa yang memberikan kuasa? Apa dasarnya?
Pada Ogos 2026, platform pengesahan identiti dan kepercayaan digital global Sumsub bekerjasama dengan Singapore FinTech Association untuk menerbitkan Laporan Keadaan Kepercayaan Digital di Asia-Pasifik: Ukuran Asas Tata Kelola AI.
Laporan ini mengkaji sembilan pasaran di Asia-Pasifik dan 720 profesional dari bidang risiko, kepatuhan, teknologi, dan operasi, menganalisis secara mendalam cabaran tata kelola baru yang dihadapi oleh perusahaan di era AI Agent.
Laporan tersebut memperkenalkan konsep utama: "Ketidaksimetrian Tanggung Jawab". Ia bermaksud: syarikat perlu bertanggung jawab atas hasil yang dihasilkan oleh AI, tetapi mungkin tidak mampu membuktikan bagaimana keputusan AI dibentuk.
Penggunaan AI sedang dipercepat, tetapi kemampuan tata kelola belum sejajar
Laporan menunjukkan bahawa kelajuan penggunaan AI oleh perusahaan China sedang meningkat dengan cepat:
- Kira-kira 97% perusahaan China sedang menggunakan atau menguji sistem AI berbilang peringkat
- Namun, hanya 29% daripada syarikat yang mempunyai keyakinan yang mencukupi terhadap pelacakan dan penjelasan proses pengambilan keputusan AI
Ini bermakna, banyak syarikat telah beralih kepada AI untuk menyelesaikan tugas-tugas kompleks, tetapi masih kekurangan kemampuan untuk mengesahkan sepenuhnya laluan pengambilan keputusan, asas data, sumber kebenaran, dan rekod operasi di sebalik perilaku AI.
Di masa lalu, perusahaan perlu membuktikan: “Mengapa pekerja ini membuat keputusan ini?” Di masa depan, perusahaan perlu menjawab: “Mengapa Agen AI ini membuat keputusan ini?”
Inti pentadbiran AI: Membuat tingkah laku autonomi boleh disahkan
Sumsub melaporkan penilaian terhadap kemampuan tata kelola AI perusahaan Asia Pasifik dari tiga dimensi:
1. Autonomi:
Tahap di mana AI boleh menyelesaikan tugas secara bebas.
Seiring dengan perkembangan Agentic AI, AI sedang berpindah daripada penghasilan kandungan ringan kepada: melaksanakan alur kerja secara automatik, memanggil alat luar, membuat penilaian kompleks, dan berinteraksi dengan sistem lain.
2. Tanggungjawab (Responsibility):
Apakah terdapat pihak yang bertanggungjawab secara jelas selepas hasil dihasilkan oleh AI?
Laporan menunjukkan: 75% syarikat China telah menetapkan tanggungjawab hasil AI kepada individu atau pasukan tertentu. Di mana: 35% diatribusikan kepada individu, 40% diatribusikan kepada pasukan. Ini menunjukkan bahawa syarikat sedang membina kerangka tanggungjawab AI.
3. Keterlacakkan (Traceability):
Adakah syarikat mampu merekod dan memulihkan proses pengambilan keputusan AI.
Dan inilah cabaran terbesar pada masa ini. Hanya sedikit perusahaan yang memiliki kemampuan rekod keputusan AI yang lengkap. Jika Agen AI terlibat dalam: penilaian transaksi kewangan, penilaian risiko pengguna, pengesahan identiti, dan pengesanan penipuan, tetapi tidak dapat menjelaskan asas penilaian tersebut, perusahaan akan menghadapi risiko kepercayaan yang baru.
Dari identiti digital ke identiti AI: Infrastruktur kepercayaan generasi seterusnya sedang terbentuk
Sebagai AI Agent menjadi peserta penting dalam ekonomi digital, satu soalan baru muncul: Adakah AI juga memerlukan identiti?
Pada era internet tradisional, sistem identiti menyelesaikan soalan: "Siapakah orang ini?" Manakala pada era AI, perlu dijawab lebih lanjut: "Siapakah AI ini? Apa yang ia diberi kuasa untuk lakukan? Apa yang telah ia lakukan?"
Laporan menunjukkan bahawa syarikat masa depan perlu membina:
- Pengurusan Identiti Agen AI
- Mekanisme kawalan kebenaran
- Sistem rekod tingkah laku
- Kemampuan audit keputusan
Pastikan setiap operasi AI dapat dilacak kepada: satu subjek AI yang telah disahkan, serta tanggungjawab di sebaliknya.
Era integrasi Web3 dan AI, kepercayaan menjadi infrastruktur utama
Tren ini terutama jelas dalam industri Web3, aset digital, dan teknologi perbankan.
Aplikasi terdesentralisasi, kontrak pintar, perniagaan aset digital, dan perkhidmatan AI Agent semuanya bergantung pada kemampuan utama: identiti tepercaya.
Ekonomi digital masa depan tidak hanya memerlukan AI yang lebih pintar dan sistem yang lebih automatik, tetapi juga mekanisme kuasa yang lebih telus, sistem identiti yang lebih boleh dipercayai, dan kemampuan audit yang lebih lengkap.
Hanya dengan membuat perilaku AI dapat diverifikasi, syarikat dapat benar-benar mencapai aplikasi berskala besar.
Dari "menggunakan AI" ke "membuktikan kepercayaan AI"
Laporan menunjukkan: 99% syarikat bersedia mengadopsi kaedah yang boleh membuktikan setiap operasi AI.
Ini menunjukkan bahawa pasaran sedang membentuk konsensus baru: fasa seterusnya dalam persaingan AI bukan hanya tentang kemampuan model, tetapi juga tentang siapa yang mampu membina tata kelola AI yang boleh dipercayai.
Seperti yang dinyatakan oleh Penny Chai, Timbalan Presiden Sumsub untuk Asia Pasifik:
Peraturan pengawasan menentukan batasan tanggung jawab, sementara infrastruktur kepercayaan digital seperti pengenalan identiti, penjejakkan keputusan, dan rekod audit membolehkan akuntabilitas AI benar-benar diterapkan dalam penggunaan sebenar.
Standard kepercayaan di era AI sedang terbentuk. Di masa depan, perusahaan terkemuka tidak hanya perlu memiliki kemampuan AI, tetapi juga perlu membuktikan: mengapa AI bertindak, dan siapa yang bertanggung jawab atasnya.
Muat turun laporan penuh
Ingin mengetahui lebih lanjut tentang trend pengurusan AI di Asia Pasifik, status penggunaan AI Agent oleh perusahaan, serta bagaimana membina sistem kepercayaan digital yang boleh diverifikasi? Klik pautan asal untuk mendapatkan Laporan Status Kepercayaan Digital Sumsub di Asia Pasifik: Panduan Pengurusan AI