AI benar-benar mencapai masyarakat awam, bukan bergantung pada berapa banyak kandungan yang dapat dihasilkannya, tetapi pada sama ada masyarakat percaya kepada kandungan yang dihasilkannya.

Penulis artikel, sumber: ME News



TL;DR

• Pusat Informasi Internet Tengah melancarkan fasa kedua tindakan khas "Jelaskan·Pemulihan Kekacauan Aplikasi AI", dengan fokus mengendalikan isu-isu seperti maklumat palsu yang dihasilkan AI, kandungan tidak senonoh dan berkekerasan, penipuan identiti, serta pelanggaran terhadap hak kanak-kanak. Sehingga kini, sebanyak 5.61 juta maklumat melanggar undang-undang dan peraturan telah dibersihkan, 49 ribu akaun telah ditindak, dan lebih 2400 laman web serta aplikasi yang melanggar peraturan telah dikenakan tindakan.
• Platform AI seperti Doubao, Yuanbao, Qianwen, dan Wenxin Yiyan sedang memperkuat pemeriksaan korpus pelatihan, penyaringan keselamatan model, dan mekanisme penandaan kandungan yang dihasilkan, dengan tujuan utama bukan untuk membatasi kemampuan AI, tetapi untuk mengurangi risiko penyalahgunaan teknologi.
• Pengurusan AI sedang berpindah dari “menghapus kandungan yang melanggar” kepada “mengawal proses penghasilan kandungan”, di mana latihan model, sumber data, tahap penghasilan dan saluran penyebaran menjadi fokus pengawasan.
• Perjuangan perniagaan AI generatif akan, di masa depan, tidak hanya membandingkan parameter model dan pengalaman produk, tetapi juga kemampuan keselamatan, kepatuhan, dan kepercayaan jangka panjang.
• AI benar-benar mencapai masyarakat awam, bukan bergantung pada berapa banyak kandungan yang dapat dihasilkannya, tetapi pada sama ada masyarakat percaya kepada kandungan yang dihasilkannya.

Kelajuan perkembangan kecerdasan buatan terus memperbaharui pemahaman awam terhadap sempadan teknologi.

Beberapa tahun lalu, orang membincangkan AI, lebih menekankan pada parameter model, skala kuasa pengiraan, kualiti jawapan, dan skenario komersial. Siapa yang memiliki model yang lebih besar dan kemampuan penarikan kesimpulan yang lebih kuat, kelihatannya bermakna mereka akan memenangi masa depan.

Namun, selepas memasuki peringkat penggunaan besar-besaran AI generatif, satu masalah yang lebih realistik perlahan-lahan muncul: jika AI boleh menghasilkan teks, gambar, suara, atau bahkan satu set maklumat yang kelihatan benar dalam beberapa saat, siapakah yang akan menjamin bahawa kandungan ini tidak akan menjadi alat baru untuk mencipta desas-desus, mengendalikan pendapat awam, atau melanggar hak?

Ini bukan masalah yang jauh.

Pihak berkuasa jaringan pusat baru-baru ini melancarkan fasa kedua kempen "Jelaskan·Pemberantasan Kekacakan Aplikasi AI" untuk mengatasi risiko nyata ini. Kempen ini menitikberatkan pada pemberantasan isu-isu utama seperti penggunaan AI untuk menghasilkan dan menyebarkan maklumat palsu, menyebarkan kandungan keganasan dan tidak senonoh, meniru atau menyamar sebagai orang lain, serta melanggar hak kanak-kanak. Sehingga kini, kempen ini telah membersihkan lebih daripada 5.61 juta maklumat melanggar undang-undang, mengambil tindakan terhadap lebih daripada 49,000 akaun, serta mengendalikan lebih daripada 2,400 laman web dan aplikasi yang melanggar peraturan.

Angka-angka ini bukan mencerminkan masalah pada teknologi AI itu sendiri, tetapi tugas tata kelola yang harus dihadapi oleh industri yang berkembang pesat setelah memasuki tahap matang.

Sebarang teknologi yang mengubah cara masyarakat berfungsi tidak akan hanya meningkatkan kecekapan.

Internet pernah membawa aliran bebas maklumat, tetapi juga membawa penyebaran maklumat palsu; pembayaran mudah alih mengubah pengalaman kewangan, tetapi juga mencetuskan corak penipuan baru; video pendek menurunkan rintangan dalam penghasilan kandungan, tetapi juga mencipta persekitaran persaingan yang mengutamakan trafik.

AI juga begitu.

Ia dapat meningkatkan kecekapan pengeluaran, tetapi juga boleh memperbesar kesalahan berkos rendah.

Dahulu, untuk menghasilkan satu artikel palsu atau satu video palsu, diperlukan usaha manusia yang banyak. Tetapi hari ini, AI telah menurunkan rintangan dalam penghasilan kandungan, membolehkan pengguna biasa memiliki kemampuan penghasilan yang hampir setara dengan pasukan profesional. Tanpa mekanisme pentadbiran yang sesuai, keuntungan teknologi mungkin dimanfaatkan oleh segelintir orang untuk menciptakan kekacauan.

Oleh itu, tata kelola AI bukanlah untuk memperlambat inovasi, tetapi untuk menambah sistem keselamatan di jalan yang berkembang pesat.

Ramai orang mungkin bertanya: Bukankah AI seharusnya sebegitu terbuka? Mengapa semakin banyak produk AI kini membatasi kandungan yang dihasilkan?

Inti masalah ini ialah bagaimana memahami sempadan tanggungjawab produk kecerdasan buatan.

Perisian tradisional sering kali hanya menyediakan alat, tetapi AI generatif bukan sekadar alat biasa. Ia terlibat dalam proses penghasilan kandungan, bahkan直接影响 persepsi pengguna.

Apabila pengguna bertanya kepada AI, kandungan yang dihasilkan oleh model boleh mempengaruhi penilaian pelaburan, keputusan kesihatan, pembelajaran pendidikan, dan bahkan pemahaman peristiwa awam. Oleh itu, platform AI tidak boleh hanya memfokuskan pada “bolehkah menghasilkan”, tetapi juga mesti mempertimbangkan “apa yang dihasilkan”, “mengapa dihasilkan”, dan “kesan apa yang akan timbul selepas penghasilan”.

Platform seperti DouBao, YuanBao, QianWen, dan Wenxin Yiyan memperkuat pengelolaan konten, sebenarnya sedang membangun sistem keselamatan produk AI yang baru. Menurut pemberitahuan dari departemen urusan internet, platform terkait sedang melakukan pemeriksaan ketat terhadap konten bahan mentah, memperkuat penyaringan konten yang melanggar peraturan, serta memperketat persyaratan penandaan konten sintetis yang dihasilkan AI, untuk mengurangi risiko penciptaan dan penyebaran informasi ilegal atau tidak sah sejak sumbernya. (Badan Pengawasan Pasar Negara)

Ini bermakna, pentadbiran AI sudah tidak lagi sekadar "penanganan selepas kejadian" pada era internet tradisional.

Dahulu, platform lebih banyak mengambil tindakan menemui, menghapus, dan melarang kandungan yang melanggar peraturan.

Tetapi zaman AI berbeza.

Jika masalah berlaku pada peringkat penghasilan, menghapus sahaja kandungan yang disebarkan tidak mencukupi. Kerana AI boleh terus menghasilkan varian baru, dan kandungan yang melanggar peraturan yang sama mungkin muncul semula dengan cara ungkapan yang berbeza.

Oleh itu, tata pentadbiran mesti dipindahkan ke hadapan.

Dari permulaan data latihan, hingga kawalan kemampuan model, dan seterusnya kepada pengesahan kandungan yang dihasilkan pengguna, membentuk rantai yang lengkap.

Secara ringkas, produk AI yang cemerlang di masa depan tidak hanya menjawab soalan dengan lebih tepat, tetapi lebih penting lagi, ia tahu soalan mana yang tidak boleh dijawab, kandungan mana yang tidak boleh dihasilkan, dan situasi mana yang mesti memperingatkan pengguna tentang risiko.

Ini juga sebab keupayaan keselamatan AI kini menjadi sebahagian daripada daya saing produk.

Namun, tata kelola AI bukanlah sekadar menetapkan dinding "larangan menghasilkan".

Jika sekatan terlalu ketat, produk AI mungkin kehilangan nilainya.

Jika had tidak mencukupi, ia boleh menyebabkan risiko.

Ini adalah permainan jangka panjang mengenai sempadan.

Sebagai contoh, seorang pengguna ingin AI membantu menulis novel yang melibatkan elemen-elemen seperti perang, kejahatan, dan konflik, adakah ini termasuk kandungan yang melanggar peraturan?

Seorang penyelidik ingin AI menganalisis perbezaan antara lubang keamanan siber dan serangan jahat.

Seorang peminat sejarah ingin AI mengadaptasi karya klasik, bagaimana untuk menentukan sama ada ia adalah ciptaan yang munasabah atau pengolok-olokan yang tidak senonoh?

Semua soalan ini menunjukkan bahawa pentadbiran AI tidak boleh bergantung kepada penapisan kata kunci yang mudah.

Pemerintahan yang benar-benar berkesan memerlukan pemahaman konteks.

Inilah sebabnya platform terus memperkuat kemampuan pengenalan multimodal, secara dinamik memperluas pangkalan data muka, pangkalan data suara, dan pangkalan data sampel pelanggaran. Platform seperti Douyin, Kuaishou, Weibo, Tencent, Baidu, Bilibili, Xiaohongshu, Zhihu, Douban, dan Taobao sedang meningkatkan kemampuan pengenalan dan penanganan konten AI melalui teknologi, serta telah menerbitkan 46 pengumuman tata kelola terkait. (Biro Pengawasan Pasar Negara)

Perjuangan keselamatan AI masa depan kemungkinan akan serupa dengan bidang pemanduan automatik.

Sistem yang benar-benar canggih bukanlah melarang kereta bergerak sepenuhnya, tetapi membantu kereta bergerak dengan selamat dalam persekitaran yang kompleks.

AI juga begitu.

AI yang matang bukanlah sistem yang tidak mampu melakukan apa-apa, tetapi mencari keseimbangan antara kemampuan terbuka dan pengawasan risiko.

Beberapa kes yang diumumkan dalam tindakan khas ini juga menunjukkan bentuk-bentuk baharu penyalahgunaan AI.

Salah satu masalah klasik ialah menggunakan AI untuk mengadaptasi karya klasik dengan kualiti rendah.

Dahulu, walaupun terdapat kandungan internet yang dibuat secara kasar, kos penghasilan masih menghadkan skala.

Selepas AI muncul, penghasilan secara beramai-ramai menjadi mungkin.

Beberapa akaun menggunakan AI untuk mengubah karya-karya klasik seperti "Romance of the Three Kingdoms" dan "Journey to the West", dengan mengubah pengaturan watak dan mencipta plot yang aneh untuk menarik trafik. Walaupun kandungan ini kelihatan hanya sebagai hiburan, penyebaran yang berterusan dan dalam jumlah besar boleh mempengaruhi pemahaman awam terhadap kandungan budaya, serta mungkin menghabiskan ekosistem kandungan berkualiti tinggi.

Masalah lain ialah AI menghasilkan maklumat palsu.

Dahulu, untuk menghasilkan satu gambar palsu atau video palsu, diperlukan tahap teknikal yang tinggi.

Sekarang, AI generatif telah menurunkan rintangan.

Lokasi bencana palsu, isu sosial palsu, dan penipuan pemasaran berbasis avatara digital semuanya boleh memanfaatkan ketidaktahuan awam untuk menciptakan kesan. Kes-kes yang dilaporkan oleh jabatan rangkaian dan maklumat kali ini termasuk penggunaan AI untuk menghasilkan gambar bencana palsu, mengarang maklumat isu sosial, serta melakukan promosi palsu melalui avatara digital.

Lebih patut diperhatikan ialah AI ganti muka dan suara.

Suara dan wajah adalah dasar penting manusia untuk menentukan identiti.

Apabila AI mampu mensimulasikan suara, ekspresi, dan kebiasaan seseorang, sistem kepercayaan identiti menghadapi cabaran baru.

Ini tidak hanya melibatkan tokoh awam, tetapi juga pengguna biasa.

Hari ini, gambar dan bahan suara seseorang boleh menjadi sumber data yang disalahgunakan.

Oleh itu, perlindungan data di era AI bukan sahaja mencegah kebocoran maklumat, tetapi juga mencegah identiti peribadi disalin secara digital.

Dalam beberapa tahun terakhir, industri AI China telah berkembang pesat.

Dari pembangunan model besar, hingga pembantu pintar, dan kemudian ke aplikasi seperti pejabat, pendidikan, e-dagang, dan carian, AI sedang memasuki fasa aplikasi sebenar daripada fasa paparan teknikal.

Namun, semakin dekat dengan pengguna biasa, masalah keselamatan semakin penting.

Sebuah perusahaan boleh menerima model yang kadang-kadang memberikan jawapan yang salah, tetapi sukar menerima model yang terus menghasilkan maklumat palsu.

Seorang pengguna boleh menerima bahawa kemampuan AI terhad, tetapi sukar menerima AI membantu mencipta penipuan.

Oleh itu, persaingan dalam industri AI masa depan tidak akan hanya menjadi persaingan teknologi.

Ukuran parameter memang penting, kemampuan algoritma memang penting, tetapi kepercayaan juga penting.

Mengapa industri perbankan dan kewangan memberi keutamaan tinggi terhadap pematuhan?

Kerana produk kewangan menghubungkan dana.

Mengapa industri perubatan memberi keutamaan tinggi terhadap keselamatan?

Kerana keputusan perubatan mempengaruhi kehidupan.

Dan AI sedang secara perlahan menghubungkan pengetahuan, maklumat, dan keputusan.

Ia juga memerlukan pembinaan asas kepercayaan.

Dari sudut pandang ini, tindakan pengendalian kali ini oleh Kantor Urusan Siber China bukanlah ditujukan terhadap perkembangan AI, tetapi mendorong industri AI memasuki tahap perkembangan yang lebih matang. Pengawasan menetapkan batasan yang jelas, platform meningkatkan kemampuan, dan pengguna meningkatkan kesadaran, pada akhirnya membentuk ekosistem yang lebih sehat.

Sejarah perkembangan teknik berulang kali membuktikan bahawa satu industri benar-benar matang bukan ketika ia mampu mencipta keajaiban berapa banyak, tetapi ketika ia mampu menyelesaikan masalah berapa banyak.

AI telah membuktikan kreativitinya sendiri.

Ia dapat membantu orang menulis, memprogram, belajar, serta mendorong perusahaan meningkatkan kecekapan.

Tetapi pada peringkat seterusnya, AI perlu membuktikan perkara lain: sama ada ia boleh dipercayai.

Platform seperti DouBao, YuanBao, QianWen, WenXin YiYan, dsb., memperketat sekatan kandungan melanggar peraturan, pada dasarnya menjawab satu soalan utama:

Apabila kecerdasan buatan memiliki kemampuan kreatif yang semakin kuat, adakah ia juga memiliki kesedaran tanggungjawab yang sepadan dengan kemampuannya?

Keputusan itu menentukan bukan sahaja arah perkembangan beberapa produk AI, tetapi juga sama seluruh industri mampu memasuki kitaran perkembangan jangka panjang yang stabil.

Masa depan kecerdasan buatan tidak milik sistem yang hanya mampu menghasilkan lebih banyak kandungan, tetapi milik sistem yang mampu mencapai keseimbangan antara kreativiti, keselamatan, dan nilai sosial.

Teknologi yang benar-benar hebat bukanlah karena ia mampu melakukan segalanya, tetapi kerana ia tahu apa yang tidak boleh dilakukan, dan mengapa ia tidak boleh dilakukan.

1. Pejabat Komite Pusat Keselamatan Siber dan Pemajuan Maklumat: "Pejabat Pusat Siber dan Maklumat Melaksanakan Fasa Kedua Kampanye 'Jelas·Memperbaiki Kekacauan Aplikasi AI'", 2 September 2026.
2. Pejabat Komite Pusat Keselamatan Siber dan Pemajuan Maklumat: "Pejabat Pusat Siber dan Maklumat Pusat mengatur tindakan khas 'Jelaskan Kekacauan Aplikasi AI' ", 30 April 2026.
3. Peraturan Sementara Mengenai Pengurusan Perkhidmatan Kecerdasan Buatan Generatif, Pejabat Informasi Internet Negara dan agensi lain, 2023.
4. Peraturan Penandaan Kandungan yang Dihasilkan oleh Kecerdasan Buatan, Pejabat Informasi Internet Negara dan pihak-pihak lain, 2025.
5. Russell, Stuart & Norvig, Peter. Artificial Intelligence: A Modern Approach. Pearson.
6. Shneiderman, Ben. AI Berpusatkan Manusia. Oxford University Press.