AI benar-benar menjadi milik publik, bukan tergantung pada seberapa banyak konten yang dapat dihasilkannya, tetapi pada apakah masyarakat percaya pada konten yang dihasilkannya.

Penulis artikel, sumber: ME News



TL;DR

• Kantor Urusan Siber Pusat meluncurkan tahap kedua kampanye "Jernih·Memberantas Kekacauan Aplikasi AI", dengan fokus pada penanganan informasi palsu yang dihasilkan AI, konten vulgar dan kekerasan, peniruan identitas orang lain, serta pelanggaran terhadap hak anak di bawah umur. Sampai saat ini, telah dibersihkan sebanyak 5,61 juta lebih informasi ilegal dan tidak sesuai, 49.000 lebih akun telah ditindak, serta lebih dari 2.400 situs web dan aplikasi ilegal telah ditangani.
• Platform AI seperti Doubao, Yuanbao, Qianwen, dan Wenxin Yiyan sedang memperkuat pelatihan bahan pemeriksaan, filter keamanan model, dan mekanisme identifikasi konten yang dihasilkan; tujuan utamanya bukan membatasi kemampuan AI, tetapi mengurangi risiko penyalahgunaan teknologi.
• Tata kelola AI sedang berpindah dari "menghapus konten pelanggaran" menjadi "mengendalikan proses produksi konten", di mana pelatihan model, sumber data, tahap generasi, dan rantai penyebaran menjadi fokus regulasi.
• Persaingan bisnis AI generatif di masa depan tidak hanya akan mempertandingkan parameter model dan pengalaman produk, tetapi juga kemampuan keamanan, kepatuhan, dan kepercayaan jangka panjang.
• AI benar-benar menjadi milik publik, bukan tergantung pada seberapa banyak konten yang dapat dihasilkannya, tetapi pada apakah masyarakat percaya pada konten yang dihasilkannya.

Kecepatan perkembangan kecerdasan buatan terus memperbarui pemahaman publik tentang batas-batas teknologi.

Beberapa tahun lalu, orang membahas AI, lebih fokus pada parameter model, skala daya komputasi, kualitas jawaban, dan skenario komersial. Siapa yang memiliki model lebih besar, siapa yang memiliki kemampuan inferensi lebih kuat, tampaknya berarti siapa yang akan memenangkan masa depan.

Namun, setelah memasuki tahap penerapan luas AI generatif, masalah yang lebih nyata perlahan muncul: jika AI dapat menghasilkan teks, gambar, suara, atau bahkan seluruh rangkaian informasi yang tampak nyata dalam beberapa detik, siapa yang akan menjamin konten-konten ini tidak akan menjadi alat baru untuk menyebarkan hoaks, memanipulasi opini publik, dan melanggar hak?

Ini bukan masalah yang jauh.

Baru-baru ini, Kantor Pusat Urusan Siber Tiongkok meluncurkan tahap kedua dari kampanye spesifik "Jernihkan·Memberantas Kekacauan Aplikasi AI", yang secara langsung menangani risiko nyata ini. Kampanye ini berfokus pada penanganan masalah utama seperti pemanfaatan AI untuk membuat dan menyebarkan informasi palsu, menyebarkan konten kekerasan dan tidak senonoh, meniru atau meniru orang lain, serta melanggar hak anak di bawah umur. Hingga kini, kampanye tersebut telah membersihkan lebih dari 5,61 juta informasi ilegal dan tidak sesuai, menindak lebih dari 49.000 akun, serta menangani lebih dari 2.400 situs web dan aplikasi yang melanggar aturan.

Angka-angka di balik ini bukan mencerminkan masalah pada teknologi AI itu sendiri, melainkan tantangan tata kelola yang harus dihadapi oleh industri yang berkembang pesat saat memasuki tahap kedewasaan.

Setiap teknologi yang mengubah cara kerja masyarakat tidak hanya meningkatkan efisiensi.

Internet pernah membawa aliran informasi yang bebas, sekaligus penyebaran informasi palsu; pembayaran seluler mengubah pengalaman keuangan, sekaligus menciptakan model penipuan baru; video pendek menurunkan hambatan produksi konten, sekaligus menciptakan lingkungan persaingan yang mengutamakan trafik.

AI juga demikian.

Ini dapat meningkatkan efisiensi produksi, tetapi juga dapat memperbesar pelanggaran hukum berbiaya rendah.

Dulu, membuat artikel palsu atau video palsu memerlukan banyak tenaga manusia. Namun hari ini, AI menurunkan hambatan produksi konten, memungkinkan pengguna biasa memiliki kemampuan produksi yang mendekati tim profesional. Tanpa mekanisme tata kelola yang sesuai, manfaat teknologi bisa dimanfaatkan oleh sejumlah kecil orang untuk menciptakan kekacauan.

Oleh karena itu, tata kelola AI bukanlah memperlambat inovasi, melainkan menambah sistem keamanan di jalan yang berkembang pesat.

Banyak orang mungkin memiliki pertanyaan: Bukankah AI seharusnya semaksimal mungkin terbuka? Mengapa semakin banyak produk AI mulai membatasi konten yang dihasilkan?

Inti dari masalah ini adalah bagaimana memahami batasan tanggung jawab produk kecerdasan buatan.

Perangkat lunak tradisional sering kali hanya menyediakan alat, tetapi AI generatif bukanlah alat sederhana. Ia terlibat dalam proses produksi konten, bahkan secara langsung memengaruhi persepsi pengguna.

Ketika pengguna bertanya kepada AI, konten yang dihasilkan oleh model dapat memengaruhi penilaian investasi, keputusan kesehatan, pembelajaran pendidikan, bahkan pemahaman terhadap peristiwa publik. Oleh karena itu, platform AI tidak boleh hanya fokus pada "apakah bisa menghasilkan", tetapi juga harus mempertimbangkan "apa yang dihasilkan", "mengapa dihasilkan", dan "dampak apa yang akan ditimbulkan setelah dihasilkan".

Platform seperti DouBao, YuanBao, Qianwen, dan Wenxin Yiyan memperkuat tata kelola konten, sebenarnya sedang membangun sistem keamanan produk AI baru. Menurut pemberitahuan dari departemen urusan internet, platform terkait sedang melakukan pemeriksaan ketat terhadap konten bahan mentah, memperkuat penyaringan konten pelanggaran, serta memperketat persyaratan identifikasi konten sintesis yang dihasilkan AI, untuk mengurangi risiko timbulnya dan penyebaran informasi ilegal atau tidak sesuai hukum sejak sumbernya. (Badan Pengawasan Pasar Nasional)

Ini berarti bahwa tata kelola AI sudah tidak lagi sekadar "penanganan setelah kejadian" di era internet tradisional.

Di masa lalu, platform lebih banyak mengandalkan pendekatan menemukan, menghapus, dan membanned konten yang melanggar.

Tetapi era AI berbeda.

Jika masalah terjadi pada tahap generasi, menghapus konten yang telah disebarkan saja tidak cukup. Karena AI dapat terus menghasilkan varian baru, konten pelanggaran yang sama mungkin muncul kembali dengan cara ekspresi yang berbeda.

Oleh karena itu, tata kelola harus dimajukan.

Dari data pelatihan, hingga pengendalian kemampuan model, hingga pemeriksaan konten yang dihasilkan pengguna, membentuk rantai lengkap.

Secara sederhana, produk AI unggul di masa depan tidak hanya lebih akurat dalam menjawab pertanyaan, tetapi lebih penting lagi, tahu pertanyaan apa yang tidak bisa dijawab, konten apa yang tidak bisa dihasilkan, dan situasi apa yang harus mengingatkan pengguna akan risiko.

Ini juga sebabnya kemampuan keamanan AI sedang menjadi bagian dari daya saing produk.

Namun, tata kelola AI bukanlah sekadar membangun dinding "larangan menghasilkan".

Jika batasan terlalu ketat, produk AI mungkin kehilangan nilainya.

Jika batasan tidak mencukupi, hal itu dapat menimbulkan risiko.

Ini adalah permainan jangka panjang tentang batas-batas.

Misalnya, seorang pengguna ingin AI membantu menulis novel yang melibatkan elemen-elemen seperti perang, kejahatan, dan konflik, apakah ini termasuk konten yang melanggar?

Seorang peneliti ingin AI menganalisis perbedaan antara kerentanan keamanan siber dan serangan jahat.

Seorang penggemar sejarah ingin AI mengadaptasi karya klasik, bagaimana cara menentukan apakah itu kreasi yang wajar atau lelucon yang tidak senonoh?

Masalah-masalah ini menunjukkan bahwa tata kelola AI tidak bisa bergantung pada penyaringan kata kunci sederhana.

Tata kelola yang benar-benar efektif memerlukan pemahaman konteks.

Ini juga alasan mengapa platform terus memperkuat kemampuan pengenalan multimodal, secara dinamis memperluas basis data wajah, basis data suara, dan basis data sampel pelanggaran. Platform seperti Douyin, Kuaishou, Weibo, Tencent, Baidu, Bilibili, Xiaohongshu, Zhihu, Douban, dan Taobao sedang meningkatkan kemampuan pengenalan dan penanganan konten AI melalui teknologi, serta telah menerbitkan 46 pengumuman terkait tata kelola. (Administrasi Negara untuk Pengawasan Pasar)

Persaingan keamanan AI di masa depan kemungkinan akan mirip dengan bidang kendaraan otonom.

Sistem yang benar-benar canggih bukanlah melarang mobil berjalan sepenuhnya, tetapi membantu mobil berjalan dengan aman dalam lingkungan yang kompleks.

AI juga demikian.

AI yang matang bukanlah sistem yang tidak bisa melakukan apa-apa, tetapi menemukan keseimbangan antara kemampuan terbuka dan pengendalian risiko.

Beberapa kasus yang diumumkan dalam kampanye spesifik ini juga menunjukkan bentuk-bentuk baru penyalahgunaan AI.

Salah satu masalah khas adalah memanfaatkan AI untuk mengadaptasi karya klasik dengan kualitas rendah.

Di masa lalu, meskipun produksi konten daring seringkali bersifat asal-asalan, biaya produksi tetap membatasi skalanya.

Setelah munculnya AI, generasi massal menjadi mungkin.

Beberapa akun memanfaatkan AI untuk memodifikasi karya klasik seperti "Romance of the Three Kingdoms" dan "Journey to the West", dengan mengubah karakter dan menciptakan alur yang aneh untuk menarik lalu lintas. Konten semacam ini tampaknya hanya bersifat hiburan, tetapi penyebaran luas dan berkelanjutan dapat memengaruhi pemahaman publik terhadap konten budaya, serta berpotensi menguras ekosistem konten berkualitas.

Masalah lainnya adalah AI menghasilkan informasi palsu.

Dulu, membuat gambar palsu atau video palsu memerlukan ambang teknis yang tinggi.

Sekarang, AI generatif menurunkan ambang batas.

Lokasi bencana palsu, tren sosial palsu, dan penipuan pemasaran dengan digital human dapat memanfaatkan ketidaksetaraan informasi publik untuk menciptakan dampak. Dalam kasus yang diumumkan oleh departemen jaringan dan informasi kali ini, termasuk penggunaan AI untuk menghasilkan gambar bencana palsu, memalsukan informasi tren sosial, serta melakukan promosi palsu melalui digital human.

Yang lebih patut diperhatikan adalah AI deepfake suara dan wajah.

Suara dan wajah adalah dasar penting bagi manusia untuk menentukan identitas.

Ketika AI mampu mensimulasikan suara, ekspresi, bahkan kebiasaan seseorang, sistem kepercayaan identitas menghadapi tantangan baru.

Ini tidak hanya melibatkan tokoh publik, tetapi juga pengguna biasa.

Hari ini, foto dan bahan suara seseorang dapat menjadi sumber data yang disalahgunakan.

Oleh karena itu, perlindungan data di era AI tidak hanya mencegah kebocoran informasi, tetapi juga mencegah identitas pribadi direplikasi secara digital.

Dalam beberapa tahun terakhir, industri AI Tiongkok berkembang pesat.

Dari pengembangan model besar, hingga asisten cerdas, hingga aplikasi seperti kantor, pendidikan, e-commerce, dan pencarian, AI sedang memasuki tahap penerapan nyata.

Namun, semakin mendekati pengguna biasa, masalah keamanan semakin penting.

Sebuah perusahaan dapat menerima bahwa model terkadang memberikan jawaban yang salah, tetapi sulit menerima model yang terus-menerus membuat informasi palsu.

Seorang pengguna dapat menerima bahwa kemampuan AI terbatas, tetapi sulit menerima bahwa AI membantu menciptakan penipuan.

Jadi, persaingan industri AI di masa depan tidak akan hanya menjadi persaingan teknologi.

Ukuran parameter memang penting, kemampuan algoritma memang penting, tetapi kepercayaan juga penting.

Mengapa industri keuangan sangat menekankan kepatuhan?

Karena produk keuangan menghubungkan dana.

Mengapa industri perawatan kesehatan sangat menekankan keamanan?

Karena keputusan medis memengaruhi kehidupan.

Dan AI secara perlahan menghubungkan pengetahuan, informasi, dan keputusan.

It also needs to build a foundation of trust.

Dari sudut pandang ini, tindakan pengaturan kali ini oleh Kantor Informasi Internet bukanlah ditujukan terhadap perkembangan AI, melainkan mendorong industri AI memasuki tahap perkembangan yang lebih matang. Regulasi yang jelas membatasi batasan, platform meningkatkan kemampuan, dan pengguna meningkatkan pemahaman, sehingga akhirnya membentuk ekosistem yang lebih sehat.

Sejarah perkembangan teknologi berulang kali membuktikan bahwa sebuah industri benar-benar matang, bukan ketika ia mampu menciptakan keajaiban berapa banyak, tetapi ketika ia mampu menyelesaikan masalah berapa banyak.

AI telah membuktikan kreativitasnya.

Ini dapat membantu orang menulis, memprogram, belajar, serta mendorong perusahaan meningkatkan efisiensi.

Namun di tahap berikutnya, AI perlu membuktikan hal lain: apakah ia layak dipercaya.

Platform seperti DouBao, YuanBao, QianWen, dan Wenxin Yiyan memperkuat pembatasan konten pelanggaran, pada dasarnya menjawab pertanyaan kunci:

Ketika kecerdasan buatan memiliki kemampuan kreatif yang semakin kuat, apakah ia juga memiliki kesadaran tanggung jawab yang sepadan dengan kemampuannya?

Keputusan ini menentukan tidak hanya arah pengembangan beberapa produk AI, tetapi juga apakah seluruh industri dapat memasuki siklus perkembangan jangka panjang yang stabil.

Masa depan kecerdasan buatan tidak milik sistem-sistem yang hanya mampu membuat lebih banyak konten, tetapi milik sistem-sistem yang mampu menemukan keseimbangan antara kreativitas, keamanan, dan nilai sosial.

Teknologi yang benar-benar hebat selalu bukan karena mampu melakukan segalanya, tetapi karena tahu apa yang tidak bisa dilakukan, dan mengapa tidak bisa dilakukan.

1. Kantor Komite Pusat Keamanan Siber dan Informasi: "Kantor Pusat Siber dan Informasi Pusat secara mendalam melaksanakan tahap kedua kampanye spesifik 'Jelas·Memberantas Kekacauan Aplikasi AI', 2 September 2026."
2. Office Komite Pusat untuk Keamanan Siber dan Informasi: "Office Pusat untuk Siber dan Informasi mengatur kampanye spesifik 'Jernihkan Kegiatan AI yang Kacau', 30 April 2026."
3. Peraturan Sementara tentang Pengelolaan Layanan Kecerdasan Buatan Generatif, Kantor Informasi Internet Nasional dan departemen terkait, 2023.
4. Peraturan Identifikasi Konten Hasil Buatan Kecerdasan Buatan, Kantor Informasi Internet Nasional dan departemen terkait, 2025.
5. Russell, Stuart & Norvig, Peter. Artificial Intelligence: A Modern Approach. Pearson.
6. Shneiderman, Ben. AI Berpusat pada Manusia. Oxford University Press.