AI mengubah tindakan "menyerahkan data" dari proses pasif, dicuri, dan tidak menyenangkan menjadi perilaku harian yang aktif, langsung mendapat imbalan, dan bersifat sosial.

Penulis artikel, sumber: 0x9999in1, ME News

TL;DR

• Lima tahun lalu, orang-orang marah karena aplikasi mencuri buku alamat dan membocorkan nomor telepon; sekarang mereka secara aktif memberikan KTP, resume, dan rekam medis ke AI, dengan emosi yang tenang secara menakutkan.
• Tingkat toleransi privasi memang meningkat, tetapi intinya bukan "tidak peduli", melainkan sebuah perhitungan biaya-manfaat—imbalan instan yang diberikan AI terlalu besar, sehingga pengguna bersedia berpura-pura tidak melihat risikonya.
• Tiga kekuatan utama yang mendorong perubahan ini: bentuk interaksi berubah (kepercayaan berbasis percakapan), kecepatan umpan balik berubah (pemenuhan dalam hitungan detik), dan alternatif hilang (tidak pakai, keluar).
• Regulasi belum mengikuti pergeseran psikologis kolektif ini. Setelah China menerapkan "Metode Sementara untuk Mengelola Layanan Kecerdasan Buatan Generatif" dan UE mengimplementasikan AI Act, tingkat penegakan hukum masih kasar.
• Bahaya sejati bukanlah "Saya tahu saya menyerahkan privasi saya," tetapi "Saya sama sekali tidak tahu apa yang telah saya serahkan" — di era AI multimodal, tingkat kehalusan pengumpulan data telah jauh melampaui pemahaman pengguna.
• Peningkatan tingkat privasi adalah proses bertahap, bersyarat, dan dapat dibalik, bukan kemunduran searah.

Lima tahun lalu: Kemarahan adalah hal biasa

Pada periode 2019 hingga 2021, berita privasi adalah seperti ini—



Sebuah aplikasi sosial terkemuka dilaporkan oleh Kementerian Industri dan Teknologi Informasi karena sering membaca album pengguna di latar belakang. Sebuah platform pesan makanan diungkap menggunakan model ponsel untuk melakukan diskriminasi harga berbasis data besar—biaya pengiriman yang dilihat pengguna iPhone lebih mahal dua yuan dibanding pengguna Android. Sebuah platform informasi properti menjual secara massal nomor telepon pendaftar kepada agen, sehingga pengguna yang baru mengisi formulir konsultasi perumahan menerima lima panggilan penjualan dari wilayah berbeda dalam waktu tiga menit.

Reaksi opini saat itu? Meledak. Trending di Weibo sering mencapai miliaran pembaca. CCTV 315 menyebut secara langsung. MIIT mengeluarkan serangkaian pemberitahuan penghapusan dan perbaikan. Orang-orang mengkritik dengan sangat spesifik di kolom komentar: "Mengapa harus membaca clipboard saya?""Saya hanya mengunduh aplikasi cuaca, kenapa Anda meminta izin buku telepon saya?"

Marah itu nyata. Ketidakpercayaan juga nyata.

Undang-Undang Perlindungan Informasi Pribadi tahun 2021 secara resmi diberlakukan, sebagai hasil institusional dari emosi kolektif pada masa itu.

Dulu, itu adalah masa di mana orang-orang memiliki "kesadaran wilayah sederhana" terhadap privasi—nomor telepon saya milik saya, alamat saya milik saya, riwayat belanja saya milik saya. Anda mencuri, saya akan marah. Logikanya sederhana, sikapnya jelas.

Sekarang: Memberi makan adalah rutinitas harian

Lompat ke tahun 2025, 2026.

Buka DouBao, tempelkan resume yang berisi nama asli, riwayat pendidikan, dan pengalaman kerja: "Tolong perbaiki ini, untuk melamar perusahaan asing."

Buka ChatGPT, unggah foto KTP: "Tolong ubah ini menjadi salinan scan berkualitas tinggi, terpisah depan dan belakang."

Buka Kimi, unggah laporan pemeriksaan kesehatan: "Tolong bantu jelaskan, indikator mana yang bermasalah?"

Buka Grok, tempelkan sepotong chat dengan mantan: "Tolong analisis apa maksudnya."

Tunggu sebentar. Pikirkan tindakan-tindakan ini.

Lima tahun lalu, sebuah aplikasi secara diam-diam membaca buku alamat Anda, dan Anda ingin melaporkannya. Sekarang, Anda secara aktif memberikan KTP, resume, rekam medis, privasi emosional, bahkan data keuangan Anda ke sebuah model AI yang sama sekali tidak Anda pahami arsitektur backend-nya.

Dan apa emosi yang kamu rasakan saat melakukan hal-hal ini?

Bukan tegang. Bukan ragu-ragu. Tapi antusias. "Cepat beri saya hasilnya."

Inilah perubahan. Perubahan besar dan struktural.

Mengapa ini terjadi? Bukan orangnya jadi bodoh.

Singkirkan dulu penjelasan malas ini: orang menjadi kebal.

Salah. Di akhir 2024, Clearview AI dikenai denda berat di Eropa, dan komentar di bawah berita terkait tetap penuh kemarahan. Pada awal 2025, sebuah model besar buatan dalam negeri terungkap menggunakan data percakapan pengguna untuk pelatihan tanpa pemberitahuan yang jelas, dan respons di media sosial cepat muncul; perusahaan tersebut mengeluarkan pernyataan permintaan maaf dalam dua hari.

Orang-orang tidak sepenuhnya acuh terhadap privasi. Mereka hanya menghitung ulang dalam kerangka baru.

Pengumpulan data masa lalu dilakukan "tanpa sepengetahuanmu". Aplikasi secara diam-diam mengunggah buku alamat di latar belakang, tindakan ini tidak terlihat, tidak kamu ketahui, dan tidak kamu ikut sertakan. Setelah ditemukan, secara alami terasa seperti pelanggaran.

Tetapi AI berbeda. Anda berbicara dengannya. Ia merespons Anda. Ia memanggil Anda "sayang" atau dengan sopan berkata, "Baik, saya akan membantu Anda menanganinya." Ini adalah sebuah percakapan. Percakapan secara alami membangun kepercayaan.

Dalam psikologi, ada konsep yang disebut "timbal balik pengungkapan diri"—ketika Anda merasa pihak lain merespons Anda, Anda cenderung mengungkapkan lebih banyak. AI secara sempurna mensimulasikan mekanisme ini, meskipun pihak yang "merespons" sama sekali bukan manusia.

Anda mengira Anda bekerja sama dengan seorang asisten. Sebenarnya Anda membuka diri terhadap sebuah database. Tetapi karena pengalaman terasa seperti "obrolan", kewaspadaan menjadi longgar.

Pola kebocoran privasi sebelumnya adalah seperti ini: Anda memberikan data → ada industri gelap yang menjualnya → akhirnya Anda menerima telepon mengganggu. Ada jeda waktu antara pengorbanan dan hukuman, dan hampir tidak ada hubungan positif antara pengorbanan dan imbalan. Jadi, reaksi instingtif adalah menolak.

Pola sekarang terbalik: Anda memberikan data → AI langsung mengembalikan resume yang cantik/foto identitas yang diperbaiki/penjelasan diagnosis yang jelas. Jeda antara upaya dan imbalan hampir nol, sementara risiko potensial ditunda ke titik tak tentu di masa depan.

Ini adalah "diskonto hiperbolik" klasik—manusia secara alami memberikan bobot berlebihan pada keuntungan pasti saat ini, sementara meremehkan kerugian masa depan yang tidak pasti. AI memanfaatkan bias kognitif ini hingga maksimal. Bukan karena disengaja, tetapi karena struktural.

Pada tahun 2026, AI sudah menjadi infrastruktur di tempat kerja, pendidikan, dan kehidupan sehari-hari.

Kamu tidak menggunakan AI untuk memperbaiki CV-mu, tapi rekan di meja sebelah menggunakannya, dan CV-nya tiga kali lebih rapi daripada milikmu. Kamu tidak menggunakan AI untuk memproses foto identitas, tapi toko foto langsung juga menggunakan AI untuk memprosesnya sebelum menjualnya kepadamu—kamu hanya menghabiskan Rp30 ribu lebih untuk membiarkan orang lain mengumpulkan data darimu. Kamu tidak menggunakan AI untuk membantu menulis kode, dan kemajuan proyekmu selalu lebih lambat daripada yang menggunakannya.

Ketika sebuah alat menjadi infrastruktur sosial yang membuat Anda tertinggal jika tidak menggunakannya, pilihan privasi bukan lagi semata-mata preferensi pribadi, melainkan perilaku yang dipaksakan oleh tekanan sosial.

Anda bisa memilih untuk tidak melakukannya. Tetapi harganya adalah yang terlihat, langsung, dan terus bertambah.

How to say data

Laporan Survei Privasi Konsumen yang dirilis Cisco pada akhir 2024 menunjukkan: secara global, 84% responden menyatakan peduli terhadap privasi, tetapi hanya 46% yang mengatakan akan berhenti menggunakan layanan AI karena kekhawatiran privasi. Artinya, hampir setengahnya secara eksplisit mengakui: "Saya peduli, tetapi saya tidak akan berhenti menggunakannya karena hal itu."

Data dalam negeri lebih menarik. Sebuah survei yang dirilis oleh Akademi Informasi dan Komunikasi Tiongkok pada Maret 2025 menunjukkan bahwa di antara pengguna AI generatif, 67% pernah mengunggah konten yang berisi informasi pribadi sensitif (termasuk nama, nomor dokumen, foto, dll.), tetapi hanya 23% dari mereka yang membaca kebijakan privasi layanan tersebut dengan cermat.

Dua pertiga orang sedang telanjang, tiga perempat dari mereka yang telanjang tidak tahu sejauh mana mereka telanjang.

Lihat dari sisi perusahaan. Menurut survei tentang penggunaan AI di tempat kerja yang dirilis Salesforce pada 2025, 28% responden profesional di seluruh dunia mengakui pernah memasukkan data rahasia perusahaan ke alat AI publik tanpa izin perusahaan. Samsung bahkan sudah mengalami insiden pada 2023 di mana insinyur menempelkan kode sumber internal ke ChatGPT, menyebabkan kebocoran—ini bukan toleransi privasi, ini adalah titik buta privasi.

Contoh: Hal-hal yang sudah kita anggap biasa

Contoh 1: Foto identitas AI

Pada tahun 2024 hingga 2025, aplikasi foto identitas berbasis AI mengalami pertumbuhan pesat di Tiongkok. Produk-produk seperti Miao Ya Xiangji dan Hai Ma Ti AI Photo memiliki jumlah pengguna mencapai jutaan. Prosesnya sangat sederhana: unggah 15-20 foto pribadi (termasuk wajah depan, samping, dan berbagai sudut), AI akan menghasilkan berbagai jenis foto identitas dan foto profesional.

Pikirkan apa artinya ini—Anda memberikan informasi biometrik wajah高清 Anda dalam berbagai sudut dan kondisi pencahayaan ke server perusahaan komersial. Apakah data ini digunakan untuk pelatihan model? Berapa lama disimpan? Standar enkripsi apa yang digunakan? Sebagian besar pengguna tidak pernah bertanya.

Ini pada tahun 2020 akan memicu gelombang opini publik. Pada tahun 2025, orang menganggapnya sebagai "gaya hidup".

Contoh dua: CV AI dan pencarian pekerjaan

Pada tahun 2025 hingga 2026, menggunakan model besar untuk memperbarui resume telah menjadi tindakan standar bagi pencari kerja. Survei LinkedIn pada tahun 2025 menyebutkan bahwa lebih dari setengah pencari kerja di platformnya pernah menggunakan AI untuk membantu membuat atau mengoptimalkan konten resume. Laporan Zhilian Zhaopin tahun 2025 juga menunjukkan tren serupa.

Resume ini berisi apa saja? Nama lengkap, kontak, latar belakang pendidikan, tempat kerja, pengalaman proyek, bahkan harapan gaji. Pengguna memberikan profil karier lengkap sekaligus kepada AI. Ini jauh lebih komprehensif daripada pengumpulan data terstruktur di situs rekrutmen mana pun—karena resume bersifat naratif, mencakup konteks, hubungan logis, dan keinginan pribadi.

Kasus 3: Konseling Psikologis AI dan Analisis Emosi

Sejak 2025, berbagai produk AI pendamping emosional meningkat pesat. Penggunaan peran terkait kesehatan mental di Character.ai sangat besar. Produk dalam negeri seperti "Xingye" dan "Zhumeng Island" juga memiliki banyak pengguna yang berbagi cerita pribadi.

Apa yang diungkapkan pengguna dalam skenario-skenario ini? Adalah keadaan emosional, detail hubungan interpersonal, trauma psikologis, atau penilaian terhadap orang tertentu. Tingkat kepekaan informasi ini jauh melebihi nomor telepon dan alamat.

Pada akhir 2024, Character.ai digugat oleh keluarga setelah seorang remaja Amerika Serikat bunuh diri setelah berinteraksi mendalam dengan karakter AI. Insiden tersebut menarik perhatian regulator, tetapi tidak menyebabkan penurunan signifikan dalam jumlah pengguna produk semacam itu.

Apa yang ini tunjukkan? Orang-orang tidak tidak tahu risikonya. Tetapi kebutuhan emosional terlalu nyata, terlalu mendesak, sementara alternatifnya—konseling psikologis langsung—terlalu mahal, terlalu sulit untuk dijadwalkan, dan terlalu banyak stigma sosial.

Toleransi meningkat, tetapi ada batasnya

Dengan demikian, penilaian saya adalah:

Ya, tingkat toleransi meningkat. Bukan karena orang-orang menjadi tidak peduli, tetapi karena era AI mendefinisikan ulang ambang batas "transaksi privasi yang dapat diterima".

Tetapi kemurahan hati ini bersyarat.

Kondisi pertama: Pengguna harus merasa "Saya bersikap aktif"

Orang dapat menerima data yang diserahkan secara aktif, tetapi tidak dapat mentolerir data yang dicuri. Pada tahun 2025, sebuah platform video pendek terungkap menggunakan izin mikrofon untuk mengumpulkan suara lingkungan tanpa sepengetahuan pengguna guna rekomendasi iklan. Reaksi publik? Masih marah dan hebat.

Jadi bukan "privasi tidak penting lagi". Tapi "yang saya berikan boleh, yang Anda curi tidak boleh". Persepsi terhadap kendali adalah variabel kunci.

Kondisi kedua: Pengguna harus percaya pada merek

Sama-sama mengunggah KTP, memberikannya ke WeChat, Alipay, dan memberikannya ke sebuah aplikasi kecil yang tidak dikenal namaannya, ambang psikologis pengguna sama sekali berbeda. Kepercayaan di sini adalah regulator penting. OpenAI, ByteDance, Baidu—mereka adalah merek besar yang menikmati dukungan implisit "besar hingga bisa dipercaya"—meskipun tidak ada hubungan sebab-akibat antara "besar" dan "aman".

Kondisi ketiga: Tipe data berbeda

Tingkat kepekaan pengguna terhadap berbagai jenis data tetap ada. Menurut data survei dari Akademi Ruang Siber Tiongkok tahun 2025, urutan kepekaan pengguna terhadap data berikut kira-kira: informasi akun keuangan > nomor identitas > rekam medis > data wajah > informasi pekerjaan > preferensi minat.

Artinya, orang-orang bersedia memberikan resume ke AI, tetapi tetap ragu lama untuk menghubungkan kartu bank ke AI. Tingkat toleransi bersifat berlapis, bukan seragam.

Risiko sebenarnya: Anda tidak tahu apa yang telah Anda serahkan

Yang paling saya khawatirkan sebenarnya bukan bagian yang "diberikan secara aktif oleh pengguna".

Yang paling berbahaya adalah era AI multimodal, di mana dimensi pengumpulan data jauh melampaui pemahaman pengguna.

Anda mengira Anda hanya mengunggah rekaman suara agar AI menuliskannya. Tetapi apa yang terkandung dalam rekaman suara itu? Kecepatan bicara, pola jeda, fluktuasi emosi, kebisingan lingkungan, ciri-ciri aksen. Semua ini adalah data.

Anda mengira Anda hanya mengambil foto dan meminta AI untuk mengeditnya. Tetapi informasi EXIF foto tersebut berisi koordinat GPS, model perangkat, dan waktu pengambilan. Di latar belakang terdapat nomor rumah Anda, plat mobil Anda, dan label botol obat di atas meja Anda.

Anda mengira Anda hanya meminta AI untuk menganalisis satu dokumen PDF. Tetapi metadata dokumen tersebut berisi nama penulis, riwayat penyuntingan, dan domain perusahaan.

Pengguna "menyerahkan secara aktif" informasi permukaan, tetapi sistem AI sebenarnya memperoleh profil mendalam. Pengguna mengira baru melakukan pembayaran kecil, padahal menulis cek kosong.

Kesenjangan persepsi ini—pengguna mengira mereka membayar berapa vs yang sebenarnya dibayar—adalah jebakan privasi terbesar di era ini.

Apakah regulasi bisa mengejar?

Sejujurnya, saat ini berjalan dengan terbata-bata.

Di Tiongkok, Peraturan Sementara tentang Pengelolaan Layanan Kecerdasan Buatan Generatif yang berlaku pada Agustus 2023 mewajibkan penyedia layanan untuk tidak menyimpan secara ilegal informasi masukan yang dapat mengidentifikasi identitas pengguna, serta tidak menggunakan informasi masukan untuk melatih model (kecuali dengan persetujuan pengguna). Arahnya tepat, tetapi tingkat eksekusinya kasar. Apa bentuk persetujuan pengguna? Sebuah jendela pop-up, sebuah kotak centang yang secara default sudah dicentang? Apa perbedaan mendasarnya dengan praktik perjanjian privasi APP sepuluh tahun lalu?

Di Uni Eropa, AI Act telah mulai diterapkan secara bertahap sejak 2025, memasukkan tata kelola data sistem AI berisiko tinggi ke dalam pengawasan ketat, dengan menuntut keterlacakan data pelatihan. Arahnya tepat, tetapi menghadapi perusahaan global seperti OpenAI dan Google, biaya penegakan hukum lintas batas sangat tinggi.

Amerika Serikat? Masih belum ada undang-undang privasi terpadu di tingkat federal. Setiap negara bagian memiliki aturannya sendiri. CCPA California dianggap terdepan, tetapi ketentuan-ketentuan untuk mengatur AI generatif masih dalam proses penyempurnaan.

Ringkasan: Regulasi berlari, tetapi lebih lambat dua hingga tiga tahun dibandingkan penerapan teknologi. Sementara itu, perubahan perilaku pengguna lebih cepat daripada regulasi. Perbedaan kecepatan ketiganya adalah sumber utama risiko privasi saat ini.

Penutup

Apakah toleransi manusia terhadap privasi menjadi lebih tinggi?

Lebih tinggi. Tapi bukan karena orang menjadi lebih bodoh, bukan pula karena orang tidak peduli.

Karena AI mengubah tindakan "menyerahkan data" dari proses pasif, dicuri, dan tidak menyenangkan menjadi perilaku sehari-hari yang aktif, langsung mendapat imbalan, dan bersifat sosial.

Anda tidak kehilangan kesadaran privasi. Anda hanya menerima harga yang menurut Anda menguntungkan dalam sebuah transaksi yang mungkin tidak Anda pahami sepenuhnya.

Apakah harga ini nantinya akan terbukti terlalu rendah?

Jawaban atas pertanyaan ini mungkin baru akan diketahui suatu hari ketika tujuan sebenarnya dari data pelatihan AI terungkap sepenuhnya.

Pada saat itu, semoga kami masih memiliki ruang untuk negosiasi.

Sumber referensi

1. Cisco, Survei Privasi Konsumen 2024, Desember 2024.
2. Chinese Academy of Information and Communications Technology, "Research Report on Personal Information Protection in Artificial Intelligence Applications," March 2025.
3. Salesforce, Laporan Tren AI di Tempat Kerja, 2025.
4. Office of the Central Cyberspace Affairs Commission, "Interim Measures for the Administration of Generative Artificial Intelligence Services," effective August 15, 2023.
5. Parlemen Eropa, Undang-Undang Kecerdasan Buatan (EU AI Act), secara resmi diadopsi pada tahun 2024, dengan implementasi bertahap mulai tahun 2025.
6. Reuters, "Character.AI digugat setelah kematian remaja terkait interaksi dengan chatbot," Oktober 2024.
7. Samsung, memo internal tentang pembatasan penggunaan ChatGPT setelah kebocoran kode sumber, dilaporkan oleh Bloomberg, Mei 2023.
8. China Internet Information Center, "Survey on Chinese Internet Users' Perception of Data Security," 2025.