Orang-orang tahu bahawa AI akan membuat kesilapan, tetapi pengawasan mungkin bukan cara yang baik.Penulis artikel, sumber: AIBase
Satu kajian yang diringkaskan oleh The Washington Post baru-baru ini membawa perhatian kepada penghancuran ingatan oleh AI. Profesor Laboratorium Media MIT, Pattie Maes, bersama timnya, terlebih dahulu menunjukkan kepada 200 peserta 24 gambar harian—perkahwinan, pemandangan jalan, perlumbaan.
Selepas rehat sebentar, sebahagian daripada mereka melihat semula gambar asal, manakala sebahagian lagi melihat versi yang telah diubah oleh AI: ekspresi muka diubah, askar dimasukkan secara paksa ke dalam gambar, atau pemandangan perubahan iklim ditambahkan secara tiba-tiba. Ujian ingatan seterusnya membuatkan Mes sendiri terkejut: mereka yang melihat gambar yang telah dipalsukan menunjukkan peningkatan besar dalam kemungkinan membentuk ingatan yang salah, dan yang lebih menakutkan, mereka menjadi lebih yakin terhadap ingatan palsu tersebut. "Semua ini sangat berbahaya," katanya.
Fenomena ini bukanlah kejadian yang terpisah. Eksperimen kognitif yang bertujuan mengkaji peristiwa politik, kes jenayah, dan bahkan filem baru secara berturut-turut menunjukkan bahawa gambar dan perbualan yang dihasilkan AI boleh menanam butiran yang tidak pernah berlaku ke dalam otak, menyebabkan seseorang yakin bahawa mereka "mengingat" adegan maya—ada yang "ingat" telah menonton versi semula The Matrix yang dibintangi Will Smith, dan ada yang "ingat" skandal politik yang tidak pernah berlaku. Selepas menonton video jenayah, peserta yang ditanya oleh bot perbualan AI mengalami tiga kali ganda jumlah ingatan palsu berbanding kumpul kawalan.
Kemampuan dioutsourcing, ingatan dan kekuatan otak kedua-duanya mengecil
Lebih halus daripada "lupa salah" ialah "tidak mahu ingat". Dalam satu eksperimen lain milik Meis yang masih dalam proses penilaian rakan sebaya, 54 peserta menulis esei bergaya SAT: satu kumpulan menulis secara manual, satu kumpulan menggunakan Google, dan satu kumpulan menggunakan ChatGPT, dengan elektrod kulit kepala merekodkan aktiviti otak secara serentak. Hasilnya sangat jelas—penulis yang bekerja secara bebas menunjukkan sambungan paling kuat dan paling luas di pelbagai kawasan otak, manakala pengguna ChatGPT menunjukkan sambungan paling lemah; apabila diminta mengingat semula esei mereka selepas itu, orang yang bergantung pada AI hampir tidak ingat apa yang telah mereka tulis. Ingatan memerlukan perhatian, usaha subjektif, dan pengambilan maklumat untuk diperteguhkan bersama-sama, dan AI generatif justru menghilangkan usaha otak ini.
Navin dari Wharton School, University of Pennsylvania, dan Xiao dari King's College London, menyebut tren ini sebagai "degradasi kemahiran": manusia secara perlahan berhenti melatih kemampuan yang boleh digantikan oleh mesin, "berfikir menjadi pilihan". Bukti telah muncul dalam bidang profesional—sebuah kajian dalam jurnal The Lancet pada tahun 2025 mengamati 19 orang doktor berpengalaman dalam hampir 1,500 prosedur kolonoskopi, dan selepas penggunaan AI secara biasa, kemampuan mereka untuk mengesan lesi pra-kanser secara bebas menurun sebanyak 20%. Kekhawatiran terhadap kanak-kanak lebih asas: kemampuan kognitif utama belum berkembang sepenuhnya, tetapi sudah mungkin menyerahkan tugas pemikiran kepada mesin, sehingga kekurangan latihan pemikiran kritis sejak awal.
Di konvensi etika AI di Malmö, Sweden, para akademik terus bertanya: apakah akibatnya apabila AI terlibat dalam ingatan? Sim menggunakan eksperimen animasi tabrakan terhadap 331 orang, di mana satu kumpulan membaca ringkasan AI yang tepat dan kumpulan lain membaca ringkasan yang sengaja disalahkan labelnya; ketepatan masing-masing adalah sekitar 84% dan 45%—walaupun telah dinyatakan sebelumnya "ini ditulis oleh AI", penyesatan tetap berkesan. Dia mengungkap paradoks yang kejam: kita mengharapkan "pemeriksaan manusia" untuk menangani kesalahan mesin, tetapi AI dahulu telah mengubah ingatan yang digunakan manusia untuk menilai, sehingga pertahanan ini mungkin gagal dari akarnya. "Semua orang tahu AI akan membuat kesalahan, tetapi pengawasan mungkin bukan cara yang baik." Ketika perusahaan saling berlomba memasukkan AI ke dalam rekaman tindakan polisi dan pengurusan rekod perubatan hospital, lonceng peringatan ini datang pada masa yang tepat.