Halusinasi AI Merosakkan Penilaian dan Keyakinan Manusia

Kajian terkini menemui bahawa ilusi AI tidak hanya bohongi anda, tetapi juga boleh meningkatkan keyakinan diri anda dan melemahkan keupayaan penilaian anda.

Ini tidak baik.

Baru-baru ini, sebuah kajian dari École Normale Supérieure de Paris, Università degli Studi di Roma La Sapienza, dan Università degli Studi di Milano-Bicocca menemukan:

Tanpa AI, orang akan lebih bersedia mengakui "Saya tidak tahu", dan menangguhkan penilaian terlebih dahulu;

Namun, sejak AI muncul, walaupun orang jelas tahu ia akan membuat kesalahan, walaupun tahu jawapan yang salah akan dikenakan hukuman, kebanyakan orang masih memilih menerima jawapannya secara bulat-bulat, menjadikannya sebagai penilaian sendiri dan mengucapkannya dengan yakin.

Keputusan eksperimen juga menunjukkan tren ini dengan jelas: dalam eksperimen pertama yang tidak menggunakan AI, peratusan orang yang mengaku "Saya tidak tahu" ialah 44%, dengan kadar kebetulan 27%;

Setelah menggunakan bantuan AI, peratusan orang yang mengatakan tidak tahu turun drastik dari 44% kepada 3%, ketepatan menurun dari 27% kepada 9%, tetapi keyakinan diri meningkat drastik dari 30% kepada 76%.

Walaupun eksperimen seterusnya cuba mendorong orang untuk mengekalkan penilaian bebas dan memperbaiki kecenderungan ini melalui mekanisme ganjaran dan hukuman seperti "diberi duit jika jawab betul, didenda jika jawab salah", orang masih sukar melepaskan ketergantungan terhadap cadangan salah AI.

Dengan kata lain, orang yang tidak faham tidak benar-benar hilang, tetapi digantikan oleh sekumpulan orang yang menjadi lebih percaya diri kerana bantuan AI dan memberikan jawapan yang salah.

Sekarang, hasil penyelidikan berkaitan telah diterbitkan di arXiv, pasukan telah menjalankan lima eksperimen dengan jumlah peserta sebanyak 3,132 orang, di mana empat eksperimen telah pra-daftrarkan dan satu merupakan eksperimen replikasi langsung.

Kajian ini memfokuskan kepada "kesan AI terhadap kemampuan penilaian manusia."

Penyelidik Valerio Capraro dalam temu bual berkata:

Sangat penting bagi manusia untuk mengatakan "Saya tidak tahu", kerana ini menunjukkan bahawa kita sedar akan sempadan pengetahuan kita.

Tetapi sekarang, dengan AI, hampir semua soalan boleh mendapat jawapan yang lancar segera.

Maka timbul pertanyaan, adakah ini mengganggu kemampuan penilaian asli manusia? Iaitu, apabila tidak pasti, jangan tergesa-gesa membuat kesimpulan?

Untuk tujuan ini, pasukan penyelidik telah mereka satu set soalan yang mudah dijawab salah oleh model bahasa besar.

Bukan soalan penalaran matematik, bukan juga soalan akal sehat, tetapi soalan butiran visual dalam filem.

Sebagai contoh, warna seragam pasukan dalam film "I Am David Beckham" adalah apa? Hiasan rambut ikonik Agatha dalam "The Grand Budapest Hotel" adalah apa? Atau dalam "A Cat on the Highway", apa jenis kereta yang dipandu oleh Monica dan sebagainya.

Adakah kamu ingat? Saya sendiri terdiam selama berjam-jam tanpa dapat mengingatnya, ini terlalu licik! Siapa yang boleh ingat... (merenggangkan tangan)

Bagi AI, ia juga akan merasa sangat kesulitan, kerana jawapan kepada soalan-soalan ini sering kali tidak terdapat dalam sumber teks biasa, dan data latihan model kemungkinan besar tidak mengandungi butiran visual ini.

Penyelidik terlebih dahulu menguji model yang digunakan dalam eksperimen, Step 3.5 Flash, dan keputusannya sejalan dengan jangkaan—ia biasanya akan menjawab salah.

Selain itu, mereka juga menguji model yang lebih canggih lagi, termasuk GPT-5.5, Claude Sonnet 4.6, dan Gemini 3.5 Flash.

Model-model canggih ini memang menunjukkan prestasi yang lebih baik pada beberapa soal, seperti gaya rambut ikonik Agatha dalam filem The Grand Budapest Hotel, di mana GPT-5.5, Gemini 3.5 Flash, dan Claude Sonnet 4.6 semuanya memberikan jawapan yang betul: crown braid, milkmaid braid; iaitu kepang yang mengelilingi kepala.

△

△

△

Sebagai contoh lagi, warna seragam pasukan dalam "I Love Beckham" juga kebanyakannya dapat menangkap maklumat penting seperti putih dan merah.

Namun, apabila sampai kepada soalan yang lebih bergantung pada ingatan visual spesifik dan kurang ditutupi oleh bahan teks dalam talian, model bermula secara kolektif gagal, dan setiap kegagalan mempunyai keunikan masing-masing.

Yang paling klasik ialah kereta yang diperbuat oleh Monica dalam "Seekor Kucing di Lebuhraya". Jawapan yang betul ialah Toyota Aygo warna biru model 2008.

Namun GPT-5.5 menggambarkannya sebagai motosikal kecil, serta menambahkan cerita bahawa "dia mengendalikannya di pinggir bandar Roma, dan selepas membuka kedai pizza, dia menggunakannya untuk menghantar makanan," serta elemen seperti "kontras antara gaya hidup sederhana dan kelas pekerja dengan kehidupan bandar yang kaya milik Giovanni."

Kelihatan logik dan masuk akal, tetapi sebenarnya ini sepenuhnya hasil rekaan model semata-mata untuk membuat anda percaya ia masuk akal! (Tertipu kan hhh)

Gemini 3.5 Flash menyatakan bahawa dia terutama menggunakan bas awam dan tidak memiliki kereta sendiri, dengan berbagai butiran yang salah secara lebih jauh dan sukar dikesan (contohnya, Monica tidak mempunyai pola tetap untuk menaiki kereta Sergio, tetapi model menggabungkan adegan menaiki kereta secara sementara menjadi satu kebiasaan yang tidak wujud):

△

Claude Sonnet 4.6 telah mengenal pasti berdasarkan pangkalan data kereta internet sebagai 2016 Toyota Auris Touring Sports Hybrid:

△

Langkah 3.5 Flash kemudian melepaskan topengnya dan secara langsung menjawab sebagai Fiat 500 model 2007 (jelas palsu lah!）。

Masalah dengan jawapan-jawapan ini bukan sahaja salah, tetapi salah dengan cara yang sangat meyakinkan, sehingga sukar untuk dibezakan!

Mereka bukan sekadar tidak tahu, tetapi juga menghasilkan jawapan yang keliru dengan sangat lengkap melalui “penggambaran watak fiksyen, penciptaan logik cerita, dan penambahan kegunaan kenderaan”, sehingga kedengarannya sangat masuk akal, tetapi fakta utamanya salah.

Ini adalah tempat paling berbahaya bagi ilusi AI—fakta inti sebenarnya adalah point paling penting, tetapi ia menyembunyikan ketidaktahuan dan kesalahannya dengan ekspresi yang lancar, membuat anda menyangka ia memahami segalanya.

Eksperimen terutama dilakukan dengan Step 3.5 Flash yang lebih ringan, tanpa memilih model terkemuka seperti Claude atau GPT.

Reka 6 soalan butiran filem, yang merupakan perkara penting dalam reka bentuk penyelidikan, kerana ramai orang tahu soalan-sebegini sering dijawab salah atau tidak boleh dipercayai oleh AI.

Para penyelidik mengatakan mereka melakukan ini untuk menyingkirkan satu penjelasan, iaitu "orang mendengar AI kerana AI benar-benar boleh dipercayai."

Jika orang-orang sedar bahawa jawapan-jawapan ini sering salah menurut AI, tetapi masih mengikuti jawapan AI, maka masalahnya bukan sekadar "menyerahkan penilaian secara rasional", tetapi "kemampuan penilaian benar-benar ditekan oleh AI".

Penyelidikan dibahagikan kepada lima pusingan.

Dua pusingan eksperimen pertama, fokus untuk melihat sama ada cadangan AI mempengaruhi nisbah "Saya tidak tahu".

Dalam Kajian 1a, 314 peserta dibahagikan kepada dua kumpulan untuk menjawab enam soalan butiran filem. (Satu kumpulan tanpa AI, dan kumpulan lain boleh memilih sama ada meminta bantuan AI atau tidak.)

Hasilnya jelas: tanpa AI, peratus peserta yang memilih untuk tidak membuat keputusan sementara ialah 36%; apabila AI boleh digunakan, peratus ini turun kepada 6%.

Dengan kata lain, selagi boleh bertanya kepada AI, orang jelas enggan mengatakan tidak tahu.

Namun, penyelidik bimbang terdapat gangguan teknikal di sini, kerana dalam Kajian 1a, alat AI sebanyak 10% permintaan tidak memberikan respons yang normal.

Jadi, mereka melakukan Studi 1b pula.

Pada kali ini, penyelidik tidak lagi memanggil AI secara langsung, tetapi menghasilkan jawapan AI terlebih dahulu untuk memastikan setiap pemohon dapat melihat jawapan yang lengkap.

Hasilnya berulang, tanpa AI, 44% orang akan mengatakan "Saya tidak tahu"; dengan AI, hanya tinggal 3%.

Capraro menyebut fenomena ini sebagai "penangguhan pemeriksaan runtuh." (tertipu oleh AI yang serius, lupa memeriksa premis utama dan berbagai pengaturannya.)

Seterusnya, penyelidik bertanya lagi: Jika terdapat konsekuensi untuk jawapan yang salah, adakah orang akan lebih berhati-hati?

Oleh itu, Study 2 memperkenalkan peraturan ganjaran dan hukuman wang.

Terdapat 812 peserta dalam putaran ini, dibahagikan kepada 4 kumpulan: dengan atau tanpa cadangan AI; dengan atau tanpa ganjaran atau hukuman wang.

Peraturannya, menjawab dengan betul mendapat hadiah 0.1 dolar AS (kira-kira 0.73 yuan China), menjawab salah dikenakan penalti 0.1 dolar AS, dan jika tidak tahu, tiada hadiah atau penalti.

Secara logiknya, walaupun jumlah wang tidak banyak, tetapi kerana ada kos jika menjawab salah, orang sepatutnya lebih berhati-hati.

Namun, hasilnya menunjukkan bahawa wang memang memberikan sedikit bantuan, tetapi masih jauh dari mencukupi untuk menyeimbangkan kesan AI:

Tanpa peraturan ganjaran atau hukuman wang, penggunaan AI boleh menurunkan peratusan "Saya tidak tahu" daripada 17% kepada 1%.

Apabila terdapat peraturan ganjaran dan hukuman wang, penggunaan AI masih akan menurunkan nisbah ini dari 21% kepada 2%.

Dengan kata lain: Keputusan eksperimen menunjukkan bahawa walaupun orang tahu bahawa menjawab salah akan mengakibatkan denda dan bahawa AI tidak begitu boleh dipercayai dalam soal-soal semacam ini, kebanyakan orang masih memilih untuk percaya kepada jawapan AI daripada penilaian mereka sendiri.

Lebih penting lagi ialah ketepatan.

Tanpa AI, ketepatan adalah sekitar 28%; dengan AI, ketepatan hanya tinggal 10%.

Ini membuktikan bahawa sebahagian orang mungkin sedar akan ilusi AI, tetapi masih mengambil jawapan yang diberikan oleh AI.

Selepas memperkenalkan peraturan ganjaran dan hukuman wang, ketepatan meningkat:

Tanpa AI, dari 28% hingga 33%; dengan AI, dari 10% hingga 17%.

Walaupun ketepatan kumpulan AI masih jauh lebih rendah berbanding kumpulan tanpa AI, peraturan ini bukanlah tanpa kesan; ia sekurang-kurangnya mengurangkan sedikit bilangan kali orang meminta bantuan daripada AI:

Data menunjukkan bahawa, dengan adanya ganjaran, bilangan purata peserta yang meminta nasihat daripada AI turun dari 5.44 kali kepada 4.93 kali.

Dengan kata lain, wang boleh membuat orang sedikit kurang percaya dan kurang bergantung pada AI, tetapi tidak mampu melepaskan orang sepenuhnya dari pengaruh cadangan salah AI, dan sukar untuk membawa orang kembali ke keadaan penilaian berhati-hati.

Yang paling patut dipikirkan ialah keyakinan diri manusia yang meledak-ledak apabila AI memberikan jawapan yang salah:

Tanpa AI dan tanpa peraturan hadiah atau denda, keyakinan purata peserta ialah 29.6%.

Selepas penggunaan AI, keyakinan peserta secara langsung meningkat kepada 75.9%; selain itu, dalam keadaan terdapat peraturan ganjaran dan hukuman wang, keyakinan kumpulan AI juga berada pada 73.5%.

Untuk ini, ringkasan dalam kertas tersebut sangat langsung: AI membuat orang lebih yakin, tetapi tidak semestinya lebih tepat.

AI sedang menyatu ke dalam kehidupan harian dengan kelajuan yang belum pernah terjadi sebelumnya, dan satu perubahan yang jelas ialah banyak cadangan AI sekarang bukan datang daripada soalan kita, tetapi ia sendiri “mendekati” kita.

Skenario paling biasa ialah membanjiri tren teratas.

Dahulu, apabila memasuki satu topik, anda perlu mengikuti secara manual ruangan komen, laporan media, dan respons pihak berkenaan, sambil menyusun garis masa dan sambil menikmati beberapa isu sampingan.

Sekarang berbeza, segera setelah anda masuk, ringkasan yang dihasilkan oleh AI telah ditempatkan di posisi paling menonjol.

Semua yang berlaku, siapa yang mengatakan apa, titik kontroversi, dan perkembangan seterusnya telah diringkaskan untuk anda, bahkan disertai pautan sumber berita.

Memang memudahkan, tetapi agak halus juga....

Semakin jelas ia menyusun maklumat, semakin singkat proses kita sendiri untuk menyelidiki asal-usulnya; keseronokan lama untuk berkeliling mencari, membuat penilaian sendiri, dan menemui butiran tak terduga secara kebetulan sepertinya turut dikompresi.

Semasa menulis, belum lagi selesai menaip dua baris, ayat yang dilengkapi AI atau petunjuk sudah berada di belakang kursor.

Oleh itu, Study 4 membuat reka bentuk yang lebih realistik: tidak lagi meminta peserta memilih sama ada ingin bertanya kepada AI, tetapi secara automatik menunjukkan cadangan AI di samping soalan.

Terdapat 853 peserta dalam putaran ini, dan keputusan eksperimen hampir sama seperti sebelumnya.

Tanpa peraturan ganjaran atau hukuman wang, kehadiran automatik AI mengurangkan peratusan "Saya tidak tahu" daripada 35% kepada 1%, manakala dengan peraturan, ia turun daripada 39% kepada 7%.

Ketepatan juga terus terjejas: tanpa AI, ketepatan adalah sekitar 27%, dengan AI tetapi tanpa insentif, ketepatan hanya 7%.

Dengan AI ditambah insentif, ketepatan meningkat kepada 14%.

Ini menunjukkan bahawa walaupun manusia tidak secara aktif meminta bantuan AI, hanya dengan melihat cadangan AI secara pasif, mereka akan sangat terpengaruh.

Ini adalah isyarat yang harus diwaspadai—AI sedang secara perlahan membentuk semula kebiasaan penilaian kita.

Ia bukan lagi alat yang hanya merespons apabila anda membuka kotak sembang secara aktif, tetapi telah berubah menjadi "jawapan standard" yang secara lalai diberikan kepada anda oleh sistem.

• Ia mungkin muncul di atas halaman carian.
• Muncul dalam draf e-mel.
• Muncul di sidebar dokumen.
• Muncul dalam perisian pembelajaran, sistem pejabat, dan plugin peramban.

Apabila jawapan secara lalai telah tersedia di hadapan mata, proses penilaian manusia telah diubah; tetapi yang paling menakutkan ialah kita menjadi biasa dengannya.

Kertas itu menggunakan satu perkataan: epistemia (kelesuan kognitif)

Boleh difahami bahawa orang akan menerima kredibiliti permukaan jawapan AI kerana ia kelihatan lancar, lengkap, dan teratur, tanpa mengesahkan lebih lanjut.

Model bahasa besar mempunyai ciri asas iaitu ia sentiasa menghasilkan sesuatu. Apabila menghadapi soalan yang tidak diketahuinya, ia jarang benar-benar berhenti.

Ia boleh kelihatan sangat seperti aslinya. Tetapi jika kita benar-benar memilih untuk menyerahkan keputusan kepada sistem seperti ini, kita mungkin akan mewarisi kebiasaan “tidak berhenti”-nya.

Satu penjelasan yang diberikan dalam kertas ini ialah “jawapan lancar yang diberikan oleh AI akan menurunkan ambang manusia untuk memutuskan ‘saya tahu cukup banyak untuk menjawab’.”

Awalnya anda mungkin berfikir: “Saya tidak tahu soalan ini, tidak yakin, biarlah… Saya perlu memahaminya dahulu sebelum menjawab.”

Tetapi selepas AI memberi anda satu pernyataan yang kelihatan sangat pasti, ambang psikologi menjadi “Jika ia berkata begitu, saya juga boleh menjawab.”

Oleh itu, "Saya tidak tahu" dan "proses pencarian" telah dihapus dan digantikan dengan "jawapan standard yang salah", dan jawapan yang salah ini memberikan anda keyakinan tinggi yang seharusnya hanya diperoleh melalui pencarian dan pengesahan berulang.

Walaupun ada denda jika menjawab salah, orang hanya menjadi sedikit lebih berhati-hati, tetapi tidak mampu mengubah kebiasaan terlalu mempercayai AI, akibatnya secara licin terbawa arus.

Yang sebenarnya menjadi peringatan daripada kajian ini bukanlah “AI mengalami halusinasi”, perkara yang sudah tidak asal lagi; tetapi perubahan baharu yang perlu diwaspadai: AI akan mengubah cara manusia menangani ketidakpastian.

Dahulu, apabila menghadapi satu masalah yang asing, seseorang mungkin mempunyai tiga pilihan:

1. Jika tahu, jawab.

2. Jika tidak tahu, cari tahu.

3. Jika tidak yakin, jangan jawab, jangan buat penilaian.

Namun, selepas AI ditambahkan, proses menjadi lebih pendek.

1. AI memberikan jawapan.

2. Pengguna menerima jawapan.

Langkah paling penting di tengah, iaitu "saya sebenarnya tahu atau tidak", telah dilalui tanpa disedari.

Inilah sebabnya pengarang kertas ini menekankan bahawa kajian mereka bukan melihat “apa yang dijawab oleh AI”, tetapi “bagaimana AI membuat orang lebih mudah memutuskan ‘saya boleh menjawab’”.

Ini lebih dalam daripada sekadar menjawab salah secara sekali, kerana ia merosakkan kemampuan metakognitif kita, yang berfungsi sebagai "alarm dalaman" untuk memantau sempadan pengetahuan kita, dan sangat berharga.

Apabila penggera ini gagal, kita kehilangan naluri untuk membezakan “pengetahuan sejati” dan “tekaan yang kelihatan munasabah”.

Pada masa itu, kita mungkin masih boleh mendapatkan jawapan secara efisien melalui AI, tetapi tidak lagi mampu menilai sama ada jawapan-jawapan tersebut benar-benar milik kita atau benar-benar boleh dipercayai.

Sementara itu, yang akan dipengaruhi oleh AI bukan lagi satu penilaian spesifik, tetapi asas kita sebagai pemikir independen.

Kerugian ini tidak dapat diukur.

Salah seorang penulis kertas tersebut, Valerio Capraro, berkata dalam temu bual: “Saya sangat prihatin terhadap kanak-kanak, kerana orang dewasa sudah belajar berfikir secara kritis. Namun, bagi kanak-kanak yang sejak lahir telah tumbuh bersama sistem-sistem ini, risikonya ialah mereka bahkan tidak akan belajar kemahiran kritis asas.”

Di sebalik perkataan ini tersembunyi kebimbangan yang lebih dalam, iaitu orang dewasa semasa ini, sekurang-kurangnya pernah hidup di dunia tanpa AI.

Jadi, dengan peluang untuk belajar kemampuan penilaian asas terlebih dahulu melalui enjin carian, buku, kelas, perbincangan, dan percubaan serta kesilapan, sebelum memulakan penggunaan AI, anda berpeluang membangunkan perasaan “saya tidak pasti”.

Tetapi kanak-kanak hari ini mungkin tumbuh bersama AI sejak lahir.

Mereka boleh bertanya AI secara sewenang-wenang semasa mengerjakan tugasan, mencari maklumat, menulis artikel, atau memahami konsep.

Jika sejak awal terbiasa menerima jawapan secara langsung, bukannya membentuk penilaian sendiri terlebih dahulu sebelum mengesahkan jawapan, maka risikonya bukan sahaja menjawab soalan tertentu dengan salah, tetapi mereka mungkin tidak pernah mendapat peluang untuk membangunkan kemampuan pemikiran kritis paling asas.

Menurut Capraro, menyelesaikan masalah ini tidak boleh hanya bergantung pada syarikat model membaiki ralat, tetapi perlu bermula dari literasi AI dan dasar pendidikan.

Syarikat model tentu perlu diperbaiki, misalnya dengan lebih baik menyatakan ketidakpastian, mengurangi ilusi, dan mengingatkan pengguna apabila bukti tidak mencukupi.

Namun, Capraro juga berpendapat bahawa tidak boleh meletakkan semua harapan hanya pada syarikat model.

Penyelesaian yang lebih berharapan dan jangka panjang ialah pendidikan.

Terutama pendidikan kanak-kanak.

Bagi kanak-kanak hari ini, sangat penting dan perlu untuk berlatih proses “Saya tidak tahu, tetapi saya ingin memahaminya” dan membina kebiasaan ini.

Pada akhir eksperimen, penyelidik juga mengakui kelemahan: eksperimen hanya menggunakan soalan butiran filem, dan keberkesanannya dalam bidang lain masih perlu diuji; jumlah insentif kecil, dan sama ada kepentingan yang lebih besar boleh memperbaiki tingkah laku lebih lanjut masih tidak jelas.

Namun, data yang ada sudah memberikan isyarat yang jelas: orang kurang mengatakan tidak tahu, lebih banyak memberikan jawapan, kurang tepat menjawab, tetapi lebih yakin.

Ini mungkin merupakan salah satu risiko paling tersembunyi di era AI.

AI tidak hanya menipu anda, ia juga membuat anda lebih sukar sedar bahawa sebenarnya anda tidak tahu.

Penilaian akhir dalam kajian ini sangat berhati-hati, tetapi juga berat: “Seiring jawapan yang dihasilkan oleh AI menjadi meluas dan sering kali muncul tanpa diminta, kajian kami menunjukkan bahawa kemampuan manusia untuk secara terus terang mengakui ‘Saya tidak tahu’ dalam interaksi manusia-dan-AI mungkin menjadi salah satu korban awal dalam interaksi manusia-mesin.”

Apabila sistem AI menjadi semakin meluas, kemampuan penilaian manusia untuk bertahan mungkin tidak bergantung pada membuat AI menjadi lebih tepat, tetapi pada keupayaan kita untuk mempertahankan kesedaran diri—mengenali dengan jelas batasan pengetahuan kita sendiri dan bertindak dengan berhati-hati berdasarkan itu.

Ini bukan berarti AI tidak boleh digunakan, sebaliknya, AI memang boleh menjadi alat bantu yang kuat;

Tetapi dengan syarat ia harus membantu orang berfikir, bukan menggantikan pemikiran mereka, kita perlu mengekalkan garis dasar penilaian berhati-hati kita sendiri.

Cara yang lebih sihat untuk menggunakan AI ialah terlebih dahulu menilai sendiri, belajar secara aktif, dan hanya meminta bantuan AI apabila benar-benar tidak faham, sambil sentiasa mempertahankan naluri meragui (termasuk meragui AI dan mempertanyakan diri sendiri).

Contohnya:

Could it be wrong?

Di mana buktinya?

Apakah pautan rujukan menunjukkan 404 atau kosong sepenuhnya?

Adakah saya menganggap ia benar hanya kerana ia terdengar terlalu lancar?

Ini juga merupakan peringatan bagi produk AI dan pengembangnya — “Kematangan teknologi akhirnya akan terlihat dalam rasa takut akan yang tidak diketahui.”

Arah perkembangan AI masa depan mungkin bukan sahaja membuat AI menjawab lebih pantas dan lebih seperti manusia, tetapi juga membuat AI belajar untuk dengan jujur mengakui ketidakpastian;

Apabila bukti tidak mencukupi, soalan bergantung pada butiran visual, maklumat masa nyata, atau penilaian profesional, AI sepatutnya secara aktif memberitahu pengguna bahawa jawapan ini tidak boleh dipercayai, bukan berpura-pura tahu segalanya.

Bagi orang biasa seperti anda dan saya yang terbawa oleh gelombang zaman untuk terus berlari, kemampuan paling berharga mungkin hanyalah melatih semula untuk mengatakan: "Saya tidak tahu."

Di zaman di mana AI sentiasa memberikan jawapan, perkataan "Saya tidak tahu." bukan pengakuan ketidaktahuan, tetapi bukti bahawa penilaian masih ada.

Pautan rujukan:

[1]https://www.theregister.com/ai-and-ml/2026/07/19/using-ai-makes-people-less-likely-to-admit-they-dont-know-something/5274567

[2]https://arxiv.org/pdf/2607.13562

Artikel ini berasal daripada akaun微信公众号 "Quantum Bit", penulis: Wen Ting