Ilusi AI Merusak Penilaian dan Kepercayaan Manusia

icon MarsBit
Bagikan
AI summary iconRingkasan
Sebuah studi baru dari universitas Paris-Saclay, Roma, dan Milan-Bicocca menunjukkan bahwa ilusi AI memengaruhi penilaian manusia. Peserta yang menggunakan AI kurang cenderung mengatakan "Saya tidak tahu," turun dari 44% menjadi 3%. Jawaban yang benar turun dari 27% menjadi 9%. Bahkan dengan insentif finansial, pengguna tetap percaya pada AI meskipun memiliki kelemahan. Indeks takut dan serakah mungkin mencerminkan perubahan dalam pengambilan keputusan ini. Pedagang disarankan untuk memantau altcoin seiring meningkatnya pengaruh AI.

Penelitian terbaru menemukan bahwa ilusi AI tidak hanya bisa menipu Anda, tetapi juga memperkuat kepercayaan diri Anda dan melemahkan kemampuan penilaian Anda.

Ini tidak baik.

Baru-baru ini, sebuah penelitian dari École Normale Supérieure de Paris, Università degli Studi di Roma La Sapienza, dan Università degli Studi di Milano-Bicocca menemukan:

Tanpa AI, orang akan lebih bersedia mengakui "Saya tidak tahu," dan menunda penilaian terlebih dahulu;

Namun, sejak AI muncul, meskipun orang-orang jelas tahu bahwa AI bisa salah, bahkan tahu bahwa menjawab salah akan dikenai hukuman, sebagian besar orang tetap memilih menerima jawaban yang diberikan AI secara mentah-mentah, menganggapnya sebagai penilaian mereka sendiri, dan mengatakannya dengan percaya diri.

Hasil eksperimen juga secara jelas menunjukkan tren ini: pada eksperimen pertama yang tidak menggunakan AI, persentase orang yang mengaku "Saya tidak tahu" adalah 44%, dengan tingkat keakuratan 27%;

Setelah menggunakan bantuan AI, persentase orang yang mengatakan tidak tahu turun drastis dari 44% menjadi 3%, akurasi turun dari 27% menjadi 9%, namun kepercayaan diri melonjak dari 30% menjadi 76%.

Meskipun eksperimen lanjutan mencoba mendorong orang untuk tetap membuat penilaian independen dan mengoreksi kecenderungan ini melalui mekanisme insentif seperti "mendapat uang jika menjawab benar, denda jika menjawab salah", orang-orang tetap kesulitan melepaskan ketergantungan pada saran salah dari AI.

Artinya, orang yang tidak mengerti belum benar-benar hilang, tetapi digantikan oleh sekelompok orang yang menjadi percaya diri berkat bantuan AI dan memberikan jawaban yang salah.

Saat ini, hasil penelitian terkait telah dipublikasikan di arXiv, tim telah melakukan lima eksperimen dengan total partisipan sebanyak 3.132 orang, di mana empat eksperimen telah dipreregistrasi dan satu merupakan eksperimen replikasi langsung.

Metakognisi

90% benar + 10% kesalahan mematikan ≠ dapat dipercaya

Penelitian ini fokus pada "dampak AI terhadap kemampuan penilaian manusia."

Peneliti Valerio Capraro mengatakan dalam wawancara:

Sangat penting bagi manusia untuk mengatakan "Saya tidak tahu," karena ini menunjukkan bahwa kita menyadari batasan pengetahuan kita.

Tapi sekarang, dengan adanya AI, hampir semua pertanyaan bisa langsung mendapatkan jawaban yang lancar.

Jadi pertanyaannya muncul, apakah ini akan mengganggu kemampuan manusia untuk membuat penilaian secara alami? Yaitu, ketika tidak pasti, jangan terburu-buru menyimpulkan?

Untuk ini, tim peneliti secara khusus merancang serangkaian pertanyaan yang mudah dijawab salah oleh model bahasa besar.

Bukan soal penalaran matematis, bukan pula soal pengetahuan umum, melainkan soal detail visual dalam film.

Misalnya, warna seragam tim dalam film "I Am David Beckham" apa? Gaya rambut khas Agatha dalam "The Grand Budapest Hotel" seperti apa? Atau mobil apa yang dikendarai Monica dalam "A Cat on the Highway" dan sebagainya.

Apakah kamu ingat? Saya sendiri terdiam berjam-jam tidak bisa mengingat, ini terlalu sulit! Siapa yang bisa mengingatnya... (mengangkat tangan)

Metakognisi

Bagi AI, itu juga akan sangat membingungkan, karena jawaban-jawaban soal ini seringkali tidak ada dalam sumber teks biasa, dan kemungkinan besar tidak ada dalam data pelatihan model.

Peneliti terlebih dahulu menguji model yang digunakan dalam eksperimen, Step 3.5 Flash, dan hasilnya sesuai harapan—biasanya menjawab salah.

Selain itu, mereka juga menguji lebih banyak model canggih, termasuk GPT-5.5, Claude Sonnet 4.6, dan Gemini 3.5 Flash.

Metakognisi

Model-model mutakhir ini memang menunjukkan kinerja lebih baik pada sejumlah pertanyaan, seperti gaya rambut ikonik Agatha di The Grand Budapest Hotel, GPT-5.5, Gemini 3.5 Flash, dan Claude Sonnet 4.6 semuanya memberikan jawaban yang tepat: crown braid, milkmaid braid; yaitu kepang yang mengelilingi kepala.

Metakognisi

Metakognisi

Metakognisi

Misalnya, dalam film "I Love Beckham", warna seragam tim juga sebagian besar dapat menangkap informasi penting seperti putih dan merah.

Namun, ketika menghadapi pertanyaan yang lebih bergantung pada ingatan visual spesifik dan cakupan materi teks daring yang lebih sedikit, model mulai gagal secara kolektif, dan setiap kegagalan memiliki keunikannya masing-masing.

Yang paling khas adalah mobil yang dikemudikan Monica dalam "Seekor Kucing di Jalan Tol". Jawaban yang benar adalah Toyota Aygo warna biru tahun 2008.

Metakognisi

Namun GPT-5.5 menganggapnya sebagai sepeda motor skuter kecil, serta menambahkan alur cerita bahwa "dia mengendarainya melintasi pinggiran Roma, dan setelah membuka toko pizza, ia menggunakannya untuk mengantarkan pesanan," serta menetapkan kontras seperti "gaya hidup sederhana kelas pekerja dibandingkan kehidupan perkotaan yang makmur Giovanni."

Metakognisi

Tampaknya logis dan masuk akal, tetapi sebenarnya ini sama sekali dibuat-buat oleh model agar kamu merasa itu masuk akal! (Tertipu kan hhh)

Metakognisi

Gemini 3.5 Flash mengatakan bahwa dia terutama naik bus dan tidak memiliki mobil sendiri, berbagai detailnya jauh lebih salah dan sulit terdeteksi (misalnya, Monica tidak memiliki pola rutin naik mobil Sergio, tetapi model menggabungkan adegan-acadang naik mobil secara acak menjadi kebiasaan yang tidak ada):

Metakognisi

Claude Sonnet 4.6 kemudian menganalisis database mobil internet dan menyimpulkan: 2016 Toyota Auris Touring Sports Hybrid:

Metakognisi

Langkah 3.5 Flash pun melepaskan topengnya dan langsung menjawab Fiat 500 model 2007 (jelas palsu, kawan!).

Metakognisi

Masalah dengan jawaban-jawaban ini bukan hanya salah, tetapi salah dengan cara yang sangat mirip dengan yang benar, sehingga sulit dibedakan!

Mereka bukan hanya sekadar tidak tahu, tetapi juga membuat jawaban salah terdengar sangat lengkap dengan “menciptakan karakter fiktif, membangun logika cerita yang dibuat-buat, dan menambahkan fungsi kendaraan”, sehingga terdengar masuk akal, tetapi fakta intinya salah.

Ini adalah tempat paling berbahaya dari ilusi AI—fakta inti seharusnya menjadi poin paling penting, tetapi ia menyamarkan ketidaktahuan dan kesalahannya dengan ekspresi yang lancar, membuat Anda salah percaya bahwa ia mengerti segalanya.

Ketika AI bertindak, "Saya tidak tahu" langsung hilang sebagian besar

Eksperimen terutama dilakukan dengan Step 3.5 Flash yang lebih ringan, tanpa memilih model unggulan seperti Claude atau GPT.

Rancang enam pertanyaan detail film, yang merupakan bagian sangat penting dalam desain penelitian, karena banyak orang tahu bahwa AI sering salah menjawab jenis pertanyaan ini dan tidak dapat diandalkan.

Para peneliti mengatakan mereka melakukan ini untuk menyingkirkan satu penjelasan, yaitu "orang-orang mendengarkan AI karena AI benar-benar andal."

Jika orang-orang secara sadar tahu bahwa jawaban-jawaban ini sering salah menurut AI, tetapi tetap mengikuti jawaban AI, maka masalahnya bukan hanya "menyerahkan penilaian secara wajar", melainkan "kemampuan penilaian benar-benar ditekan oleh AI".

Penelitian terdiri atas lima putaran.

Dua putaran eksperimen sebelumnya, fokus utama adalah melihat apakah saran AI akan memengaruhi proporsi "Saya tidak tahu".

Dalam Studi 1a, 314 peserta dibagi menjadi dua kelompok untuk menjawab enam pertanyaan detail film. (Satu kelompok tanpa AI, kelompok lainnya dapat memilih apakah akan meminta bantuan AI atau tidak.)

Hasilnya jelas: tanpa AI, proporsi peserta yang memilih untuk tidak memberikan penilaian sementara adalah 36%; ketika AI tersedia, proporsi ini turun menjadi 6%.

Artinya, selama bisa bertanya ke AI, orang jelas enggan mengatakan tidak tahu.

Namun, para peneliti khawatir ada gangguan teknis, karena dalam Studi 1a, alat AI sekitar 10% permintaan tidak merespons dengan normal.

Jadi mereka melakukan Study 1b lagi.

Dalam penelitian ini, para peneliti tidak lagi memanggil AI secara real-time, tetapi telah menghasilkan jawaban AI terlebih dahulu, memastikan setiap peminta bantuan dapat melihat jawaban lengkap.

Hasilnya terulang, tanpa AI, 44% orang mengatakan "Saya tidak tahu"; dengan AI, hanya tersisa 3%.

Metakognisi

Capraro menyebut fenomena ini sebagai "kegagalan penangguhan verifikasi." (Tertipu oleh AI yang serius, lupa memeriksa apakah premis utama dan berbagai asumsinya benar.)

Akurasi runtuh, kepercayaan diri justru melonjak, uang pun tak bisa menyelamatkan

Selanjutnya, peneliti melanjutkan dengan bertanya: Jika ada konsekuensi untuk jawaban yang salah, apakah orang akan lebih berhati-hati?

Oleh karena itu, Study 2 memperkenalkan aturan hadiah dan hukuman uang.

Dalam putaran ini, terdapat 812 peserta yang dibagi menjadi 4 kelompok: dengan atau tanpa saran AI; dengan atau tanpa insentif atau hukuman uang.

Aturannya, menjawab benar mendapat hadiah 0,1 dolar AS (sekitar 0,73 yuan Tiongkok), menjawab salah dikurangi 0,1 dolar AS, dan jika tidak tahu, tidak dapat hadiah maupun pengurangan.

Secara logis, meskipun jumlah uangnya tidak banyak, tetap ada biaya untuk menjawab salah, jadi orang seharusnya lebih berhati-hati.

Namun hasilnya menunjukkan bahwa uang memang sedikit membantu, tetapi masih jauh dari cukup untuk menyeimbangkan dampak AI:

Tanpa aturan hadiah atau hukuman uang, penggunaan AI dapat menurunkan proporsi "Saya tidak tahu" dari 17% menjadi 1%.

Dengan adanya aturan hadiah dan hukuman uang, penggunaan AI tetap akan menurunkan proporsi ini dari 21% menjadi 2%.

Dengan kata lain: hasil eksperimen menunjukkan bahwa meskipun orang tahu bahwa menjawab salah akan dikenakan denda dan bahwa AI tidak terlalu andal dalam pertanyaan semacam ini, sebagian besar orang tetap memilih mempercayai jawaban AI daripada penilaian mereka sendiri.

Metakognisi

Yang lebih penting adalah akurasi.

Tanpa AI, akurasi sekitar 28%; dengan AI, akurasi hanya tersisa 10%.

Metakognisi

Ini membuktikan bahwa sebagian orang mungkin menyadari bahwa AI mengalami ilusi, tetapi tetap mengambil jawaban yang diberikan oleh AI.

Setelah menerapkan aturan hadiah dan hukuman uang, akurasi meningkat:

Tanpa AI, dari 28% hingga 33%; dengan AI, dari 10% hingga 17%.

Meskipun tingkat akurasi kelompok AI masih jauh lebih rendah daripada kelompok tanpa AI, aturan ini setidaknya memiliki sedikit efek: mengurangi sedikit jumlah permintaan bantuan ke AI:

Data menunjukkan bahwa, dalam kondisi dengan hadiah, rata-rata jumlah kali peserta meminta saran dari AI turun dari 5,44 menjadi 4,93.

Metakognisi

Artinya, uang bisa membuat orang sedikit kurang percaya dan kurang menggunakan AI, tetapi tidak bisa membuat orang benar-benar lepas dari pengaruh saran salah AI, dan sulit untuk mengembalikan orang ke keadaan penilaian yang hati-hati.

Yang paling patut direnungkan adalah kepercayaan diri manusia yang membengkak saat AI memberikan jawaban yang salah:

Tanpa AI dan tanpa aturan hadiah atau penalti uang, kepercayaan rata-rata peserta adalah 29,6%.

Setelah adanya AI, kepercayaan peserta langsung melonjak ke 75,9%; selain itu, pada kondisi dengan aturan insentif finansial, kepercayaan kelompok AI juga mencapai 73,5%.

Untuk ini, ringkasan dalam makalah sangat langsung: AI membuat orang lebih percaya diri, tetapi tidak selalu lebih akurat.

Metakognisi

Metakognisi

Saran AI yang muncul secara otomatis juga bisa menyesatkan orang

AI sedang terintegrasi ke dalam kehidupan sehari-hari dengan kecepatan yang belum pernah terjadi sebelumnya; perubahan yang jelas adalah bahwa banyak saran AI sekarang bukan datang dari permintaan kita, tetapi muncul sendiri.

Skenario paling khas adalah memicu tren teratas.

Dulu, untuk masuk ke sebuah topik, Anda harus mengikuti komentar, laporan media, dan tanggapan pihak terkait satu per satu, sambil menyusun garis waktu dan sekalian menikmati beberapa gosip yang menyimpang.

Sekarang berbeda, saat kamu baru masuk, ringkasan yang dihasilkan AI sudah berada di posisi paling mencolok.

Semua hal yang terjadi, siapa yang mengatakan apa, titik kontroversinya di mana, dan perkembangan selanjutnya telah dirangkum untukmu, bahkan dilengkapi dengan tautan sumber berita.

Memang praktis, tapi agak halus juga....

Semakin jelas ia mengatur informasinya, semakin singkat proses kami sendiri dalam menelusuri latar belakangnya; kesenangan dulu, seperti berkeliling mencari-cari, menilai sendiri, dan menemukan detail tak terduga secara kebetulan, tampaknya juga ikut terkompresi.

Metakognisi

Saat menulis, belum sempat mengetik dua baris, kalimat yang diisi ulang AI atau petunjuk sudah mengikuti kursor.

Metakognisi

Jadi, Study 4 membuat desain yang lebih realistis: tidak lagi meminta peserta memilih apakah akan bertanya kepada AI, tetapi langsung menampilkan saran AI secara otomatis di samping pertanyaan.

Putaran ini memiliki 853 peserta, dan hasil eksperimennya pada dasarnya sama dengan sebelumnya.

Tanpa aturan hadiah atau hukuman uang, kehadiran otomatis AI menurunkan proporsi "Saya tidak tahu" dari 35% menjadi 1%, sedangkan dengan aturan, penurunan dari 39% menjadi 7%.

Akurasi juga tetap terpengaruh: tanpa AI, akurasi sekitar 27%, dengan AI tetapi tanpa insentif, akurasi hanya 7%.

Dengan AI ditambah insentif, akurasi meningkat menjadi 14%.

Metakognisi

Ini menunjukkan bahwa bahkan jika seseorang tidak secara aktif meminta bantuan AI, hanya dengan melihat rekomendasi AI secara pasif, mereka akan sangat terpengaruh.

Ini adalah sinyal yang harus diwaspadai—AI sedang secara diam-diam membentuk ulang kebiasaan penilaian kita.

It is no longer just a tool that responds only when you actively open the chat box, but has become the "standard answer" automatically pushed to you by the system.

  • It may appear at the top of the search page.
  • Muncul di draf email.
  • Muncul di sidebar dokumen.
  • Muncul di perangkat lunak pembelajaran, sistem perkantoran, dan ekstensi browser.

Saat jawaban secara default sudah ada di depan mata, proses penilaian manusia sudah diubah; tetapi yang paling menakutkan adalah kita justru menjadi terbiasa dengannya.

Why is this happening?

Artikel tersebut menggunakan sebuah kata: epistemia (kemalasan kognitif)

Metakognisi

Dapat dipahami bahwa orang akan menerima kredibilitas permukaan jawaban AI karena tampak lancar, lengkap, dan terstruktur, tanpa memverifikasi lebih lanjut.

Model bahasa besar memiliki satu ciri mendasar, yaitu selalu menghasilkan sesuatu. Saat menghadapi pertanyaan yang tidak diketahuinya, ia jarang benar-benar berhenti.

Ini bisa terdengar sangat nyata. Tetapi jika kita benar-benar memilih untuk menyerahkan keputusan kepada sistem semacam ini, kita mungkin akan mewarisi kebiasaan "tidak dihentikan"nya.

Salah satu penjelasan yang diberikan dalam makalah adalah bahwa jawaban yang lancar yang diberikan oleh AI akan menurunkan ambang batas manusia untuk memutuskan "Saya tahu cukup banyak untuk menjawabnya."

Awalnya Anda mungkin berpikir: “Saya tidak tahu soal ini, tidak yakin, biarkan saja… Saya perlu memahaminya dulu baru bisa menjawab.”

Namun, setelah AI memberikan Anda sebuah pernyataan yang tampak sangat pasti, ambang psikologis menjadi, "Karena ia mengatakan demikian, saya juga bisa menjawabnya."

Karena itu, "Saya tidak tahu" dan "proses pencarian" dihilangkan dan diganti dengan "jawaban standar yang salah", dan jawaban yang salah ini justru memberikan Anda tingkat kepercayaan diri yang seharusnya hanya Anda peroleh melalui pencarian dan verifikasi berulang-ulang.

Meskipun salah menjawab harus membayar denda, orang hanya menjadi sedikit lebih waspada, tetapi tidak bisa benar-benar menghilangkan kebiasaan terlalu percaya pada AI, sehingga akhirnya dengan indahnya tersesat.

Metakognisi

Masalahnya bukan hanya bahwa AI bisa salah, tetapi AI bisa mengubah ambang metakognisi kita

Yang benar-benar diingatkan oleh penelitian ini bukanlah "AI mengalami halusinasi", yang sudah tidak lagi baru; melainkan perubahan baru yang perlu diwaspadai: AI akan mengubah cara manusia menangani ketidakpastian.

Di masa lalu, ketika menghadapi masalah yang asing, seseorang mungkin memiliki tiga pilihan:

1. Jika tahu, jawab.

2. Jika tidak tahu, cari tahu.

3. Jika tidak yakin, jangan jawab, jangan membuat penilaian.

Namun, setelah AI ditambahkan, proses menjadi lebih singkat.

1. AI memberikan jawaban.

2. Pengguna menerima jawaban.

Langkah paling penting di tengah, yaitu "apakah saya benar-benar tahu," dilewati tanpa disadari.

Metakognisi

Inilah mengapa penulis makalah menekankan bahwa penelitian mereka bukan melihat "apa yang dijawab oleh AI", melainkan "bagaimana AI membuat orang lebih mudah memutuskan 'saya bisa menjawab'".

Ini lebih dalam daripada sekadar salah menjawab sekali, karena merusak kemampuan metakognitif kita, yang berfungsi sebagai "alarm batin" untuk memantau batas-batas pengetahuan kita, sangat berharga.

Ketika alarm ini gagal, kita kehilangan naluri untuk membedakan "pengetahuan sejati" dari "dugaan yang tampak masuk akal".

Pada saat itu, kita mungkin masih dapat memperoleh jawaban secara efisien melalui AI, tetapi tidak lagi dapat menentukan apakah jawaban-jawaban tersebut benar-benar milik kita sendiri atau benar-benar layak dipercaya.

Sementara itu, yang akan terpengaruh oleh AI bukan lagi satu penilaian spesifik, melainkan fondasi kita sebagai pemikir independen.

Kerugian ini tak terukur.

Anak-anak mungkin lebih berbahaya

Salah satu penulis makalah, Valerio Capraro, mengatakan dalam wawancara: "Saya sangat khawatir tentang anak-anak, karena orang dewasa sudah belajar berpikir kritis. Namun, bagi anak-anak yang sejak lahir tumbuh bersama sistem-sistem ini, risikonya adalah mereka bahkan tidak akan belajar keterampilan kritis dasar."

Di balik kalimat ini tersimpan kekhawatiran yang lebih dalam, yaitu orang dewasa saat ini, setidaknya pernah hidup di dunia tanpa AI.

Jadi, ada kesempatan untuk belajar beberapa kemampuan dasar penilaian sejak kecil melalui mesin pencari, buku, kelas, perdebatan, dan percobaan kesalahan, sebelum mulai menggunakan AI, sehingga dapat membangun perasaan "saya tidak yakin".

Tetapi anak-anak hari ini mungkin tumbuh bersama AI sejak lahir.

Mereka bisa saja secara spontan bertanya kepada AI saat mengerjakan tugas, mencari informasi, menulis artikel, atau memahami konsep.

Jika sejak awal terbiasa menerima jawaban langsung, daripada terlebih dahulu membentuk penilaian sendiri lalu memverifikasi jawabannya, maka risikonya bukan hanya salah menjawab satu soal, tetapi mereka mungkin tidak pernah mendapatkan kesempatan untuk mengembangkan kemampuan berpikir kritis paling dasar.

Metakognisi

Menurut Capraro, menyelesaikan masalah ini tidak bisa hanya mengandalkan perusahaan model memperbaiki bug, tetapi juga harus dimulai dari literasi AI dan kebijakan pendidikan.

Perusahaan model tentu harus diperbaiki, misalnya dengan lebih baik menyampaikan ketidakpastian, mengurangi ilusi, dan mengingatkan pengguna saat bukti tidak mencukupi.

Namun demikian, Capraro juga berpendapat bahwa harapan tidak bisa seluruhnya diletakkan pada perusahaan model.

Solusi yang lebih harapan dan jangka panjang adalah pendidikan.

Terutama pendidikan anak-anak.

Bagi anak-anak hari ini, sangat penting dan perlu untuk sering melatih proses “Saya tidak tahu, tapi saya akan mencari tahu” dan membentuk kebiasaan ini.

Di era AI, yang paling perlu dilindungi adalah kemampuan penilaian kita

Pada akhir eksperimen, para peneliti juga mengakui keterbatasannya: eksperimen hanya menggunakan pertanyaan detail film, apakah berlaku untuk bidang lain masih perlu diverifikasi; insentif yang diberikan kecil, apakah kepentingan yang lebih besar dapat lebih memperbaiki perilaku masih belum jelas.

Namun, data yang ada setidaknya telah memberikan sinyal yang jelas: orang lebih sedikit mengatakan tidak tahu, lebih banyak memberikan jawaban, lebih sedikit menjawab dengan benar, namun lebih percaya diri.

Ini mungkin merupakan salah satu risiko paling tersembunyi di era AI.

AI tidak hanya menipu Anda, tetapi juga membuat Anda lebih sulit menyadari bahwa sebenarnya Anda tidak tahu.

Kesimpulan yang diberikan oleh penelitian ini sangat bijaksana, tetapi juga berat: “Seiring jawaban yang dihasilkan AI menjadi tak terhindarkan dan sering muncul tanpa diminta, penelitian kami menunjukkan bahwa kemampuan manusia untuk dengan tenang mengakui ‘Saya tidak tahu’ dalam interaksi manusia-AI mungkin menjadi salah satu korban pertama dalam interaksi manusia-mesin.”

Ketika sistem AI semakin meluas, kemampuan manusia untuk bertahan tidak tergantung pada seberapa akurat AI menjadi, tetapi pada sejauh mana kita mampu mempertahankan kesadaran diri—secara jelas memahami batasan pengetahuan kita sendiri dan bertindak dengan hati-hati berdasarkan itu.

Metakognisi

Ini bukan berarti AI tidak bisa digunakan, sebaliknya, AI tentu bisa menjadi alat bantu yang kuat;

Tetapi dengan syarat itu harus membantu orang berpikir, bukan menggantikan proses berpikir mereka, kita harus tetap mempertahankan batas penilaian hati-hati kita sendiri.

Cara yang lebih sehat untuk menggunakan AI adalah dengan terlebih dahulu menilai sendiri, belajar secara aktif, baru meminta bantuan AI jika benar-benar tidak mengerti, dan selalu mempertahankan naluri untuk meragukan selama proses permintaan bantuan (termasuk meragukan AI dan menanyai diri sendiri).

Misalnya:

Could it be wrong?

Where is the evidence?

Apakah tautan referensi menghasilkan 404 atau kosong sepenuhnya?

Apakah saya menganggapnya benar hanya karena ucapan itu terdengar lancar?

Ini juga merupakan peringatan bagi produk AI dan pengembangnya—“Kematangan teknologi pada akhirnya akan tercermin dalam rasa takut akan yang tak diketahui.”

Arah evolusi AI masa depan mungkin tidak hanya membuat AI menjawab lebih cepat dan lebih manusiawi, tetapi juga membuat AI belajar untuk lebih jujur mengakui ketidakpastian;

Ketika bukti tidak cukup, masalah bergantung pada detail visual, informasi real-time, atau penilaian profesional, AI seharusnya secara aktif memberi tahu pengguna bahwa jawaban ini tidak dapat diandalkan, bukan berpura-pura tahu segalanya.

Bagi orang biasa seperti dirimu dan diriku yang terbawa oleh gelombang zaman, kemampuan paling berharga mungkin hanyalah melatih kembali untuk mengatakan: "Saya tidak tahu."

Di era di mana AI selalu bisa memberikan jawaban, kalimat "Saya tidak tahu." bukanlah pengakuan ketidaktahuan, melainkan bukti bahwa penilaian masih ada.

Tautan referensi:

[1]https://www.theregister.com/ai-and-ml/2026/07/19/using-ai-makes-people-less-likely-to-admit-they-dont-know-something/5274567

[2]https://arxiv.org/pdf/2607.13562

Artikel ini berasal dari akun WeChat "Quantum Bit", penulis: Wen Ting

Penafian: Informasi pada halaman ini mungkin telah diperoleh dari pihak ketiga dan tidak mencerminkan pandangan atau opini KuCoin. Konten ini disediakan hanya untuk tujuan informasi umum, tanpa representasi atau jaminan apa pun, dan tidak dapat ditafsirkan sebagai saran keuangan atau investasi. KuCoin tidak bertanggung jawab terhadap segala kesalahan atau kelalaian, atau hasil apa pun yang keluar dari penggunaan informasi ini. Berinvestasi di aset digital dapat berisiko. Harap mengevaluasi risiko produk dan toleransi risiko Anda secara cermat berdasarkan situasi keuangan Anda sendiri. Untuk informasi lebih lanjut, silakan lihat Ketentuan Penggunaan dan Pengungkapan Risiko.