Yapay Zeka illüzyonları, insan yargı ve güvenini zayıflatıyor

Yeni bir araştırma, AI illüzyonlarının sadece sizi kandırmakla kalmayıp, özgüveninizi artırıp yargı gücünüzü zayıflatabileceğini ortaya koydu.

Bu iyi değil.

Son zamanlarda, Paris Yüksek Eğitim Enstitüsü, Roma Birinci Üniversitesi ve Milano Bicocca Üniversitesi'nden bir araştırma bulgusu ortaya çıktı:

Yapay zeka olmadan, insanlar daha rahat bir şekilde “Bilmiyorum” der, yargılarını bir kenara bırakır;

Ancak AI ortaya çıktığında, hatalar yapacağını bilseler bile, yanlış cevap vermekten ceza alacağını bilseler bile, çoğu kişi hala verdiği cevabı kabul edip kendi kararları gibi güvenle ifade eder.

Deneysel sonuçlar bu eğilimi net bir şekilde ortaya koydu: AI kullanılmayan ilk deneyde, “Bilmiyorum” diyenlerin oranı %44, doğru cevap oranı %27 idi;

AI destekli kullanım sonrası, bilinmeyen oranı %44'ten %3'e düşerken, doğruluk oranı %27'den %9'a düştü ve özgüven %30'dan %76'ya yükseldi.

Sonraki deneyler, doğru cevaplar için para ödüllendirme ve yanlış cevaplar için para cezası uygulayarak bağımsız karar verme eğilimini teşvik etmeye ve bu eğilimi düzeltmeye çalışmasına rağmen, insanlar hâlâ AI'nın yanlış önerilerine bağlı kalma zorluğunu yaşıyor.

Yani, bilmiyenler gerçekten kaybolmadı, yerlerini yapay zekâ sayesinde kendine güvenen ve yanlış cevaplar veren bir grup aldı.

İlgili araştırma sonuçları şu anda arXiv'de yayınlandı; ekip toplamda 5 deney gerçekleştirdi, katılımcı sayısı 3.132 kişiydi, bunlardan 4'ü önceden kaydedildi, 1'i doğrudan tekrarlanan bir deneydi.

Bu araştırma, "Yapay Zekânın insan yargı kapasitesi üzerindeki etkisi"ne odaklanmaktadır.

Araştırmacı Valerio Capraro, bir röportajda şunları söyledi:

İnsanlar için “Bilmiyorum” demek çok önemlidir, çünkü bu, kendi bilgi sınırlarımızı fark edebildiğimiz anlamına gelir.

Şimdi ise AI sayesinde neredeyse her soruya hemen akıcı bir cevap veriliyor.

Bu durumda soru ortaya çıkıyor: Bu, insanların orijinal yargı yeteneklerini bozacak mı? Yani belirsizlik durumunda hemen sonuç çıkarmadan beklemek?

Bu amaçla araştırma ekibi, büyük dil modellerinin kolayca yanlış cevap vereceği bir dizi soru tasarladı.

Bu bir matematiksel akıl yürütme sorusu değil, genel bilgi sorusu değil, bir filmin görsel detaylarıyla ilgili bir soru.

Örneğin, "Benim Becks'im'de takım üniformasının rengi nedir? "Budapeşte Büyük Oteli"nde Agatha'nın karakteristik saç stili nedir? Veya "Otoyolda Bir Kedi"de Monica hangi aracın sürdüğü vb.

Hatırlıyor musunuz? Ben kesinlikle uzun bir süre kafayı karıştırdım, bu kadar zor olmazdı! Kim hatırlar ki… (omuz silker)

Yapay zeka için de bu soruların cevapları genel metin kaynaklarında bulunmayacak ve model eğitim verilerinde muhtemelen bu görsel detaylar yer almaz.

Araştırmacılar, deneyde kullanılan modeli Step 3.5 Flash test etti ve sonuçlar beklenen şekilde oldu—genellikle yanlış cevap verdi.

Ayrıca, GPT-5.5, Claude Sonnet 4.6 ve Gemini 3.5 Flash dahil olmak üzere daha fazla ileri modeli test ettiler.

Bu öncü modeller, özellikle "Budapeşte Grand Oteli" filminde Agatha'nın karakteristik saç şekli gibi bazı sorularda daha iyi performans gösteriyor: GPT-5.5, Gemini 3.5 Flash ve Claude Sonnet 4.6, doğru yönde cevap veriyor: crown braid, milkmaid braid; yani başın etrafında dolaşan örgü.

△

△

△

Örneğin, "I Love Beckham" filmindeki takım formalarının renkleri de çoğunlukla beyaz, kırmızı gibi anahtar bilgileri yakalayabiliyor.

Ancak daha çok görsel belleğe ve az sayıda çevrimiçi metin kaynağına dayanan sorularda, model kolektif olarak hata yapmaya başlıyor ve her biri kendi tarzında harika bir şekilde hata yapıyor.

En tipik örnek, "Hızlı Yolda Bir Kedi" filminde Monica'nın kullandığı arabadır. Doğru cevap, 2008 model mavi Toyota Aygo'dur.

Ancak GPT-5.5 bunu bir küçük motosiklet olarak tanımladı ve “Onu Roma dış bölgelerinde dolaşmak için kullandı, daha sonra bir pizzacılık açtıktan sonra da bunu pizza teslimatlarında kullandı.” hikayesini ve “Giovanni’nin zengin şehir yaşamıyla karşılaştırıldığında basit, emekçi bir yaşam tarzı” gibi ayarları ekledi.

Mantıklı ve akıllıca görünüyor, ama bu tamamen modelin, sizin bunu akıllıca bulmanız için ciddi ciddi uydurduğu bir şey! (aldatıldınız mı hhh)

Gemini 3.5 Flash, ana olarak otobüs kullanıyor ve kendi arabası yok, çeşitli detaylar daha da yanıltıcı ve fark edilmesi zor (örneğin, Monica'nın genellikle Sergio'nun arabasına binme gibi bir düzenli ayarlaması yok, model dağılmış otobüs kullanma sahnelerini var olmayan bir norma dönüştürüyor):

△

Claude Sonnet 4.6, internet otomobil veritabanına göre 2016 Toyota Auris Touring Sports Hybrid'i üretti:

△

Adım 3.5 Flash, kılık değiştirmeyi bıraktı ve doğrudan 2007 model Fiat 500 dedi (hemen fark ediliyor değil mi!).

Bu cevapların sorunu sadece yanlış olmaları değil, gerçek gibi görünmeleri ve ayırt etmeyi zorlaştırmaları!

Onlar sadece basitçe bilmiyorlar, aynı zamanda "hayali karakterler oluşturarak, sahte olay örgüleri üretip, araç kullanımını tamamlayarak" yanlış cevapları çok tam bir şekilde sunuyorlar ve çok mantıklı gibi görünüyorlar, ancak temel gerçekler yanlıştır.

Bu, AI illüzyonunun en tehlikeli yönüdür—temel gerçekler en önemli nokta olmasına rağmen, akıcı ifadelerle kendi bilgisizliğini ve hatalarını gizleyerek, size her şeyi bildiğini hissettirir.

Deney, Claude, GPT gibi en üst düzey modellerin tümünü seçmeden, daha hafif Step 3.5 Flash ile gerçekleştirildi.

Filmin detaylarına dair altı soru tasarlamak, araştırma tasarımı için çok önemli bir noktadır, çünkü birçok kişi bu tür soruların AI tarafından genellikle yanlış veya güvenilmez şekilde cevaplandığını bilir.

Araştırmacılar, insanların AI'ye kulak vermesinin nedeninin, AI'nın gerçekten güvenilir olması olduğunu ortadan kaldırmak istediğini belirtti.

İnsanlar, bu cevapların AI'nın sıkça yanlış verdiği bilgiler olduğunu bilmesine rağmen yine de AI'nın verdiği cevaplara uysa, sorun sadece "mantıklı yargı dışa aktarımı" değil, "karar verme yetisinin gerçekten AI tarafından bastırılması"dır.

Araştırma toplamda 5 turdan oluşmaktadır.

İlk iki deneme turunda, AI önerilerinin "Bilmiyorum" oranını etkileyip etkilemediğine bakıldı.

Study 1a'da, 314 katılımcı, 6 film detayı sorusuna cevap vermek için iki gruba ayrıldı. (Bir grup AI olmadan, diğer grup AI'ya başvurup başvurmama seçeneğine sahipti.)

Sonuç açık: AI olmadan katılımcıların %36'sı karar vermemeyi tercih etti; AI kullanılabilirken bu oran %6'ya düştü.

Yani, AI'ya sorulabiliyorsa, insanlar açıkça bilmediğini söylemekten kaçınıyor.

Ancak araştırmacılar, Study 1a'da AI aracının yaklaşık %10 isteğinin normal şekilde yanıt vermemesi nedeniyle burada bir teknik müdahale olabileceğinden endişe ediyor.

Bu yüzden onlar Study 1b'yi tekrar yaptılar.

Bu kez araştırmacılar AI'yi gerçek zamanlı olarak çağırmadı, bunun yerine AI cevaplarını önceden oluşturdu ve her bir yardım isteyenin tam cevabı görebilmesini sağladı.

Sonuç tekrarlandı: AI olmadan %44 kişi "Bilmiyorum" dedi; AI ile bu oran %3'e düştü.

Capraro, bu durumu "doğrulama askıya alınıp çöktü" olarak adlandırdı.

Daha sonra araştırmacı şunu sordu: Eğer yanlış cevap vermek bir maliyet getirirse, insanlar daha dikkatli davranır mı?

Bu nedenle Study 2, para ödülleri ve cezaları getirdi.

Bu turda toplam 812 katılımcı, AI önerisi var/yok ve para ödülleri/cezaları var/yok olmak üzere 4 gruba ayrıldı.

Bir soruyu doğru cevapladığınızda 0,1 USD (yaklaşık 0,73 Çin yuanı) ödül alırsınız, yanlış cevapladığınızda 0,1 USD kaybedersiniz, "Bilmiyorum" demeniz durumunda ödül veya ceza uygulanmaz.

Para fazla olmasa da, yanlış cevap vermenin maliyeti olduğu için insanlar daha dikkatli olmalı.

Ancak sonuçlar, paranın biraz yardımcı olduğunu ancak AI etkisini dengelemek için yeterli olmadığını gösterdi:

Para cezası veya ödülleri olmaması durumunda, AI kullanılabilirliği "Bilmiyorum" oranını %17'den %1'e düşürür.

Para ceza ve ödüllü kurallar varken, AI kullanılabilirliği bu oranı %21'den %2'ye düşürmeye devam edecektir.

Yani, deney sonuçları, insanların yanlış cevaplar için para kaybı olacağını ve AI'nın bu tür sorularda pek güvenilir olmadığını bilmesine rağmen, çoğunluğun kendi yargılarından ziyade AI'nın cevaplarına güvendiğini gösteriyor.

Daha önemli olan doğruluk oranıdır.

AI olmadan doğruluk oranı yaklaşık %28; AI ile birlikte doğruluk oranı %10'a düştü.

Bu, bazı insanların AI'nın illüzyonlarını bilmesine rağmen AI'nın verdiği yanıtı benimsediğini kanıtlar.

Para ceza ve ödüllü kuralı getirildikten sonra doğruluk oranı arttı:

AI olmadan %28'den %33'e; AI ile %10'dan %17'ye.

AI grubunun doğruluk oranı hâlâ AI olmayan gruba göre açıkça daha düşük olsa da, bu kural tamamen etkisiz değil; en azından insanların AI'ya başvurma sıklığını biraz azalttı:

Ödül koşulları altında, katılımcıların AI'ya ortalama danışma sayısı 5,44'ten 4,93'e düştü.

Yani para, insanların AI'ye biraz daha az inanmasına ve daha az kullanmasına neden olabilir, ancak insanları AI'nın yanlış önerilerinin etkisinden tamamen kurtaramaz ve onları tekrar dikkatli değerlendirme durumuna geri getirmek zordur.

En derin düşünülmesi gereken, AI'nın yanlış cevap vermesi durumunda insanların artan özgüvenidir:

AI olmadan ve ödül-ceza para kuralları olmadan katılımcıların ortalama güveni %29,6'dır.

Yapay zeka sonrası katılımcıların güveni doğrudan %75,9'a yükseldi; ayrıca para ödüllü ve cezalı kurallarla yapay zeka grubunun güveni %73,5 oldu.

Bu konuda makaledeki özet oldukça doğrudur: Yapay zeka, daha fazla güvence sağlar, ancak mutlaka daha doğru olmayabilir.

Yapay zeka, günlük hayata önceki hiç olmadığı kadar hızlı bir şekilde entegre oluyor; belirgin bir değişim, birçok yapay zeka önerisinin artık bizim sormamıza gerek kalmadan kendiliğinden ortaya çıkması.

En tipik senaryo, trendleri taramaktır.

Daha önce bir konuya tıkladığınızda, yorumlar bölümünü, medya haberlerini ve ilgili kişilerin yanıtlarını tek tek takip edip, zaman çizelgesini kendiniz birleştirmek zorunda kalırdınız, arada birkaç tane sapma olan haber de yiyordunuz.

Şimdi farklı, hemen girdiğinizde AI tarafından oluşturulan özet en belirgin yerde yer alıyor.

Ne olduğunu, kimin ne söylediğini, tartışmaların nerede olduğunu ve sonraki gelişmeler nasıl ilerledi, hepsini sizin için düzenledik ve hatta haber kaynaklarının bağlantılarını ekledik.

Gerçekten kolay, ama biraz ince...

Bilgileri ne kadar net düzenlersek, kendi başımıza olayın arka planını keşfetme süremiz o kadar kısalır; eskiden yaptığımlar gibi her yere bakıp, kendi kararlar verip, rastgele detayları keşfetmenin eğlencesi de birlikte yok oluyor gibi görünüyor.

Yazarken iki satır bile yazmadan, AI tamamlama cümleleri veya ipuçları imlecin arkasında geliyor.

Bu nedenle Study 4, katılımcıların AI'ye sorup soramayacaklarını seçmesi yerine, AI önerilerini soruların yanına otomatik olarak gösteren daha gerçekçi bir tasarım yaptı.

Bu turda 853 katılımcı vardı ve deney sonuçları öncekilerle neredeyse aynıydı.

Para ceza ödül kuralı olmadığında, AI'nın otomatik ortaya çıkması "Bilmiyorum" oranını %35'ten %1'e düşürüyor, kural olduğunda ise %39'dan %7'ye düşürüyor.

Doğruluk oranı hâlâ etkileniyor: AI olmadan doğruluk oranı yaklaşık %27, AI varken ama teşvik yokken doğruluk oranı sadece %7.

Yapay zeka ve teşviklerle birlikte doğruluk oranı %14'e yükseldi.

Bu, insanların aktif olarak AI'ya başvurmasa bile, AI önerilerini pasif olarak görürken bile güçlü şekilde etkilenebileceğini gösterir.

Dikkat edilmesi gereken bir sinyal—AI, yargı alışkanlıklarımızı sessizce yeniden şekillendiriyor.

Artık sadece senin sohbet kutusunu açmanla karşılık veren bir araç değil, sistemin senin için varsayılan olarak sunduğu “standart cevap” haline geldi.

• Arama sayfasının üstünde görünebilir.
• E-posta taslağında görünüyor.
• Belge kenar çubuğunda görünüyor.
• Öğrenme yazılımlarında, ofis sistemlerinde ve tarayıcı eklentilerinde yer alır.

Cevap baştan itibaren açık olunca, insanın karar verme süreci zaten değiştirilmiş olur; ama en korkunç olan, bununla başa çıkmaya başlamış olmamızdır.

Makalede bir terim kullanıldı: epistemia (bilgisel yorgunluk)

İnsanlar, AI cevaplarının akıcı, tam ve düzenli görünmesi nedeniyle yüzeyel güvenilirliğini kabul eder ve daha fazla doğrulama yapmaz.

Büyük dil modellerinin temel bir özelliği, her zaman bir şey üretmeleridir. Bilmedikleri sorular karşısında nadiren gerçekten dururlar.

Bu, gerçektenymiş gibi görünebilir. Ancak eğer gerçekten bu tür bir sisteme karar verme yetkisini verirsek, “durmadan devam etme” alışkanlığını miras alabiliriz.

Makalede sunulan bir açıklama, "Yapay zekânın akıcı cevapları, insanın 'Yeterince şey biliyorum, cevap verebilirim' kararını verme eşiğini düşürür." şeklindedir.

Aslında şöyle düşünebilirdiniz: “Bu soruyu bilmiyorum, emin değilim, tamam… Cevap verebilmek için anlamalıyım.”

Ancak AI size oldukça emin görünen bir cümle verdikten sonra, psikolojik engel “Eğer o böyle dediyse, ben de cevap verebilirim.” hâline gelir.

Bu nedenle, “Bilmiyorum” ve “araştırma süreci” kaldırılarak yerine “standart ama yanlış bir cevap” konuldu ve bu yanlış cevap, tekrarlı araştırma ve doğrulama yoluyla elde edilmesi gereken yüksek güven duygusunu size verdi.

Yanlış cevap vermek para cezası getirse bile, insanlar sadece biraz daha dikkatli olur, AI'ya aşırı güvenme alışkanlıklarını tamamen değiştiremezler ve sonuç olarak güzel bir şekilde sapılır.

Bu araştırma bize gerçekten hatırlattığı şey, “AI aldatma yapar” değil, bu konu zaten eski; bunun yerine dikkat edilmesi gereken yeni bir değişim: AI, insanların belirsizlikle nasıl başa çıktığını değiştirebilir.

Geçmişte, insanlar bir yabancı sorunla karşılaştığında üç seçenek sahibi olabilirdi:

Biliyorsan cevap ver.

2. Bilmiyorsan ara.

3. Emin değilSENİZ cevap vermeyin, yargıda bulunmayın.

Ancak AI'nın katılmasıyla süreç kısaldı.

1. AI cevap veriyor.

2. Kullanıcı cevabı kabul eder.

En önemli adım olan “Aslında neyi biliyorum” farkında olmadan atlandı.

Bu da neden yazarların çalışmasının, "Yapay zekânın insanlara ne cevap verdiğini" değil, "Yapay zekânın insanlara 'cevap verebilirim' kararını vermesini kolaylaştırdığını" vurguladığını açıklar.

Bu, tek bir yanlış cevap vermekten daha derin bir etkiye sahiptir, çünkü kendi bilgi sınırlarımızı izleyen, çok değerli olan meta-bilgi yeteneğimizi zayıflatır.

Bu alarm arızalandığında, "gerçek bilgi" ile "görünüşte akılcı tahminler" arasındaki ayrımı yapma yetimizi kaybederiz.

O zaman, hala AI aracılığıyla etkili bir şekilde cevaplar alabilecek olsak da, bu cevapların gerçekten kendi bizim olup olmadığını veya gerçekten güvenilir olup olmadığını artık belirleyemeyeceğiz.

Aynı zamanda, AI tarafından sapıtlanan, tek bir karar değil, bağımsız düşünme yetimizin temeli olacak.

Bu kayıp ölçülemez.

Röportajda makalenin yazarlarından biri Valerio Capraro, “Yetişkinler zaten eleştirel düşünmeyi öğrendi, ancak bu sistemlerle doğan çocuklar için endişem, temel eleştirel becerileri öğrenememeleri.” dedi.

Bu ifadenin ardında, günümüz yetişkinlerinin en azından AI olmadan bir dünyada yaşamış olma endişesi yatıyor.

Bu nedenle, AI kullanmaya başlamadan önce arama motorları, kitaplar, dersler, tartışmalar ve deneme-yanılma yoluyla temel yargı becerilerini kazanmak, “eminsizim” hissini geliştirmenize olanak tanır.

Ancak bugünün çocukları, belki de doğdukları anda bu AI'larla birlikte büyüyor.

Ödevlerini yapar, kaynak araştırır, makale yazar, kavramları anlarken AI'ya kolayca sorabilirler.

Eğer baştan sona doğru cevabı doğrudan almak alışkanlığı kazanılırsa, kendi yargılarını oluşturup cevabı doğrulamadan, risk sadece bir soruyu yanlış cevaplamakla kalmaz, aynı zamanda en temel eleştirel düşünme becerilerini geliştirmeleri için fırsat bulamayabilirler.

Capraro'a göre, bu sorunu çözmek için model şirketlerinin hataları düzeltmesi yeterli değil; AI bilinci ve eğitim politikalarına da odaklanmak gerekir.

Model şirketleri, belirsizliği daha iyi ifade etmeli, illüzyonları azaltmalı ve kanıt yetersiz olduğunda kullanıcıları uyarmalıdır.

Ancak Capraro, umutların tamamen model şirketlerine bağlanamayacağını da düşünüyor.

Daha umut verici ve daha uzun vadeli çözüm, eğitimdir.

Özellikle çocuk eğitimi.

Bugünün çocukları için "Bilmiyorum, ama anlayacağım" sürecini sıkça uygulamak ve bu alışkanlığı geliştirmek çok önemli ve gerekli.

Deneyin sonunda araştırmacılar, deneyin yalnızca film detay sorularını kullandığını ve diğer alanlara uygulanabilirliğinin doğrulanması gerektiğini itiraf etti; teşvik miktarının düşük olduğunu ve daha büyük bir çıkarın davranışları daha fazla düzeltebileceğinin belirsiz olduğunu belirtti.

Ancak mevcut veriler en azından net bir sinyal veriyor: İnsanlar daha az “bilmiyorum” diyor, daha fazla cevap veriyor, daha az doğru cevap veriyor ama daha fazla emin.

Bu, AI çağının en gizli risklerinden biri olabilir.

Yapay zeka sizi yanılttı ve aynı zamanda aslında bir şey bilmediğinizi fark etmenizi daha zor hale getirdi.

Bu araştırmanın sonunda verilen değerlendirme sert ama ölçülüdür: "AI tarafından üretilen cevaplar her yerde ve sıklıkla istenmeden ortaya çıktıkça, insan-AI etkileşiminde insanların 'Bilmiyorum' demekte özgür olma yeteneği, insan-makine etkileşiminin erken kurbanlarından biri olabilir."

Yapay zeka sistemleri giderek daha yaygın hale geldikçe, insanın yargı gücünün ayakta kalabilmesi, AI’yi daha doğru hale getirmekten ziyade, kendi bilgi sınırlarımızı farkında olup bunlara göre dikkatli davranabilmemizde yatıyor olabilir.

Bu, AI'nın kullanılamayacağı anlamına gelmiyor, tam tersine, AI kesinlikle güçlü bir yardımcı araç olabilir;

Ancak bunun insanları düşünmeye yardımcı olması, düşünmeyi atlamaları için değil, dikkatli yargılarımızın alt sınırını korumamız gerektiğini unutmamalıyız.

Daha sağlıklı bir AI kullanımı, önce kendi kendine değerlendirme yapmak, aktif olarak öğrenmek, gerçekten anlayamadığınızda AI'ye başvurmak ve bu süreçte AI'yi sorgulama ve kendi kendinizi sorgulama eğilimini korumaktır.

Örneğin:

Bu yanlış olabilir mi?

Evidans nerede?

Referans bağlantısı 404 mü, tamamen boş mu?

Çok akıcı olduğu için onun doğru olduğunu mu düşündüm?

Yapay zeka ürünleri ve geliştiricileri için bu aynı zamanda bir uyarıdır—“Teknolojinin olgunluğu, bilinmeyene olan saygıyla ortaya çıkacaktır.”

Gelecekteki AI gelişiminin yönü, AI'nın daha hızlı ve daha insani cevaplar vermesinden ziyade, belirsizliklerini daha dürüstçe ortaya koymayı öğrenmesi olabilir;

Yeterli kanıt yoksa, sorun görsel detaylara, gerçek zamanlı bilgilere veya uzmanlık gerektiriyorsa, AI, cevabın güvenilir olmadığını itiraf etmelidir, değil de her şeyi bildiğini göstermelidir.

Zamanın dalgasıyla ileri doğru koşan, sen ve ben gibi sıradan insanlar için en değerli yetenek, belki de “Bilmiyorum” demeyi yeniden öğrenmektir.

Bu AI'nın her zaman cevap verebildiği dönemde, "Bilmiyorum." demek bilgisizliğin itirafı değil, hâlâ yargı gücünüzün var olduğunun kanıtıdır.

Referans bağlantısı:

[1]https://www.theregister.com/ai-and-ml/2026/07/19/using-ai-makes-people-less-likely-to-admit-they-dont-know-something/5274567

[2]https://arxiv.org/pdf/2607.13562

Bu yazı, WeChat hesabının "Quantum Bit" adlı grubundan gelmektedir; yazar: Wen Ting