Herkes AI'nın hata yapacağını biliyor, ancak denetim iyi bir yöntem olmayabilir.Yazan: AIBase
The Washington Post'un yakın zamanda derlediği bir dizi araştırma, AI'nın hafızaya verdiği zararı odak ışıklarının altına aldı. Massachusetts Institute of Technology Medya Laboratuvarı profesörü Patty Meis, ekibiyle birlikte 200 katılımcıya 24 günlük fotoğrafı gösterdi — düğünler, sokak manzaraları, koşular.
Bir ara verildikten sonra, bazıları orijinal resmi tekrar gördü, diğerleri ise AI tarafından değiştirilmiş versiyonları gördü: yüz ifadeleri değiştirildi, sahneye askerler zorla eklendi ya da iklim değişikliği sahneleri boş yere eklendi. Sonraki hafıza testi, Mes'in kendisini şaşırttı: değiştirilmiş resimleri görenlerin yanlış hafıza oluşturma olasılığı büyük ölçüde arttı; daha korkutucu olan ise, bu sahte hafızalara karşı daha fazla inanç geliştirmeleriydi. "Bu tümüyle çok tehlikeli," dedi o.
Bu tür olaylar izole değildir. Siyasi olaylar, cezai davalar ve hatta yeni filmlere yönelik bilimsel deneyler, AI tarafından oluşturulan görsellerin ve diyalogların, asla gerçekleşmemiş detayları zihne sabitleyip, insanların hayali sahneleri "hatırladığına" dair kesinlikle inanmalarına neden olduğunu göstermektedir. Kimi insanlar Will Smith'in başrolde olduğu bir "Matrix" yeniden yapımını "gördüğünü" hatırlıyor, kimi insanlar ise asla gerçekleşmemiş bir siyasi skandalı "hatırlıyor". Bir suç videosu izlendikten sonra, AI sohbet robotu tarafından sorgulanan deneklerde, kontrol grubuna kıyasla sahte hafıza sayısı üç kat daha fazla olmuştur.
Yetenekler dışa aktarılıyor, hafıza ve zihinsel kapasite aynı anda azalıyor
"Yanlış hatırlamak"tan daha gizli olan, "hatırlamak istememek"tir. Meis'in hâlâ incelemede olan başka bir deneyinde, 54 katılımcı SAT tarzı bir essay yazdı: bir grup tamamen el yazısıyla, bir grup Google ile, bir grup ise ChatGPT ile; aynı anda kafa derisindeki elektrotlar beyin aktivitesini kaydediyordu. Sonuçlar çok açık oldu—bağımsız yazanların beyin bölgeleri arasındaki bağlantılar en güçlü ve en genişken, ChatGPT kullananlarınkiler en zayıftı; ardından katılımcılara kendi yazılarını anlatmaları istendiğinde, AI'ya bağımlı olanlar neredeyse ne yazdıklarını hatırlayamadı. Hafıza, dikkat, öznel çaba ve bilgi çıkarma ile birlikte güçlenir; üretken AI ise tam olarak bu zihinsel çabayı ortadan kaldırır.
Pennsylvania Üniversitesi Wharton Okulu'ndan Naft ve Londra Kraliyet Koleji'nden Xiao, bu eğilimi "beceri bozulması" olarak adlandırıyor: İnsanlar, makinelerin yerine geçebilen yetenekleri kullanmayı yavaş yavaş bırakıyor ve "düşünmek bir tercih haline geliyor". Kanıtlar mesleki alanlarda ortaya çıkmıştır—2025 yılında The Lancet dergisinde yayınlanan bir çalışma, 19 deneyimli doktorun yaklaşık 1.500 kolonoskopisi gözlemleyerek, AI'nın yaygın kullanımının ardından bu doktorların bağımsız olarak ön kanser lezyonlarını tespit etme yeteneğinin yaklaşık %20 oranında düştüğünü göstermiştir. Çocuklarla ilgili endişeler daha temel düzeydedir: Temel bilişsel yetenekler henüz gelişmemişken, zihinsel çabayı dışa aktarabilirler ve kritik düşünme becerisini baştan itibaren geliştiremeyebilirler.
İsveç'in Malmö kentinde düzenlenen Yapay Zeka Etikleri Konferansı'nda akademisyenler, yapay zekânın hafızaya müdahalesinin sonuçları nelerdir diye sürekli sordu. Georgetown Üniversitesi'nden Sim, 331 kişilik bir deneyde bir çarpmayı gösteren bir animasyon yaptı; bir grup doğru AI özeti okudu, diğer grup ise намızi olarak yanlış etiketlenmiş bir özeti okudu. Doğru cevap oranları sırasıyla yaklaşık %84 ve %45 oldu—hatta "Bu bir AI tarafından yazıldı" uyarısı önceden verilse bile, yanıltma etkili oldu. Sim, korkunç bir paradoksu ortaya koydu: Makine hatalarını telafi etmek için "insan kontrolü"ne güveniyoruz, ancak AI, insanın yargılamak için kullandığı hafızayı önceden değiştirdi; bu koruma hattı kökten çökebilir. "Herkes AI'nın hata yapacağını biliyor, ancak denetim belki de iyi bir çözüm değil." Şirketler, yapay zekayı polis cihazlarına ve hastane kayıtlarına entegre etmeye çabalarken, bu uyarı tam zamanında geldi.