Eğer yapay zeka aniden sizi suçlu ilan eder ve herkes onun kararına körü körüne inanırsa, nasıl masumiyetinizi kanıtlayabilirsiniz?
Bu, film "Minority Report"’de suçların önceden tahmin edilip masum kişilerin suçlanmasının sahnesi gibi geliyor, ancak soyut olarak, gerçek hayatta daha da sade bir versiyon zaten yaşanıyor:
Yapay zeka suçluyu yanlış tanımladı ve masum bir hanımın altı ay hapse girmesiyle hayatı neredeyse sıfıra indi.
Birinci: Polis, "Süper Hızlı"yı tutukladı mı?
Amerika Birleşik Devletleri Tennessee eyaletinden Angela Lipps, bu kaderli hanımefendidir. Temmuz 2025'te, tamamen silahlı bir polis ekipleri, onun sıradan hayatını aniden bozdu ve silahlarıyla onu tehdit ederek tutuklandığını söyledi.
O anda biraz şaşkındı, çünkü ne yaptığını tam olarak bilmiyordu. Polis, kuzey dakota'daki bir banka dolandırıcılığı davasına karıştığından şüphelendiklerini söyledi ve bu durum kanıtlarla destekleniyor gibi görünüyordu; ayrıca 5 yıldızlı arama emri verilmişti. Ancak bu gerekçeyi duyduktan sonra orada donakalmıştı:
Ama ben bu hayatım boyunca o eyaleti ziyaret etmedim.
Haritada, ABD'nin Tennessee eyaleti ile Kuzey Dakota eyaleti arasında gerçekten uzaklık bulunuyor ve onu şüpheliyle bağlayan şey AI.
Polis onu tutukladığında savunmasını otomatik olarak engelledi; olayın ayrıntılarını sadece hapishaneye girdikten sonra öğrendi. Kuzey Dakota eyaletinin Fargo şehrindeki polis, bir dolandırıcılık davasını araştırıyor; şüpheli, bankadan birkaç on bin doları sahte askeri kimlik kullanarak aldığında, polis araştırması önce kamera kayıtlarını incelemek, ardından AI'ya sormak ve son olarak tutuklamak şeklinde ilerledi.
Belki de Sherlock Holmes'u AI ile işlemiş, ardından titiz mantıksal çıkarımlarla davayı çözen bir dedektife dönüşmüş gibi düşünüyorsunuz, ancak bu o kadar "karmaşık" değil. Polis, AI sistemini kullanarak gözetim kameralarının ekran görüntülerindeki yüzleri tanımladı ve ardından şüphelileri bir kütüphane içinde filtreledi.
Bu kez AI, Angela Lipps'in fotoğrafını yanlış eşleştirdi. Bu bilgi, soruşturma yapan polis merkezine iletildi ve görevliler daha büyük bir hata yaptı; onun sürüş lisansını ve sosyal medya hesaplarını elle kontrol ettikten sonra, yüz özellikleri, vücut yapısı ve saç stili benzerliği nedeniyle onu şüpheli olarak belirledi.
Resim GoFundMe'den alınmıştır
Kardeş, dinledikten sonra tamamen çöktü, başka ipuçlarını daha fazla araştırmadı, belki benzer bir yüzle karşılaşabilirdi? Ancak daha büyük bir çöküş daha vardı: bir dizi hareket sonucunda, masumiyetini kanıtlayacak bir şansı olmadı.
Yerel prosedürlere göre, o doğrudan Kuzey Dakota'ya götürülerek daha fazla soruşturma yapılmadı, bunun yerine Tennessee'deki yerel hapishanede bekledi. "Devletler arası kaçak" olarak sınıflandırıldığı için tutuklu kalındı, kefalet verilemedi ve polisle sorgulanma fırsatı elde edemedi; böylece 108 gün boyunca, Temmuz'da hapise girdiğinden Ekim sonuna kadar mahkûm edildi. Bu süre içinde ne kadar umutsuzluğa uğradığını hayal etmek zor.
Angela Lipps, 30 Ekim'e kadar bekledi ve nihayet polisler tarafından hapishaneden çıkarılarak Kuzey Dakota'ya nakledilmeye hazır hale geldi; o dönemde birçok suçlamayla karşı karşıyaydı ve seyahat sırasında hem elinde manşetler, hem de belinde zincirler vardı; havaalanını geçerken halka gösteri gibi hissetti.
Ve bu aslında hayatında ilk kez uçakla seyahat etmesiydi.
Beklentisinin aksine, Kuzey Dakota'ya vardığında hâlâ beklemeye devam etmek zorunda kaldı. Aralık ayına kadar bu olayı açıklayabileceğinin resmi bir fırsatı olmadı; avukatı, olayın yaşandığı anda onun 1900 kilometre uzaklıkta olan Tennessee'de pizzayı satın aldığını göstermek için banka kayıtlarını doğruladı; bu da onun "Hızlı Öküz" olmadıkça zaman ve mekân arasında hareket edemeyeceğini anlamına geliyordu.
Tamamen 5 dakika içinde avukat, bu olayı onun için açıklayabildi.
24 Aralık'ta suçlamaları nihayet kaldırıldı, ancak o, "kesim hattının" bileğine ulaşmış olmasından dolayı neşeli olamadı.
Angela Lipps, 50. yaş günlerini tümüyle hapishanede geçirdi; hapishanede diş protezi takmak yasaktı, bu nedenle sadece çöp gıdalar yiyordu ve zihinsel stres altında kalınca ağırlığı hızla arttı. Hapishaneye girdiğinde yazlık kıyafetler giyiyordu, ancak dışarı çıktığında kış aylarıydı ve kalın bir ceket bile yoktu; ısıtma bile sorun oluşturuyordu, daha doğrusu eve dönmek imkânsızdı. O dönemde polis ona yol parası bile vermedi; serbest bırakıldığında, yapay zekânın ona yanlışlıkla suç yüklediği o gün gibi, Kuzey Dakota'da mahsur kaldı.
Ancak iyi ki iyi niyetli biri ona elini uzattı.
Avukatı, ona konaklama için bir otel ayarladı ve en zor anları geçirmesi için biraz yiyecek sağladı, yerel kâr amacı gütmeyen kuruluş ona yardım etti ve onu Tennessee'ye eve geri gönderdi.
Ancak eve döndükten sonra yaşamı yeniden başlatmak da cehennem gibi zordu. Hapis süresi boyunca ekonomik durumu patladı, kiraladığı evi kaybetti, evdeki köpeği kaybetti, hatta arabası ve arabanın içindeki eşyaları da kaybetti. Kişisel eşyaları bir depoda geçici olarak saklanmıştı, ancak daha sonra kira ödeyememesi nedeniyle tüm yaşam eşyaları temizlendi. Hatta komşuları onun tutuklandığını ve “altı ay boyunca kaybolduğunu” gördüğünden, gerçekten bir suç işlediğini düşündüler.
Aynı zamanda, bu absürt deneyimi hızla ağda yayıldı ve birçok kişinin tepkisini çekti. Örneğin, birçok kişi ABD'de bazı insanların "0 dolarla alışveriş yapabildiğini" ama sadece bir kapitalistin bankasına dokunulduğunda, hatta bunu yapmayanlar bile hemen tutuklanabileceğini ifade etti.
Olayın çok büyük bir boyut kazanması nedeniyle, onun son durumu yeniden bir dönüm noktası yaşadı ve daha fazla yardım aldı; şu anda 80.000 dolarlık bir bağış topladı ve bu miktar, yaşamını yeniden başlatmak için tamamen yeterli.
Ancak şu anda网民in en büyük beklentisi, onun bir avukat ekibi bulup onları büyük bir dava ile yargılaması ve muhtemelen davayı kazanarak başka bir tazminat almasıdır.
Bu, polisin rastlantısal bir hatası değil; daha önce zaten bir dizi masumiyet davası meydana gelmişti, bazı insanların deneyimleri onunkinden daha kötüydü.
İkinci: Yapay zekânın "hataları" nedeniyle ortaya çıkan korkutucu bilim kurgu anları
Angela Lipps'in deneyimi aslında farklı bölgelerde onlarca kez yaşanmış, hatta diğer ülkelerde de gerçekleşmiştir.
Örneğin Robert Williams, bu tür olayların erken kurbanlarından biriydi; 2020 yılında polis, eşinin ve kızının önünde onu tutukladı ve 30 saat boyunca tutuklu tuttu, ancak gerçek suçluyla kıyaslandığında 20 santim daha uzundu.
Diğer Chris Gatlin de en kötü şanslı kişilerden biri; AI, bulanık güvenlik kamerası görüntülerine dayanarak onu bir metroda saldırı olayının olası şüphelisi olarak eşleştirdi ve böylece 17 ay boyunca tutuklu tutuldu, şu ana kadar tutuklu kalan en uzun süreli masum kişi oldu. Şaşırtıcı olan ise, sonunda soruşturma ekiplerinin, kritik bir kanıt olarak kullanılabilen bir polis kamerası kaydının daha olduğunu fark etmeleriydi; ancak bu kayıttaki şüpheli, onunla hiçbir şekilde örtüşmüyordu.
2023 yılında Porcha Woodruff da aynı durumla karşılaştı, polis onu araç hırsızlığı suçlamasıyla tutukladı. Olayı duyduğunda hemen gülmeye başladı, polisin şaka yaptığını düşündü çünkü o zamanlar sekiz aylık hamileydi ve fiziksel olarak bir eylem gerçekleştirecek görünümde değildi. Ancak onu onlarca saat boyunca tutukladılar ve daha sonra dava açtı ancak kaybetti.
Geçen yıl İngiltere'de Alvi Choudhury adlı bir genç de benzer bir durumdan dolayı tutuklandı; "ev hırsızlığı" şüphesiyle tutuklanmıştı, ancak kanıtlara göre olay "uzaktan" gerçekleşmişti ve bu sahne filmlerde de yer almıştı. AI, 2021 yılında tutuklanma anından alınan fotoğrafını tanıdı; polis gerçek kişiyi görünce güldü, çünkü adam şüpheliye göre en az 10 yıl daha yaşlı görünüyordu.
Resim, "Mind Meld" filminden alınmıştır.
2022 yılında Hintli tüccar Praveen Kumar, İsviçre'ye giderken Abu Dhabi'de geçiş yaparken bir aranıyor olarak AI tarafından eşleştirildi. Yerel yetkililer tarafından uzun süre sorgulandı ve nihayet suçlu olmadığı anlaşıldıktan sonra Hindistan'a iade edildi; ancak Hindistan havaalanında iki kez daha tutuklandı.
Bu tür olaylarda en abartılısı, Rus bilim insanı Alexander Tsvetkov'un yaşadığı olaydır; AI, onun katil gibi göründüğünü söylemiş ve 10 ay boyunca tutuklanmıştır.
Bu bilim insanı, AI ile insanın çift suçlamasına uğramıştır. 2023 Şubat'ta bilimsel araştırmasını tamamlayıp Rusya'ya döndüğünde, uçaktan iner inmez tutuklanmıştır. Nedeni, AI'nın onun, yirmi yıl öncesindeki bir seri katil davasındaki şüphelinin resmiyle %55 benzerlik gösterdiğini belirtmesiydi; aynı zamanda bu davada, cezasını hafifletmek amacıyla onu suçlamak için sahte tanık ifadesi veren bir itirafçı vardı. Acı verici olan, polisin bunu dikkatlice araştırmadan doğrudan tutuklama yapmasıydı.
Hapishaneye alındığında başta küçük bir yanlış anlama olduğunu düşündü, ancak soruşturma uzun süre sona ermedi ve büyük psikolojik baskı ile sağlık sorunları altında bir süre suçlu itiraf etmek zorunda kaldı, ardından itirafını geri çekti. İyi ki eşİ ve araştırma ekibi, olay yılının o sırada dışarıda araştırma yaptığını kanıtlamak için sayısız belge aradı. Medyanın haber vermesiyle olay geniş kitlelerce tartışıldı ve olay Aralık ayında bir dönüşüm yaşadı, suçlamalar Şubat 2024'te resmen kaldırıldı.
Yukarıdaki türdeki olaylar, AI'nın gelişmesiyle giderek daha sık gerçekleşiyor ve görünüşe göre AI "yönlendiriyor", bazı insanlar ise uygulayıcı makineler haline geliyor.
Üçüncü: "Yapay Zeka Karar Veriyor" Hastalığı
"Rol değiştirme" soyut hissi, hem AI'nın hem de insanların hata yapmasından kaynaklanır; en güçlü AI bile hata yapar, insanlar ise her zaman "tembellik" yapar.
Amerika'nın Clearview AI sistemini örnek verelim; makalenin başındaki kadın, tam olarak bu sistem sayesinde hapse girdi, ancak bu bir sıradan bir yazılım değil. Clearview AI, dünyanın en büyük resim veritabanına sahip olduğunu iddia ediyor ve birçok ülkenin cezalarına rağmen milyarlarca resim topluyor. ABD'de 3.000'den fazla uygulama kurumu bu sistemi kullanıyor ve geçen yıl ICE ile 9,2 milyon dolarlık bir sözleşme imzaladı.
Basitçe söylemek gerekirse, Clearview AI bir "yüz arama motorudur"; kullanırken bir resim yüklersiniz, veritabanında eşleşme bulur ve bir dizi benzer resim sunar; sonunda aradığınız kişinin gerçekten o olup olmadığını sizin belirlemeniz gerekir.
Bu yıllar boyunca yapay zekânın ilerlemesi hızla devam etse de, "doğruluk oranı" hâlâ tartışmalı kalıyor, çünkü deney testlerinde kullanılan veriler ile gerçek hayatta resim arama sırasında karşılaşılan durumlar arasında her zaman farklılıklar bulunuyor.
Örneğin, çoğu zaman polis tarafından elde edilen güvenlik kamerası görüntülerinin kalitesi sabit telefonla çekilmiş gibi olur ve bunlara garip ışıklandırma, zorlu açılar, yüz üzerindeki engeller gibi faktörler de eklenince tanıma zorluğu gerçekten oldukça yüksektir; kütüphane içindeki görüntüler eski olabilir ve eşleşme sonucu sadece iki kişinin benzer görünmesiyle açıklanabilir.
Bu hatalar insanlara uygulandığında, doğal olarak acı çekilecektir.
Bu karga mı, kedi mi?
Eğer sadece AI'nın ara sıra hata yapmasıysa, bu hatalar sadece "ipuçları" olduğundan ve sonraki "sonuçlar" insan tarafından denetleneceğinden kurtulma şansı hâlâ var, ancak birçok durumda insanlar AI'dan daha "şok edici" oluyor.
Aslında birkaç yıl önce, Amerikan polisinin AI'nın yönlendirmesiyle hareket ettiği ve "otomasyon önyargısı" adı verilen psikolojik duruma girdiği eleştiriliyordu. AI, bu iki kişinin eşleştiğini söylediğinde, insanlar bunu doğruluyordu; boy uyumsuzluğu benim sorunum değil, alibi var ama benim görevim sadece tutuklamak, diğer tüm kanıtları hapishaneye anlatın, temel soruşturma adımlarını atlayarak aynı zamanda başkalarının hayatlarını da atlıyorsunuz.
Aslında insanlar, AI'nın eksikliklerini çok iyi biliyor; ABD polisi birçok para ödemesinden sonra birçok bölge, suç çözme sürecinde AI ipuçlarının yanı sıra bağımsız kanıtların da zorunlu olmasını gerektiren “güvenlik hatları” kurdu ve bazı bölgelerde bu tür AI teknolojilerinin suç çözme amaçlı kullanımını tamamen yasakladı.
Ancak bu kısıtlamalar, yapay zekânın gerçekten çok kullanışlı olmasından kurtulamıyor. Bir olasılıkla başarısız olabilse de, başarı oranının daha yüksek olduğu açıktır. Bazen polis, yıllarca çaba harcayarak elde ettiği ipuçları, sadece bir “kilit” seviyesindeki güvenlik kamerası fotoğrafıdır ve büyük olasılıkla yapay zekâyla şanslarını denemek isterler. 2023'te, ABD polisinin Clearview AI ile milyonlarca arama yaptığı rapor edildi; hatta daha sonra açıkça kullanımının yasaklanmasına rağmen gizlice kullanmaya devam ettiler. Kullanıldığında kullanılmadığını iddia edebiliyorlardı; bir yazılım yasaklandığında başka biriyle değiştirdiler, yerel düzeyde yasaklandığında başka bir kuruma yardım ettirmek için başvurdular — tamamen bağımlı hale gelmişlerdi.
Bu yüzden, bir yapay zeka önce güvenilmez bir ipucu verir, ardından insanlar araştırmayı atlamak için tembellik eder, Longfeng Çifti birlikte hareket eder ve hatalı bir mahkûmiyet doğar.
Brezilya'nın Smart Sampa sistemi de son iki yıldır benzer sorunlarla karşı karşıya kalıyor. 2024'te Brezilya'nın São Paulo şehrinde Latin Amerika'nın en büyük AI yüz tanıma polis sistemi başlatıldı ve yaklaşık 40.000 kamera ile entegre edildi.
İyi haber, etki gerçekten çarpıcı: son birkaç yıl içinde yaklaşık dört bin suçlu sahada tutuklandı ve üç binden fazla kaçak yakalandı; soygun olayları 2025 yılında yaklaşık %15 azaldı, bu tamamen bir “hırsız yakalama hattı” olarak adlandırılabilir.
Kötü haber, en az 59 kişi yanlış tanımlandı.
Arasında soyut olaylar da bulunuyor; örneğin, bir ruh hastası hastanede bir suçlu gibi götürüldü ve daha sonra tutuklama emri süresinin dolmuş olduğu ortaya çıktıktan sonra serbest bırakıldı. Başka biri ise 7 ay içinde 4 kez tutuklandı; AI, onu kaçak bir katil ile karıştırdı. Her seferinde polis karakoluna getirildikten hemen sonra serbest bırakılıyordu, birkaç gün sonra tekrar gelip tutuklanıyordu, bu durumdan tamamen şok olmuştu.
Daha önce AI'nın insan yerine hapse giremeyeceğini söyleyerek hangi işlerin AI ile değiştirilemeyeceğini konuşurduk, ancak bu sorunun diğer yönünü, yani şimdi AI'nın insanları “hapse sokabildiğini” hiç düşünmedik.
Bu cümle eskiden bir şaka gibiydi, ama şimdi neredeyse haber değil. Sadece yüz tanıma değil, AI'nın nesne tanıma konusunda da bazen sert hamleler yapabildiği görülüyor.
Geçen yıl ABD'de bir lisede kullanılan yapay zeka güvenlik sistemi, bir gençin elindeki çip paketini "potansiyel silah" olarak tanımlayıp alarmı tetikledi. 8 polis aracı geldi ve genç anında kontrol altına alındı; sadece çöp kutusunda atık poşeti bulununca arama tamamlandı. Sahne oldukça utanç vericiydi ve genç, hayatının sonunda olduğunu düşündü.
Söyleme, gerçekten söyleme
Kim düşünürdü ki, yapay zeka ne kadar güçlü olursa, bazıları bunu kullanarak çıkardığı sorunlar da o kadar büyük olur. Daha önce yapay zeka aptaldı, resimleri yanlış tanıyordu ve tüm internet bunu bir süre boyunca güldürüyordu. Şimdi yapay zeka güçlü oldu, bir insanı yanlış tanıdı ve insanları yarım yıl hapse attı. Gelecekte yapay zeka yargısı, yapay zeka avukatı, yenilenebilir enerji mahkemesi gibi soyut işlemler yapmayın. Temelde yapay zeka sadece bir araçtır, önemli olan kullanıcının yeteneği ve amacıdır, ya da yapay zeka ne kadar güçlü olursa olsun, insanlar daha fazla tembel olamaz.
Sonuç olarak, başlangıçta o aptalca AI'ya biraz özlem duyuyorum.
Bu yazı WeChat hesabından "CoolPlay Lab" tarafından paylaşılmıştır, yazar: CoolPlay Lab