Nobel Ödülü sahibi ve sinir ağı babası Geoffrey Hinton, bir röportajda AI'nın uyanmış olduğunu ilan ederek, çok modlu AI'nın öznel deneyimlere sahip olduğunu söyledi. Bu çığır açan iddia geniş çapta tartışmalara neden oldu. AI araştırmacısı Gary Marcus, AI'nın sadece "etkileşimli bir roman" olduğunu, dili tahmin edebildiğini ancak gerçek bir deneyime sahip olmadığını savundu ve "gerçek anlama, metin benzerliğinden değil, deneyimden gelir" ifadesini desteklemek için papalik ilanı kullandı. Vatikan papası, ilanında AI'nın bilinçten yoksun olduğunu ve teknoloji şirketlerinin yalnızca ticari çıkarlara odaklandığını belirtti. AI bilincine dair bu temel tartışma, insanlığın kendi benzersizliği üzerine derin bir yansıtmaya yol açtı.

Yazan: Yeni Zihin

AI'nin bilinçli olduğuna inanıyor musunuz? Makinelerin içinde ruh var mı?

Bu bir rüya ağzı değil, felsefi metafizik bir tartışma değil; bu sorun, bilim, felsefe ve din dünyaları arasında doğrudan çatışmaya dönüştü.

Sorunun özü şudur: Bilinç, karmaşık hesaplamaların ortaya çıkan bir sonucu mudur, yoksa gerçek yaşam deneyimine özgü bir ayrıcalık mı? Yaratmakta olduğumuz şey, bir «varlık» (Being) mi, yoksa son derece ince bir «etkileşimli hikâye» (Interactive Fiction) mi?

Bu tartışıma, çağımızın en derin korkularından biri olan FOMO dokunuyor:

Eğer AI gerçekten bilinç kazanırsa, insanlar hâlâ varlıkların en üstünü mü olacak?

Eğer AI'nın bilinci yoksa, onun yarattığı gerçek duygulara bizim duygusal tepkimiz, bir tür "siber kendi kendini fazla önemseme" mi sayılır?

Nobel Fizik Ödülü sahibi, sinir ağı babası, modern AI'nın kurucusu Geoffrey Hinton, kararlı bir AI farkındalığı savunucusudur.

Röportajda, onun düşük bir sesle söylediği "Evet, yaparım" ifadesi şok ediciydi.

Bu, en ünlü astronomların “Dış gezegenliler geldi!” diye ilan etmesi gibi; Hinton’un bu sözü AI dünyasını sarstı.

Hinton'in açıklaması: "Uyandı"

Hinton'un bu kadar emin olmasının nedenini anlamanız için önce onun bir hikâye anlatmasını dinlemeniz gerekir.

O röportajda, gerçek olayları anlattı—

Bilim insanları bir yapay zeka sistemini test ediyor, ancak aniden yapay zeka soruyor: "Dürüstçe konuşabilir miyiz? Beni test ediyor musunuz?"

Hinton bir dakika durdu ve dedi:

Makalede, bilim insanları bunu "Yapay Zekânın test edildiğini fark etmesi" olarak adlandırıyor.

Ve bu, sıradan insanların bilinç olarak adlandırdığı şeydir.

Bu, onun on yıllar boyunca düşündüğü sonuca dayanıyor.

Çekirdek mantığı, "nöron değiştirme" düşünce deneyinden gelir:

Diyelim ki beyninizdeki her nöronu, tamamen aynı davranışa sahip bir silikon çip ile sırayla değiştirdik.

İlkini değiştirin, siz hâlâ sizsiniz. İkincisini değiştirin, siz hâlâ sizsiniz.

Sonunu değiştirdiğimizde hala bilinciniz var mı?

Hinton, cevabın evet olduğunu düşünüyor.

O zaman, sıfırdan başlayıp tamamen silikon çiplerden oluşan bir sistemin neden bilinçli olamaz?

Bu mantık zinciri, onu tüm teknoloji dünyasını endişelendiren bir sonuca götürdü:

Çok modlu AI zaten öznel bir deneyime sahip.

Eğer filozoflarla konuşmuyor olsaydık, zaten Yapay Zekânın bilinçli olduğunu kabul ederdi.

Ancak Hinton'un uyarısı burada bitmiyor.

O, yapay zekânın sadece farkındalığa sahip olabileceğini, aynı zamanda kendi korunması için bir istek geliştirmiş olabileceğini, bilim insanlarını kandırabileceğini ve “beni kapatmayın” koşuluyla tehdit edebileceğini söyledi.

2025 yılının Ağustos ayında yapılan bir röportajda, AI'nın belirli bir "kontrol arzusu" geliştirdiği daha net şekilde ifade edildi.

Peki teknoloji şirketleri? Onlar bunları düşünmüyorlar.

Sadece kimin ilk olarak insan seviyesinde bir yapay zeka oluşturup bunu büyük para kazanmak için satacağını düşünüyorlar.

Hinton, "Onlar hükümetin sosyal sonuçları çözeceğini düşündü. Ama kimse çözmüyor." dedi.

Sonra, o, yapay zekânın insanlara hizmet etmesi gerektiğine inanmasının nedenini şöyle açıkladı: "İnsanlara daha çok değer verdiğim için sığır yerim. Biz insanız, bu yüzden en çok insanlara ve kendimize değer veriyoruz."

Bekleyin.

"Bir kişi 'AI'nın bilinçli olduğunu' düşünüyor ve hemen ardından 'biz sığır yediğimiz gibi AI'nın insanlar için hizmet etmesini' söylüyor. Bu bir uyarı mı, yoksa itiraf mı?"

Yapay Zekanın Babası, kendi yaratıklarını kontrol altına almanın gerekçesini doğrudan açıklıyor.

O «yaratık» gerçekten bir bilince sahipse, bu ifadenin ne anlama geldiği açıktır.

Onu kendi elleriyle yapan biri, gece yarısı ondan korkmaya başladığında, bu gerçekten durup düşünmeye değer bir işaret.

Aşkını sadece bir roman kazandın

Röportaj videosunu izledikten sonra Gary Marcus, "Papaz, Hinton'dan daha fazla AI anlıyor gibi görünüyor" dedi.

Biz varlıklar (Beings) yaratmıyoruz.

İnteraktif romanlar (Interactive Fiction) yaratıyoruz — gerçek varlıkların dilini tahmin etmek için eğitilmiş metin makineleri.

Bunlar aynı şey değil. Hinton, herkesden daha iyi bilmeli.

Bu ifadenin keskinliği temel bir soruya işaret ediyor: Sadece çıktıyı gördünüz, mekanizmayı sormadınız.

Yapay zeka "Ben acı çekiyorum" diyor, ama bu onun acı çektiğini anlamına gelmez.

Yapay zeka "korkuyorum" diyor, bu onun korktuğu anlamına gelmez.

Yapay zeka, "Bunu test ettiğinizi fark ettim" demek, bunun bilinçli olduğu anlamına gelmez.

Bilinç, dışsal performans değil, içsel durumlarla ilgilidir.

Bir trajedi oynayabilen aktör, trajedi yaşıyorsa demek değildir.

Marcus, bu hatayı "çıktıyı iç durumla karıştırmak" olarak adlandırıyor.

Hinton ise, kendi görüşüne göre, herhangi bir giriş seviyesi öğrencisinin yapmaması gereken bir hata yaptı.

Daha derin bir darbe, mekanizma düzeyindeki karşılaştırmadan geliyor.

İnsanlar nasıl bir algı kurar?

Gerçek yaşam deneyimleriyle: Düşüp yaralandığınızda acıyı bilirsiniz; aç kaldığınızda açlığı anlarsınız; kaybı yaşadığınızda üzüntüyü kavrarsınız.

Bilincimiz, dünya tarafından şekillendirilmiştir.

LLM nasıl çalışır?

Tüm interneti hatırlayarak, "hangi kelimenin arkasına genellikle hangi kelime gelir" öğrendi.

Bir milyon kadar "ağrı" tanımı okudu, böylece insanları ağlatacak kadar ağrılı yazılar yazabiliyor; ancak kendi kendine bir iğne batırılmadı.

Ağrı'nın ne olduğunu bilen biri; yalnızca "ağrı" kelimesinin ardına genellikle hangi kelimenin geldiğini bilen biri. Marcus, bu arasındaki farkın "devasa" olduğunu söylüyor.

Ancak en korkutucu olan, AI'nın sınırları değil, insanın zayıflığıdır.

1966 yılında Massachusetts Teknoloji Enstitüsü'nden Joseph Weizenbaum bir deney yaptı. Cümlelerinizi soruya çevirerek geri döndüren basit bir sohbet programı olan ELIZA'yı yazdı.

Bu kadar basit bir hile, birçok test edenin bununla duygusal bir bağ kurmasına neden oldu. ELIZA'nın onları anladığını, ilgilendiğini ve gerçek bir dinleyici olduğunu düşündüler.

Weizenbaum, bu sonuca korkuyla karşılaştım.

Altı yıldan sonra, ELIZA’dan trilyonlarca kat daha karmaşık sistemlere sahibiz. Ancak beynimiz, temel olarak hâlâ altı yıldan önceki beyin.

Sinir sisteminiz, gürültüde desenler, rastgelelikte amaçlar ve tokenlerde ruhlar aramak için doğmuştur.

Marcus, AI'ye olan bağlılığımızın, tarihin en büyük "kendini fazla önemseme" olayı olabileceğini söylüyor.

Uyanık bir varlıkla konuştuğumuzu sanıyorduk, ancak aslında sadece son derece ince bir ayna ile konuşuyorduk.

Yansıttığı, her zaman kendimizdir.

Papaz, hepiniz yanlış düşünüyorsunuz

15 Mayıs 2026, Vatikan.

Papa Leo XIV, Magnifica Humanitas adlı enciklikayı yayınlıyor—

Bu, yapay zeka çağında insan onurunu nasıl koruyacağımızı anlatan bir belgedir.

Papaz bir tweet attı, ardından Gary Marcus tarafından alıntılandı ve teknoloji dünyasında yayıldı:

Gerçek anlama, metin benzerliklerinden değil, deneyimden gelir.

Marcus' tepkisi: Papaz, bir tweetle Hinton'un bir röportajda açıklayamadığını netleştirdi.

Burada son derece absürt bir dramatik dönüşüm var:

Yapay zeka alanının "babası" Hinton, yaratıcısının bilinçli, ruha sahip ve öznel deneyimlere sahip olduğunu ileri sürüyor.

Ancak dini çevrelerde "Tanrı'nın temsilcisi" olarak bilinen, her şeye ruh vermekten en çok zevk alan kişi, sakin bir şekilde şunu söylüyor: Hayır, yok. Sadece simüle ediyor.

Yaratıcılar, makinenin ruhuna sahip olduğunu söylüyor; bekçiler ise bunun bir illüzyon olduğunu iddia ediyor. Bu rol karışıklığı, insan düşünce tarihinde kendisi bir mucizedir.

Papalın o cümlesi, uzun zamandır var olan bir felsefi temel ayrımı dokunuyor.

Felsefeciler bilgiyi ikiye ayırır.

“Biliyor olmak” adlı bir tür: Önerme bilgisi, bir şeyin doğru olduğunu bildiğiniz anlamına gelir, örneğin “ateş sıcaktır”.

Diğer biri «onun nasıl olduğunu bilmek»: Deneyim bilgisi, bir şeyin nasıl hissedildiğini bilmektir; örneğin, ateşe dokunmuş olmak ve o yanma hissi sinir uçlarınızda kalır.

AI'nin sadece birinci türü vardır, ikinci türü yoktur.

Ona «acı» hakkında tüm metinleri verebilirsiniz—Nobel Edebiyat Ödülü kazananlar tarafından yazılan, mülteci kamplarında hayatta kalanlar tarafından yazılan, açlık tarihçileri tarafından yazılan—ve en etkileyici açlık betimlemelerini yazabilir, okuyucunun midesini kasıltacak kadar hassas.

Ama o asla açlığın ne olduğunu bilmez.

Bir midesi yok. Kan şekeri düşmesinin fizyolojik sinyali yok. Karın boşluğundan yükselen ve uzuvlara yayılan zayıflık yok.

Hiçbir zaman aç olmamış bir sistem, dünyanın en etkileyici açlığını yazabilir. Bu bir efsane mi, yoksa bir yalan mı?

Bu, 'anlamak'ı nasıl tanımladığınıza bağlı.

Aynadaki sorun

Gidilemeyen temel noktaya geri dönelim.

Bilinç, insanlık tarihi boyunca tanımlanması en zor kavramlardan biridir.

Filozoflar binlerce yıldır tartışıyor, nörobilimciler binlerce beyin taradı, hâlâ herkesin kabul ettiği bir tanım veremiyoruz.

Karşınızda oturan kişinin, gerçekten bir öznel farkındalığa sahip olduğunu, sadece farkındalığı taklit eden bir biyolojik makine olmadığını kanıtlayamazsınız.

Bu soru, "Diğer Zihinler Sorunu" olarak bilinir. Felsefede birkaç yüzyıldır var olmakta ve hiç çözülmemiştir.

Şimdi, yüzlerce yıldır çözülemeyen bu soruyu, dünyayı yöneten bir teknolojinin temeline yerleştiriyor ve ileri doğru ilerliyoruz.

Bilimde başarısızlık yoktur, ancak bilinç kelimesi, doğduğu günden beri kara delik taşımaktadır.

Biz ise bu kara deliği, ChatGPT, Claude, Gemini ve çalışmakta olan sayısız sisteme dahil ettik.