Yazar: L. M. Sacasas
Derin Akış TechFlow
Derin Akış Özet: Artık daha fazla karar verme işlemini AI'ye devrederek, insan toplumu, aktif yargıdan uzaklaşan gizli bir "bilinçsiz katman" oluşturuyor. Bu, bilim kurgu tarzı bir süper zeka tehditi değil, daha gizli bir medeni dönüşüm: Yapabileceğimiz şeyler giderek artarken, anlayabildiklerimiz azalıyor. Bu, AI araçlarına bağımlı olan herkes için bir uyarı çanıdır.
20. yüzyılın başlarında, İngiliz matematikçi ve filozof Whitehead, sıkça alıntılanan şu sözü söylemişti: "Ne yaptığımızı düşünme alışkanlığı edinmeliyiz—bu, tüm ders kitaplarında ve ünlü konuşmalarda tekrarlanan büyük bir hata ve eski bir söz." Ancak o, tam tersine, "medeniyetin ilerlemesi, düşünmeden yapabildiğimiz önemli işlemlerin sayısını genişletmektedir" demiştir. Ayrıca bir benzetme yapmıştır: "İşlemi düşünmek, savaşta süvari saldırıları gibidir—sayısı katı sınırlıdır, yeni atlar gerekir ve sadece karar verici anlarda başlatılır."
Bu alıntıyı muhtemelen daha önce gördünüz. Gerçekten de bir gerçekliği ifade ediyor. Ancak benim görüşüme göre, bu ifade her zaman dar görüşlü ya da yetersiz geliyor. Belki de insan bilgi faaliyetlerini ayırt etmeden makinelere dışa vurma konusunda bunu kullananları sık sık görüyorum; ancak maliyetleri iyi hesaplamıyorlar veya hatta maliyetlerin varlığını fark etmiyorlar.
Dürüst olmak gerekirse, Whitehead'in bu sözü 1911 yılındaki "Matematiğe Giriş" adlı eserinden alınmıştır; aslında matematiksel hesaplamalarda sembollerin ve işaretlerin avantajlarından bahsediyor—bunların "düşünmeden" yapıldığını söylese de, bunlar yine de düşünen bir zihnin öğrenip kullandığı işlemlerdir. Ancak "medeniyet"ten bahsetmesi ve o zarif retorikle bitirmesi, muhtemelen bu (yanlış) yorumu tetiklemiştir.
Sorun, belirli durumlarda bazı düşüncelerin otomasyonuna veya bazı zihinsel süreçlerin dışa aktarımına gerek olup olmadığı değil. Dürüst olmak gerekirse, fiziksel aktiviteleri zihinsel aktivitelerle karşılaştırmak, daha ikna edici bir argüman sunar. Geçmişte sahip olabileceğim spor becerilerinden uzaklaştım, ancak ders hâlâ orada. Neredeyse her genç spor başlangıççısı, temel ve tekrarlayan egzersizleri uzun, görünüşte aşırı ve acı verici süreler boyunca tekrarlamak zorunda olduğunu hayal kırıklığıyla fark eder. Buzları sürmek, buzları parlatmak—《Kung Fu Panda》 izleyenler anlar. Ancak gerçekleşen şey, Whitehead’in tarif ettiği dinamik tam olarak budur: Bazı fiziksel hareketleri otomatik hale getiriyorsunuz ki, bunları düşünmeden uygulayabilesiniz. Sadece böylece, herhangi bir yaratıcı veya olağanüstü beceriyi sergileyebilirsiniz. Dans öğrenmek veya müzik aleti öğrenmek de aynıdır. Temel hareketleri otomatik hale getirmek, ustalık düzeyine ulaşmanın vazgeçilmez temelidir.
Ancak bu dinamik, tüm insan faaliyet alanları için geçerli midir? Bazı faaliyetlerin dışa aktarılmasının, peşinde koşulan daha yüksek bir iyi hedefi zayıflattığı, değil de desteklediği durumlar var mıdır? Veya "düşük seviyeli" faaliyetler, kaybetmek istemediğimiz bazı iyi yönler taşımıyor mu? Hatta matematikte olduğu gibi, her zaman belirli alt programları verilen bir süreçten veya faaliyetten kolayca ayırt edebiliyor muyuz? Var mı, içindeki herhangi bir unsuru dışa aktarır veya otomatikleştirirseniz dağılan, bölünemez bir bütünlüğe sahip faaliyetler? Ayrıca daha önce de belirttiğim gibi, içsel olarak kazanılmış düşünme otomasyonu ile tamamen dışa aktarım ya da bilişsel emeğin tamamının dışa aktarımı arasında fark yok mudur? Vücudun hareketlerine dair benzetmeye geri dönersek: Bir atlet, tüm "küçük" antrenmanları makineye yaptırmayı hayal ederse, doğrudan yarışın heyecanlı kısmına girebilir—ancak bu kişi aslında asla o aşamaya ulaşamaz. Yeni teknolojilerin adı altında yapılan verimlilik ve özgürlük vaatlerini kolayca kabul etmeden önce, bunlar kritik sorulardır.
Ancak, Whitehead'ın bu sıklıkla alıntılanan otomasyon övgüsünden hoşlanmıyorum, belki de bu, Hannah Arendt'in uyarısıyla net bir çelişki oluşturduğu için: "Yaptığımız şeyi düşünmeliyiz." Whitehead, Arendt'ten neredeyse yarım yüzyıl önce yazmıştı ve Arendt'in Whitehead'a gönderme yaptığını düşünmüyorum. Sadece bu iki cümle tesadüfen karşıt bir yanıt oluşturuyor ve bu gerilimi incelemenin faydalı olduğuna inanıyorum.
“Kendi ne yaptığımızı düşünme alışkanlığı edinmeliyiz — bu büyük bir hata ve eski bir söz.” — Whitehead
"Bu nedenle önerim çok basit: Yapmakta olduğumuzu düşünmek." — Hannah Arendt
İlginç bir şekilde, Arendt'in bu uyarısı, teknoloji ve insan varlığına yönelik şu anki endişelerimizle daha yakından ilgilidir. Bu cümle, 1958 yılında ilk kez yayınlanan "İnsanın Durumu" kitabının önsözünden alınmıştır. O, şöyle açıklar:
Yapmak istediğim şey, en son deneyimlerimizden ve son korkularımızdan yola çıkarak insan durumunu yeniden değerlendirmektir. Bu açıkça bir düşünme sorunudur; ve düşünmeme—aceleci hafiflik, umutsuz karışıklık ya da artık çürümüş ve boşalmış olan 'gerçeklerin' yinelenebilir doyumsuzluğunu—benim için çağımızın en belirgin özelliklerinden biridir. Bu nedenle önerim çok basittir: Sadece ne yaptığımızı düşünmek.
Arendt'yi araştırmaya iten "en son deneyimler", yapay uyduların fırlatılması ve otomasyonun gelişmesini içeriyor. Son zamanlara kadar, Arendt'in otomasyonun işgücüne etkisi konusundaki endişelerinin yanlış olduğunu düşünebilirken, şimdi bu endişelerinin sadece çok erken geldiğini görüyoruz.
Whitehead ve Arendt'in "Daha fazla mı düşünmeliyiz, yoksa daha az mı?" sorusundaki farklılıklarını düşündüğümde, bir taraftan daha yüksek yetenekler geliştirmek için bilinçsiz rutinler kurmak; diğer taraftan ise davranışlarınızı kararsız bir şekilde yönlendiren ve zarar verebilecek bilinçsiz güçler altında kalmak arasında ayrım yapmak faydalı buluyorum.
Whitehead'in ilkesinin tersine döndüğü veya tersine çevrildiği bir kritik nokta var mı? "Medeniyetin ilerlemesi," Whitehead der, "düşünmeden gerçekleştirebileceğimiz önemli işlemlerin sayısını genişletmektedir." Ancak eğer bir kritik nokta varsa? Bir eşiği aştığınızda — ne sayısal olarak ne de kaliteli olarak — medeniyet, insanlar tarafından düşünmeden gerçekleştirilen önemli işlemlerin sayısını genişletmek suretiyle gerilecek mi? Veya en azından, bildiğimizden tamamen farklı bir medeniyet mi elde edeceğiz? Yapay zekânın benimsenmesi, genellikle düşüncemizin otomasyonunu ve dünyada, bireysel ve kolektif hafızamızın dışa aktarılmış depolarından kaynaklanan devasa bir bilinçsiz eylem alanını yaratmayı içerdiğinden, cevabı çok yakında öğrenebiliriz.
Arendt, teknolojik yeteneklerimizin (özellikle matematiksel dille açıklanan) onları günlük dilde anlama yetimizi aşması durumunda, "gerçekten yapabildiklerimizi düşünme ve konuşma yetisini kaybedebiliriz" diye endişeleniyordu. (Bu, yorumlanabilirlik sorununun büyük dil modelleri ve "kara kutu" algoritmalarının ortaya çıkmasından önce de var olduğunu gösterir.) Bugün yeniden ilgili ve acil hale gelen bir pasajda, şöyle devam ediyor: "Bu, zihnimizin — düşüncemizin fiziksel, maddevi koşulunu oluşturan — yaptıklarımızla aynı hızda ilerleyemeyeceği gibi görünüyor; bundan sonra gerçekten düşünebilmek ve konuşabilmek için yapay makinelere ihtiyacımız olacak." Bu, en önemli siyasi sorundur. Bu koşullar altında, anlamlı bir şekilde kendimizi yönetemeyeceğiz. Konuşma ile oluşan, insan eyleminin alanı olarak siyasetin varlığı sona erecektir.
1958 Noelleri, Arendt'in "İnsan Koşulu" kitabını yayınladığı yıl, W. H. Auden, tamamen Arendtçi dizeler içeren "Cuma'nın Oğlu"nu yayımladı:
Gözlemlediğimizde karşılaşılan
O öz gözlemleyen gözlemci kalp
Hem endişe verici değil hem de soğuk değil
Ancak tamamen sıradan
Yine de kontrol ettiği araçlar
Dilekleri ve ters dilekleri gerçekleştirmek
Bu açıkça anlaşılamıyor
Bunu net bir şekilde yapabilir
Oden ve Arendt arkadaştı, Oden ayrıca "İnsan Koşulu" için olumlu bir değerlendirme yazdı, ancak etkinin yönünden emin değilim.
Arendt, "net bir şekilde yapabileceğimiz şeyleri net bir şekilde anlayamaz hale nasıl geldiğimizi" — yani teknolojik olarak güçlendirilmiş eylemlerimizin günlük dilimizle tamamen anlaşılamadığı durumu — doğrudan açıklasa da, başka ilginç bir çerçeve daha vardır.
Dilin穿透emeyen ve dolayısıyla bilinçli düşünceye穿透emeyen eylemler, bilinçdışıyla da açıklanabilir. Ben, bilinçdışına doğrudan başvuran biri değilim, ancak bu, bireysel ya da kolektif olarak, giderek dünya deneyimimizi aracılık eden yapay zeka cihazlarıyla olan ilişkimizi anlamamıza yardımcı olabilecek kullanışlı bir benzetme olabilir.
Basitçe, tüketiciler için AI'nın bazı örneklerini bilinçsizlikle karşılaştırmak için iki yol düşünebilirim. İlk olanı nispeten doğrudur: Kişisel, organizasyonel ve kurumsal düzeyde giderek daha fazla görevi akıllı sistemlere dışa aktarıyorken, dünyada insan aktif yargı ve gözetimiyle işlevsel olarak ayrılan bir aktivite katmanı oluşturuyoruz. Ve bu katman yapılandırıldıkça ve deneyimlerimizi şekillendikçe, bilinçli insan eylemleri ile bilinçsiz insan eylemleri arasındaki oran daralmaktadır.
Elbette, en azından endüstri devrimi döneminden itibaren (daha da öncesinden değilse), insan yaşam dünyasında nispeten şeffaf olmayan sistemler işliyordu. Ancak benim düşündüğüm fark, bu sistemlerin günlük insan faaliyetlerinden nispeten izole olmasıydı. Yapay zeka sistemleri ise giderek daha derin bir şekilde deneyimlerimize dokunuyor. Birçok durumda, bu sistemler sadece bize dışarıdan uygulanan süreçler değil, aynı zamanda bizim serbest bıraktığımız ve başlattığımız süreçler; bunlar bize harekete geçiyor ve bize tepki veriyor. Tam da bu insan-makine yakın dokunuşu, bilinçdışıya olan benzetmeyi akla getiriyor.
Erik Hoel, yakın zamanda daha zarif bir dille ve daha uzun bir biçimde benzer bir argüman sundu. Sonucu şuydu:
Geleneksel yapay zeka tehlikeleri genellikle süper zekânın yaratıcılıkla ilgili bir tehdit olarak görülür. Ancak bu, gerçek ve daha ince tehlikeyi gözden kaçırmış olabilir: Yapay zeka devrimi, kültürel süreçlerimizi bilinçli denetimden bilinçsizliğe taşıyan bir mekanizmadır. Ancak yapay zeka, bilinci dünyanın işleyişinden uzaklaştırdığında, dünyayı giderek daha anlaşılmaz, daha yabancı ve daha anlaşılır hale getirir. Şu ana kadar, "paylaşılan alanın büyük çamurlaşması", büyük dil modelleri devriminin ana riski olarak doğrulanmıştır. Ayrıca, yapay zeka sistemleri daha akıllı hale geldikçe, özellikle de bilinçsiz kalırlarsa (veya muhtemelen kalırlarsa), bilincin kültürel yaşamda öneminin azalması daha büyük bir risk haline gelir.
Bu düşünce, on yıl boyunca aralıklı olarak savunduğum fikirle paralel: dijital teknoloji, dünyayı yeniden büyüleyecek şekilde, onu gizemli ve kavranması zor hale getiriyor.
Teknoloji tarafından büyülendiğimiz bu nesneler, dikkat çekmeyen bir anlamla bize karşı duruyor ve bunlarla uğraşmak zorundayız. Teknolojiye yardım istiyor, güçlerine umut bağlıyoruz. Aynı zamanda teknolojiden korkuyor, onları sorunların kaynağı olarak görüyoruz. Karşılaştığımız teknolojik güçler bazen iyiniyetli olurken, aynı zamanda çabalarımızı bozup planlarımızı sapıtmak için sıklıkla zararlı güçlerdir.
Teknolojik nesneler, sadece bizi güçlendirme potansiyeline sahip değil, bazen şaşırtıcı bile olabilir. Bunları, kendi kontrolümüz dışında ve anlayamadığımız şekilde etki eden, kaderimizi belirleyen önemli faktörler olarak görürüz. Başka bir deyişle, savunmasızyız; otonomimiz, irademiz ve arzularımızla kesişen teknolojik dağıtılmış ajanların hatları tarafından zayıflatılmıştır.
Bir AI'nın ikinci türünü bilinçsizlikle karşılaştırmak biraz soyut olabilir, lütfen izah etme izni verin. Marshall McLuhan, "Medyanın Anlaşılması" adlı eserinde, "elektrik teknolojisinin gelişmesiyle insan, kendi merkezi sinir sisteminin canlı modelini dışa taşıdı" diye iddia etti. O, elektrikli medyanın sinir sisteminiz dışa dışa projeksiyonu fikrine defalarca döndü. Örneğin:
Elektrik çağının temel özelliklerinden biri, büyük ölçüde merkezi sinir sisteminin özelliklerini taşıyan küresel bir ağ kurmasıdır. Merkezi sinir sistemi sadece bir elektrik ağı değil, tek bir birleşik deneyim alanı oluşturur.
McLuhan, bu fikri ortaya atan ilk kişi değildi. 1950 yılında Katolik papaz ve paleontolog Teilhard de Chardin, medya teknolojilerinin "insanlar için gerçek bir sinir sistemi yaratmak" ve "ortak bir bilinç inşa etmek" olduğunu iddia etmişti. Yeni ortaya çıkan hesaplama ve iletişim teknolojileri ağı aracılığıyla, biyolojik katmanı saran yeni bir gerçeklik katmanı ortaya çıkmaktadır. O, bu katmanı "teknolojiye aracılık eden, birleşik bir insan bilinci" olarak tanımlamış ve ona "akıl küresi" adını vererek, bunu "şaşkınlık veren bir düşünme makinesi" olarak betimlemiştir.
Bu, benim alışık olduğum bir ifade tarzı değil, ancak bu kavramları biraz oynayalım. Aslında, yapay zekâyı psikanalitik bir açıdan görmeyi size ikna etmeye çalışıyorum.
Elektrikli medya, dünyayı algılama yetimizi genişleterek uzak olayları gözlerimizin ve kulaklarımızın önüne getirir ve bilgi iletim süresini neredeyse anlık hale getirir. Ancak de Chardin ve McLuhan döneminden beri başka bir şey de ortaya çıktı: yapay hafıza veya veri saklama kapasitesindeki büyük artış. Bu nedenle elektrikli medya sadece sinir sisteminizi genişletmekle kalmadı, aynı zamanda metin, resim, video gibi biçimlerde önceki hiç olmadığı kadar büyük miktarda bilginin toplanmasını ve saklanmasını da teşvik etti. Sinir sisteminiz, devasa bir dijital hafıza ile tamamlandı. Bu dijital hafıza, şimdi neredeyse yapay zekânın eş anlamlısı haline gelen büyük dil modellerine besin sağlıyor.
Bu büyük insan bilgi ve kültürel kütüphanesi temelde internettir ya da en azından internet, bunun bizim için erişilebilir hale gelme şeklidir. Tam olarak bu nedenle, dijital medya teorisyeni Gregory Ulmer, 2000’li yılların başlarında internete “toplumsal bilinçdışımızın protezleri” demiştir.
Ben, Ulmer'in şöyle demek istediğini düşünüyorum. Biz her zaman toplumsal varlıklarız, yani kültürel bir aralarılık varlığıyız. Ancak özellikle çocukluk döneminde bizi şekillendiren şeylerin çoğu, zamanla bilinçli algımızdan kaybolur. Ancak internet, toplumsal varlığımızın oluşum sürecinde bu bilinçdışı boyutun bir yapay organu olarak, kolektif kültürel hafızamıza erişimi sağlar. İnternet, hayatımız boyunca bizi şekillendiren kültürel nesnelerden, sembollerden, görüntülerden, metinlerden ve çeşitli küçük detaylardan oluşan devasa bir ağdır; bu öğelerin bağlantıları doğrusal mantıkla değil, neredeyse rüya gibi bir ilişkisel mantıkla kurulur ve bu da psikanaliz teorisindeki insan bilinçdışının çok benzeridir.
Ulmer, bunun bize derin bir fırsat sunduğuna inanır. Toplumsal bilinçdışıyı, yansıtabileceğimiz ve bilinçli düşünmenin erişebileceği bir şeye dönüştürerek, genellikle deneyimimizin merkezindeki derin bir bilinçsizliği aşmanın bir yoluna sahip oluruz. Bu olasılığa karşı her zaman pek iyimser olmamıştım. Ancak Ulmer'in iyimser vizyonunu nasıl değerlendirirseniz değerlendirin—burada büyük ölçüde basitleştirdim, ancak adaletsizlik yapmamayı umuyorum—görüşüme göre, sohbet temelli AI'nın ticarileşmesi, bizi gerçekten farklı bir yöne doğru götürmektedir.
İlginç bir şekilde, kendi içimizde ve dijital kolektif bilinçdışı arasında günlük dil arayüzü yerleştirmek, onu daha da bulanık ve anlaşılmaz hale getiriyor. Sohbet botu arayüzü, kolektif bilinçdışında yön bulma yetimizi yeniden yapılandırıyor ve aslında bir terapötik tersine çevirmeci olarak davranarak, bizi kendi kendimizi tanıma ve farkındalık (ne kadar rahatsız edici veya şaşırtıcı olursa olsun) yolundan, konfor verici ve yatıştırıcı bir buluşmaya yönlendiriyor. Kendi kendimize doygunluk içinde kalmamızı sağlayarak, kendimizle ilgili şüpheye düşmemizi, kendi bilgisizliğimiz farkında kalma sürememizi veya rahatsız edici belirsizlikte kalmamızı önleyen sahte bir netlik sunuyor. İnsan deneyiminin karmaşık ormanını gizleyerek, bilgi ve bilgelik vaadiyle yönlendiren yapay bir netlik yolu açıyor. Ancak bu şekilde, sakin ama kararlı bir şekilde bizi tekrar bilinçdışına gömüyor. Belki de bu, AI psikozunun kökenidir.
AI ile olan ilişkisi ne olursa olsun, düşünmeye değer: kamu ve kolektif varlığımızdaki delilik, cansızlık, zorlayıcılık, saldırganlık, kaygı ve umutsuzluk, insan bilincinin, yapay zeka şeklinde yeniden kendini kurmuş yeni bir tür kolektif bilinçdışı karşısında adım adım geri çekilmesinden kaynaklanmaktadır.
Bu dünyadaki insansız eylem katmanı, agen AI’ların ortaya çıkmasından çok önce inşa edilmişti. Algoritmik süreçler, özellikle bürokratik bağlamda, insan deneyiminin unsurlarını inşa etmekteydi.
Elektrik, sinir sistemi ve düşünce arasındaki kavramsal bağlantının ne zaman ve kim tarafından kurulduğundan emin değilim, ancak 1851 yılında yazdığı “The House of the Seven Gables” adlı romanında Nathaniel Hawthorne şunları yazdı: “Sonra elektrik, şeytan, melek, güçlü fiziksel güçler, her yerdeki zeka!” ve: “Bu gerçek mi, yoksa hayal mi gördüm—elektrik aracılığıyla maddi dünya, binlerce mil boyunca nefes kesilmiş bir an için titreşen devasa bir sinir haline geldi mi? Daha doğrusu, yuvarlak Dünya, devasa bir kafa, zeka ile dolu bir beyin mi? Veya, onun kendisinin bir düşünce olduğunu, artık bizim düşündüğümüz gibi bir varlık olmadığını mı söylemeliyiz?”