Yapay Zeka Ajanları İşleri Ele Geçirdikçe Eleştirel Düşünmeyi Nasıl Korurum

Yazar: Addy Osmani (Anthropic Claude Code ekibi, ünlü teknik mimar)

Derin Akış TechFlow

Shen Chao Öne Çıkarma: Akıllı ajan iş akışlarının tamamen yayılmasıyla, yazılım mühendisleri ve ürün ekipleri insan-makine iş birliği modelinde derin bir dönüşüm yaşıyor. Geçmişte soru ve cevap arasında düşünmeyi teşvik eden bilişsel bir tampon, şimdi sadece birkaç saniyeye indirildi; büyük modeller giderek daha gerçekçi ve yüksek doğruluk oranlarına ulaştıkça açık hatalar ciddi şekilde azalıyor, ancak kullanıcılar keyifli uygunluk hissiyle “bilişsel teslimiyet”e doğru kayıyor ve sistemik anlama yetileri ile temel becerileri farkında olmadan hızla zayıflıyor.

Önce Google Chrome mühendislik müdürü, şimdi Anthropic Claude Code ekibinin temel üyesi olan Addy Osmani, bu makalede "bilişsel boşaltma", "kararları ertelemek" ve "bilişsel teslim olma" spektrumundaki geçişleri sistematik olarak analiz ediyor. Sadece sistem anlayışı borcunun gizli birikim mekanizmalarını derinlemesine inceliyor, aynı zamanda günlük çalışma akışına yönelik pratik ve savunmacı bir okuma ve karşıt soru sorma stratejisi sunuyor; hatta AI'nın daha yüksek kazanma şansına sahip olduğu gelecekte bile insanların sorumluluk sınırlarını ve eleştirel düşünme yeteneklerini nasıl koruması gerektiğini açıklıyor.

Bir zamanlar okullarda öğretilen eleştirel düşünme, yeni bilgilerle skit bir merak ve uygun bir şüpheyle yaklaşmayı gerektirirdi: tüm görüşleri dikkate almak, her iki tarafı da dinlemek ve nihayetinde kendi bağımsız görüşlerinizi oluşturmak. Bu ilke hâlâ geçerlidir, ancak günümüzde günlük işlerimin büyük bir kısmını ajanlar (Agents) yürüttüğü için, gerçek hayatta eleştirel düşünmeyi kullanmamayı zorunlu kılan neredeyse hiçbir şey kalmadı.

Akıllı ajan iş akışlarını tamamen benimsemiş, günlük hayatta birden fazla oturumu paralel olarak çalıştıran ve model performansının sürekli iyileşmesini bekleyen mühendisler ve ürün görevlileri için önce şunu belirtmek istiyorum: Ben kendim bu tür araçların sadık bir hayranıyım. Bu makaleyi, akıllı ajan iş akışlarının kullanımını azaltmanızı teşvik etmek amacıyla yazmadım.

Temel hedefim, her şeyin kolayca bir ajanlara dışa aktarılabildiği bu dünyada, sizin eleştirel düşünme yetinizi sağlam tutmanıza yardımcı olmaktır.

Geçmişte, insanlığın büyük bir kısmı bilgi işleme ve estetik yargılarını soru ve cevap arasındaki boşlukta geliştirmişti. Ancak bugün, bu boşluğun boyutu sadece birkaç saniyeye indi. Ne kadar derin bir şekilde agenç akışları kullanırsanız, uyanık kalmak o kadar zor hale gelir (bu zorluğun şekli, genel beklentilerden farklı olabilir): Modelin sürekli iyileşmesiyle, açıkça absürt hataların oranı büyük ölçüde azaldı. Üretilen sonuçların çoğu son derece layık ve genel olarak doğru yazılmıştır, ancak tam olarak bu görünürde mükemmel layıklık, ikinci bir bakış atmak istememenizi sağlar.

Aynı anda onlarca akıllı ajan çalıştırmasanız bile, nihai çıktıyı değerlendiren yine sadece kendi gözleriniz olacak.

Eleştirel düşünmeyi günlük süreçlere aktif olarak entegre etmelisiniz, çünkü varsayılan durumda hiçbir dış kuvvet sizin için denetim yapmaz.

İnsanların kendi hatalarını düzeltmeyi zor bulmalarının nedenlerinden biri, ajan akışlarının deneyiminin gerçekten çok keyifli olmasıdır. Kalabalık bir iş gününde, makul, konforlu ve genel olarak doğru cevapları bu kadar hızlı elde etmek gerçekten canı sıkar; ancak bu aynı zamanda insanların tamamen dikkatlerini kaybetmeleri ve teslim olmaları için mükemmel bir ortam oluşturur.

Bu fenomeni meslektaşlarımla tartışırken genellikle bir sürekli spektrum olarak tanımlarım:

Spektrumun en üstünde "bilişsel dışlama" (Cognitive Offloading) yer alır; bu, somut ve karmaşık görevleri AI'ye devretmek ancak insanın nihai sonuç üzerinde mutlak mülkiyet ve sorumluluk sahibi kalmasıdır. Ben kendim bunu her gün yapıyorum, siz de öyle yapmalısınız.

Spektrumun ortasında yer alan “geciktirilmiş yargı” (Deferral), araç tarafından üretilen sonuçların doğrudan bir sonraki adımınızın yeni girdisi haline geldiğini ve üretilen içeriğin bir doğrulanması gereken varsayım olarak görülmediğini gösterir.

Spektrumun en alt ucunda ise "bilişsel teslimiyet" yer alır: AI çıktısı, farkında olmadan kendi görüşleriniz haline gelir ve bunu doğrulamaya gerek olmadığını hissedersiniz.

“Bilgi teslimi” terimi, Wharton Okulu’ndan Steven Shaw ve Gideon Nave tarafından ortaya atılmıştır. Bu terim, son zamanlarda gözlemlediklerimi son derece net bir şekilde doğrular: araçlara duyulan güvenin artmasıyla (ya da tembelliğin yaygınlaşmasıyla), insanlar bu spektrum boyunca farkında olmadan aşağı doğru kayar.

Bu kayma genellikle son derece gizli ve fark edilmesi zordur, çünkü her adım adım ilerler ve şu anda mantıklı görünür: bir önceki yanıtı dikkatle okudunuz, bu yüzden bir sonrakinde sadece hızlıca göz atıyorsunuz; bir sonrakinde ise yalnızca yapısal bir özete bakıyorsunuz; sonunda bir gün, başkaları kodun bir satırını gösterip sorduğunda, akıllı bir aracın yardımıyla bile ona temel mantığı açıklayamadığınızı fark ediyorsunuz.

Bu, tipik bir bilişsel teslimiyetidir. Tam olarak “bilişsel borç”un sessizce biriktiği kaynaktır. Bu borç, sistemin genel zihinsel modelini çağırmaya çalışırken zihninizde hiçbir şey bulamadığınızda ortaya çıkar.

Öğretim üyesi Margaret-Anne Storey, bunun ekip iş birliğinde paylaşılan sistem teorisi anlayışının sürekli bir şekilde zayıflaması olarak ortaya çıktığını belirtti. Ben de, bu fenomenin kod seviyesindeki karşılığı olan "Anlama Borcu" (Comprehension Debt, bu terimi Jeremy Twei ortaya atmıştır) hakkında yazdım. Günlük kod yazma anında bu borç tamamen görünmezdir: kod tabanı temiz ve zarif görünür, tüm otomatik testler yeşil olarak geçer. Ancak sistem bir mimari yeniden yapılandırma gerektirdiğinde, herkes birbirine bakmak zorunda kalır: ekipte sistem gerçekten kimse anlamamıştır. Aynı sorun, stratejik bir planı veya teknik spesifikasyonu sadece bir göz atıp hemen imzaladığınız anda da ortaya çıkar.

Açıkça belirtmek gerekir ki, gerçekçi olmayan bir mükemmellikçiliği teşvik etmiyorum. Mühendislerin zihinlerinde büyük modern kod tabanının tam bir zihinsel modelini sürekli tutmaları imkânsızdır. Claude Code ekibi daha önce, şu anda “gerek duyulduğunda anlayışı yeniden inşa etme” stratejisini benimsediklerini açıkça belirtmişti:全局 görüntüyü zihinde zorla tutmak yerine, bir modülü değiştirmek gerektiğinde Claude’den doğrudan o parçanın mantığını açıklamasını istemek.

Daha önce de belirttiğim gibi, bu tür yerel anlayış borçları, çoğu mühendisin düşündüğünden daha kolay giderilebilir. Gerektiğinde yerel olarak anlayışı yeniden kurabiliyorsanız, tüm panoramayı sürekli olarak tutmanıza gerek yoktur. Ancak temel nokta şudur: Tam olarak nerede boşluklar yaşadığınızı bilinçli bir şekilde bilmelisiniz.

Çok düşük bir deneme maliyetiyle ilgili küçük işlerde karar verme yetkisini tamamen devretmenizde bir sakınca yoktur. Ancak kritik bir sorunla karşılaştığınızda veya akıllı ajanlar dahi temel cevabı açıklayamadığında, aslında sistemin tüm sahipliğini tamamen terk etmiş olursunuz.

Elbette, bu tüm senaryoların önceden hazırlanmış şekilde ele alınması gerektiği anlamına gelmez. Yakın zamanda bir ders kaydetmem gerekiyordu ve üç benzer puanlı otel arasından birini seçmem gerekiyordu. O zamanlar tüm misafir yorumlarını tek tek incelemek için yeterli zamanım yoktu, bu nedenle kararı tamamen bir Yapay Zekâ'ya bıraktım. Sonuç çok memnuniyet vericiydi, benzer bir durumla karşılaşırsam yine aynı şeyi yapacağım.

Ancak temel varlık yatırımı, çocuklarınızın kariyer planlaması veya işte hangi fonksiyonun geliştirileceğini, değişikliklerin hangi gerçek kullanıcıları etkileyeceğini ve kodun güvenlik açısından canlıya alınma standartlarını karşılayıp karşılamadığını belirlerken, karar verme yetkisini kimseye teslim etmem. Hataların maliyeti düşük olan kenar bölgelerde serbestçe devir yapabilirsiniz; ancak başkalarının sonuçları ödemek zorunda kaldığı temel aşamalarda, insan mantığının çıkarımını sıkıca korumanız gerekir.

Kendi düşüncelerim kargaşaya girdiğinde, genellikle son derece basit bir temel soru listesine geri dönerdim: Çözüme çalıştığım sorunun doğru olduğundan nasıl emin olabilirim? Çözüm yolumun doğru olduğundan nasıl emin olabilirim? Sonuçlarımı destekleyen kesin nesnel kanıtlar var mı? Bu çalışmanın tamamen tamamlandığını nasıl doğrulayabilirim? Çoğu zaman bu, gazetecilikteki klasik beş Neden prensibidir (Kim, Ne, Nerede, Neden, Ne Zaman ve Nasıl). Kağıda yazıldığında çocukça gibi görünürler, ancak düzenli olarak gözden kaçırdığınız göz ardı edilen açıları incelemeye zorlarlar.

Bu çağda insanlar, bu tüm zorlu düşünceleri atlayıp akıllı sistemlere “Bence ne yapmalıyım?” diye sormaktan kendilerini alamıyorlar. Bu nedenle, akıllı sistemler çağına uygun olarak kendi yansıma listemi güncelledim:

Soruyu sormadan önce kendi ilk varsayımımla mı başladım? Herhangi bir önemsiz olmayan görevi işlemek için bir ajanı başlatmadan önce, zihnimde (veya bir not kağıdında) olası cevap yönlerini yazmaya zorlarım. Bu sadece kaba ve kötü bir tahmin olsun tamam. Yeni bilgiler gördükten sonra her zaman fikrinizi değiştirmek ve tersine çevirmek hakkına sahipsiniz. Ancak elinizde son derece zarif ve akıcı bir üretilmiş cevap varsa, başka hiçbir olasılığı hayal etmek zorlaşır. Eğer tamamen baştan başlıyorsanız, Thariq Shihipar’ın “bilinmeyen bilinmeyenleri bulma soru tekniği” adını verdiği yöntemi deneyin: Bildiklerinizi tamamen ortaya koyun ve modelin size bilmediğiniz bilinmeyenleri bulmada yardımcı olmasına izin verin.

Ben onu düşünmemde yardımcı olarak mı kullanıyorum, yoksa düşünmeyi tamamen ona mı devrediyorum? Bu iki mod da izin verilmiştir, anahtar nokta tamamen uyanık kalmanız ve şu anda hangi durumda olduğunuzu net bir şekilde bilmenizdir.

Bu senaryonun tamamen geçersiz hale gelmesi için hangi ön koşullar gerekir? Bunları net bir şekilde düşünün ve hemen pratikte test edin. Modelin kendi cevaplarına olan güven düzeyi, sizin gerçek bir test gerçekleştirmenizden çok daha az değerlidir; bu nedenle modele gerçek bir sınav koyun.

• Karşıt bakış açılarından gelen ters argümanları dinledim mi? Bir açık soru üzerinde katı bir tutum benimsediğimde, modelden benim için bu tutumun en güçlü karşı argümanlarını listelemesi için eleştirel bir muhalefet rolü üstlenmesini istiyorum. Bu, kararımı tersine çevirmek için değil, aksine, kolay koşullarda zihnim tarafından otomatik olarak süzülen olumsuz gizli noktalarla yüzleşmemi zorlamak içindir.

• Bu sonucu kendi başıma savunmak zorunda kalırsam ne demeliyim? Lütfen akıllı arayüz penceresini kapatın ve bu planı tamamen kendi kelimelerinizle bir meslektaşınıza açıklayın. Eğer anlatırken takılıyorsanız, bu size henüz tam olarak anlamadığınızı gösterir; o zaman sadece bir AI ses kopyası olarak hareket ediyorsunuz.

Pasif okuma modunda, beyniniz sadece önceden belirlenmiş metin üzerinde mekanik olarak kayar ve bilgi akışını pasif olarak alır. Çünkü akıllı sistemlerin ürettiği metinler genellikle akıcı, güzel bir üsluba ve hata yokmuş gibi bir dilbilgisiye sahiptir; bu ortamda pasif okuma, size özü tamamen kavradığınız yanılsamasını yapar. Bu, teknik bir konferansta sahnede üst düzey bir konuşmacının akıcı bir şekilde mimari işlemlerini izlerken, salt izleyerek başınızı sallayıp bunun doğal olduğunu düşünmeniz gibi; ancak otel odanıza dönüp boş bir editör açtığınızda, ilk satır kodu bile yazamadığınızı fark edersiniz.

Aktif okuma, karşıt varsayımlarla yapılan bir inceleme eylemidir. Sadece metinde ne yazıldığını değil, bunun neden buraya yazıldığını, hangi temel zorluklardan kaçındığını ve neden bu çözümün diğer bir çözüm yerine tercih edildiğini sorgular.

Uzun süreli planlar için genellikle iki çok net eleştirel bakış açısıyla okurum:

Öncelikle “eksik bağlam”ları bulmak: Hangi varsayımlara dayanıyor? Hangi kenar durumlarını atlıyor? İki ihtiyaç çakıştığında, hangi prensibe göre benim adıma sessizce tercih yapıyor?

İkinci olarak, aktif olarak "mücadeleci sorular" sorun: Eşzamanlı erişim sayısı aniden on katına çıkarsa, bu tasarım nasıl çöker? Üçüncü tarafın dış bağımlılık hizmeti yarım saat boyunca çalışmazsa, sistemde hangi zincirleme felaketler ortaya çıkar? Pasif olarak tüm cevapları okumak yerine, ona bir basınç testi uygulamak için aktif olarak bir cerrahi bıçak tutun.

Ajanlar yalnızca uzun metinler yazmak için değil, aynı zamanda derin eleştirel okumada size yardımcı olacak şekilde eğitilebilir. Anahtar nokta, sadece mutlu sonuçlar üretmesini değil, arkasındaki farklılıklar ve çatlakları ortaya çıkarmasını sağlamaktır:

İki görünüşte çelişkili mimari tasarımı birbirinin üzerine sorgulayabilir, her ikisinin de neye taviz verdiğini gösterebilir; testleri geçse de gelecekteki bakım tuzakları barındıran kötü kodları özel olarak bulmak için sert bir kod incelemeci rolü üstlenebilir; hatta uzun metin çıktısı verdikten sonra rastgele üç ayrı ayrı detayı seçip size ters yönde sorular sorarak, bağlamı gerçekten anladığınızı test edebilir.

Akıllı sistemi, düşünmenin yerine geçmek yerine, düşünmenin bir taşlama taşı olarak kullanın.

Kod yazmak ve kod denetlemek tamamen farklı iki zihinsel beceridir. Büyük miktarda üretilen kod akışının önünde, insan denetimi yorgunlukla gözlerini kapatıp damga vurmak haline gelir.

Bu nedenle kod değişikliklerini (Diff) incelerken, bu kodun asla yetenekli bir AI tarafından yazılmış gibi değil, yeni işe başlamış bir stajyer tarafından sunulmuş gibi davranın. Daha da önemlisi, sadece eklenen ve kaldırılan satırlara odaklanmayın; arka planda akıllı sistemin sizin için yaptığı büyük küçük kararları sorgulayın: Hangi varsayılan değerleri seçti? Hangi karmaşık mantıkları bu kapsamdan gizlice çıkardı? İki ürün gereksinimi çakıştığında, hangi gereksinimi gizlice yeniden yorumladı?

Bir rapor sadece “her şey yolunda, tüm testler geçildi” diye hafifçe geçip giderse, asla kritik kararların arka planını göremezsiniz. Bu nedenle, size bu görev sırasında hangi öznel varsayımlar ve uzlaşmalar yapıldığını açıkça listeleyen bir bölüm talep edin. Ardından kendi kendinize rastgele bir denetim yapın: rastgele iki veya üç ana kod satırını işaretleyin ve neden bunları böyle yazdığınızı kendinize sorun. Eğer bir tasarım belgesiyle karşı karşıysanız, sayfayı kapatın ve temel argümanları tamamen hafızanızdan başkalarına anlatmaya çalışın. Bazı takımların uyguladığı sert bir kuralı çok seviyorum: Otomasyonların değişiklik raporlarının sonuna kendi kendini test eden bir dizi soru eklemesi. Takımın katı kuralı şudur: “Test sorularının %100’ünü doğru cevaplayana kadar kod birleştirilmeyecek.”

Kendinizin sunduğunuz ürünü yeterince iyi anladığınızdan ve her zaman onu savunmaya hazır olduğunuzdan emin olun. Çünkü gelecekte bir gün, kesinlikle sorularla gelen biri olacaktır.

Aynı zamanda, agenter, değerli dikkat savunmaları kurmamıza da yardımcı olabilir. Örneğin, yoğun Pull Request alan büyük bir açık kaynak projesini yönetiyorum. Agenterlere, hangi gönderilerin topluluk katkı kriterlerini ihlal ettiğini ve hangilerinin benim özellikle odaklanmamı gerektirdiğini belirlemelerini sağlıyorum. Agenterlerin birleşim kararını doğrudan vermesine asla izin vermem, ancak onlar bana dikkat süzgecimi hassas bir şekilde daraltarak, gerçek insan biliş kapasitemi “bu değişiklikler, gerçekten doğru sorunları doğru yolla çözüyor mu?” üzerine odaklamama yardımcı olur.

Son olarak, üretimin patlamasından kaynaklanan psikolojik şişmeyi kabul etmek gerekir. Buna “orchestration tax” (düzenleme vergisi) diyorum; bu, akıllı ajanların ürettiği büyük ölçekli endüstriyel ürünler ile gerçekten vicdanınızın rahat olacak şekilde adınızı imzalamaya razı olduğunuz kaliteli ürünler arasındaki büyük farktır. Eğer üretimin birikme hızı, dikkatli incelemenizin fizyolojik sınırlarını çoktan aşmışsa, yeni bir paralel oturum açmak hiçbir şeyi değiştirmez: ya otomatik doğrulama sürecini sıkılaştırmalısınız ya da kararlı bir şekilde hızınızı azaltmalısınız.

Ürettiğiniz şey, sorumluluk alabileceğiniz sınırları aştığında, profesyonel bir inceleme yapmıyorsunuz, sadece kaderden iyi olmayı diliyorsunuz.

İnsan-makine iş birliği sistemlerinde, insan zihinsel modeli kaybolmamıştır, sadece ağırlık merkezi kaymıştır: eski uzun ara kodlama aşamasından, tamamen başlangıç görev girdisi ve son ürün onayına taşınmıştır. Tüm bilişsel çabanızı, erken aşamadaki görev ayrıştırma ve bağlam sağlama ile son aşamadaki sıkı denetim döngüsüne yatırıyorsunuz. İşte neden uyarı metinlerinin (Prompting) kalitesi sonucu belirleyici bir etkiye sahiptir; ben her zaman iyi bir uyarı mühendisliğini yüksek düzeyde eleştirel düşünmenin temel becerisi olarak görüyorum.

Geçmişte, belirsiz bir talep insan meslektaşınıza atarsanız, karşı taraf hemen sizi geri itecek ve siz de sorduğunuz soruda fark edecektiniz: “Aslında bu konuyu tam olarak düşünmemiştim.” Ancak akıllı ajanlar genellikle bu noktada sizi durdurmayacaktır. Eksik tüm detayları kendi başına tamamlayacak ve arka planda temel niyet hâlâ bulanık olsa bile, görünüşte son derece düzenli ve eksiksiz bir teslimat sunacaktır. Bu fenomeni “Niye Borcu” (Intent Debt) olarak adlandırıyorum: Teslim edilen şeylere gizlice yerleştirilmiş, ancak sizin bile gerçekten sorgulamadığınız örtük hedefler ve kısıtlamalar. Diğer borçlardan farklı olarak, niyet borcunu kimse sizin yerinize ödemeyecek; temel niyet %100 sizden kaynaklanmalıdır.

Yazdığınız ipucu, tam olarak sorunu anlama derinliğinizin bir aynasıdır; bunu net ve kesin bir dille ifade edemiyorsanız, genellikle bu, zihninizi kendi içinde bir karışıklık halinde olduğunu gösterir.

Dışarıdan hesaplama gücü desteği istemeden önce, kendi ifadenizle basit ve anlaşılır bir görev gereksinimleri taslağı yazın. Hedef kitleyi açıkça belirtin, kesinlikle dokunulmaması gereken sınırları tanımlayın ve tamamlanmış olma kriterini (Definition of Done) net bir şekilde belirleyin. İkinci revizyon hâlâ beklentileri karşılamıyorsa, rastgele küçük ayarlamalara devam etmek yerine giriş uyarı metninizin tamamını yeniden yazın.

Aynı zamanda, akıllı sistemleri kullanarak kendi girdi kalitenizi de artırabilirsiniz. Felsefeci Andy Clark, "görevleri tek yönlü olarak AI'ye devretmek" ile "AI ile derin, karşılıklı bir iş birliği yapmak" arasında derin bir ayrım yapmıştır. Gerçek bir iş birliği modelinde, birbirinizi güçlendiren pozitif bir döngüye girersiniz: hassas ipuçlarınız mükemmel çıktılar üretir, çıktılar ise daha derin ipuçlarının ortaya çıkmasını zorlar ve sonunda sisteme dair zihinsel modelinizi büyük ölçüde derinleştirir. Mantığınızın tam mı değil mi olduğundan emin değilseniz, akıllı sistemin size ters bir röportaj yapmasını isteyin ve anlayamadığı alanları sorgulamasını sağlayın. Bir sohbet sonunda kendi zihninize kurduğunuz mantık döngüsünün yükseldiğini hissediyorsanız, bu gerçek bir başarı işaretidir.

Ayrıca, bağlam kirlenmesine dikkat edilmelidir. Birden fazla akıllı sistem birlikte çalıştığında, sonraki akıllı sistemin yalnızca öncekinin sıkıştırılmış özetine dayanarak çalışmaya devam etmesi sorunu kolayca ortaya çıkar ve bu zincirleme azalma sonucunda üçüncü akıllı sistem asla orijinal temel belgeyi okumamış olabilir.

Aynı zamanda, kendi estetik ve kalite standartlarınızı oluşturmalısınız. AI'yi birçok farklı yaratıcı ve mühendislik alanında denedim; çoğu çıktı asla yayınlanmadı, çünkü kişisel standartlarımı karşılamadı. Bugün, tüm model çıktıları son derece zarif biçimlendirilebilir ve kendinden emin görünür; bu nedenle “yüzey pürüzsüzlüğü” artık kalitenin geçerli bir göstergesi değildir.

Yapay zeka, içerik üretiminin akış hızını büyük ölçüde artırabilir, ancak çıktının benim adımı koymaktan utanç duyduğum bir şey olmasından emin olana kadar hiçbir zaman bunu dışarıya yayınlamayacağım.

Bir çıktı standartları karşılamadığında, hatanın tam nedenini paylaşım yapılandırmasında, Git engel kancalarında veya otomatik test senaryolarında açıkça kaydedin ve aynı hatanın tekrarlanmasını önleyin. Bu, lezzetin ve standartların bileşik şekilde birikmesinin tek doğru yoluudur; hangi şeyler eşiği aşamadıysa onları açıkça kaydetmek, kendine değerli bir bilgi egzersizidir.

Eğer AI'nın geleceği konusunda yanımdaki birçok tutkulu profesyonel gibi güçlü bir yükseliş inancına sahipseniz, muhtemelen ilk birkaç bölümü okurken şu düşünceniz already aklınıza gelmişti: "Bir ya da iki yıl içinde, modellerin düzeltme ve içgörü yetenekleri beni tamamen geçecek, o zaman bu eleştirel inceleme becerilerimi korumaya neden harcayayım?"

Çok sayıda saf teknik göstergenin tespitinde öngörünüz tamamen doğru olabilir ve ben de giderek daha fazla otomatik tespit yetkisini ajanlara devretmeyi savunuyorum. Ancak bu yeteneği gelecekte hâlâ kritik bir önem taşıyan tek neden nedir? Çünkü temelde, canlı ve gerçek bir insan, piyasaya sunulan gerçek sonuçlar için tam sorumluluk taşımalıdır. Arka planda ne kadar fazla hesaplama gücü kullanılırsa kullanılsın, yargılama sandalyesine çıkan ya da sonuçları karşılayan yalnızca gerçek bir insandır.

Bir görevde bir agente ne kadar güven verileceğine karar vermek, kendisi yüksek bir zeka gerektiren niteliksel bir karar verme işlemidir. Kesin bir kalibrasyon becerisini sürekli korumak için, modelin hatalarının dinamik olarak değişen garip desenlerini gözlemlemek amacıyla sürekli olarak kendi kendinize işleri incelemeniz gerekir. Anthropic, en üst düzey mühendislerini ve araştırmacılarını izleyen çalışmalarında, “Denetim Paradoksu”nun ölümcül tuzağını açıkça ortaya koydu: Claude’u denetlemek ve yönetmek için gerekli olan yüksek seviyeli mühendislik ve mimari uzmanlıklar, insanlar AI’ya aşırı bağımlı hale geldikçe en hızlı şekilde zayıflayan temel becerilerdir.

Bu son sorular, benim en çok önem verdiğim ve en güçlü büyük modellerin bile sizin yerinize cevaplayamayacağı iddialardır: Bu ürünü neden oluşturuyorsunuz? Sosyal ve ticari değeri nedir? Hangi belirli insanları derinlemesine etkileyecektir? Bunun gerçekleştirilmesi için ne kadar maliyet ve uzlaşmaya razı olursunuz? Bunların hepsini sizin kendi cevap vermeniz gerekir. Akıllı ajanlar bu soruları çözmek için büyük başarılar gösterebilir ve bunu görmekten memnun olurum, ancak nihai karar damgası her zaman sizin elinizde olacaktır.

Belirli işleri ve hatta büyük ölçüde denetim süreçlerini tamamen algoritmaya devredebilirsiniz, ancak nihai sorumluluk ve sorumluluk duygusunu asla devredebilirsiniz.

Tüm kurallara katıca bağlı kalmak zorunda değilsiniz, sadece iş akışınıza uygun olanları doğal şekilde entegre edin:

• Haftada bir kez offline bilinçli alıştırma: Haftada sabit bir zaman ayırın, tamamen araç desteklerinden uzak kalın ve kritik bir kod parçasını tamamen elle yazın ya da bir kez becerinizi kaybederseniz ciddi sonuçlar doğuracak olan temel bir işi kendi başınıza tamamlayın (buna bilişsel uyum alıştırması diyorum, bu hiçbir şekilde ahlaki zorlama değildir).

• Aylık beceri denetimi: Her ay, geçtiğiniz ayda AI bağımlılığı nedeniyle kendi kendinize yapmayı bıraktığınız şeyleri listelemek ve ciddi bir şekilde incelemek: Bu becerilerden hangilerini kalıcı olarak unutmayı gerçekten kabul edebilirsiniz? Yıllar önce yazdığım bir eski blog yazısında sorduğum soru, bugün hâlâ güçlü bir şekilde sesleniyor: Bir gün AI aniden tamamen kaybolursa, ne kadar büyük bir felç ve kafa karışıklığına uğrayacaksınız?

Anlamadığınız şeyleri kendiniz derinlemesine araştırın: Şu anki anlayışınızın dışına çıkan bir kavramla karşılaşırsanız, kendiniz sistematik olarak öğrenmelisiniz. Bir makale yazarken daha önce karşılaştığım olmayan bir terimle karşılaşsam bile, doğrudan bir Wikipedia tanımını arayıp metne eklemek yerine, bunun neden ve sonuçlarını anlayana kadar biraz zaman ayırıp derinlemesine küçük bir araştırma yapmayı tercih ederim, böylece bilgi全景 içindeki yerini tamamen anlayana kadar.

İnceleme makinesini resmi bir iş olarak planlayın: Makinenin üretimi üzerinde gerçekçi ve titiz bir inceleme yapmak, son derece yoğun bir zihinsel çabadır. Bu işin kolay olduğunu varsaymak, birçok ekibin incelemeyi tamamen bırakmasına ve büyük felaketlere neden olmasının temel nedenidir. İnceleme ücretsiz bir öğün değildir; bunu günlük iş programınıza düzgün bir şekilde ekleyin, böylece bunu gerçekçi bir şekilde uygulamak için gerçekten gerekli enerjiye sahip olursunuz.

• Uzun süre kullanılmayan beceriler hızla zayıflar: Uzun süre bırakılan her bilişsel kas, beklentinizin çok ötesinde hızla zayıflar. Asla teslim etmek istemediğiniz temel becerileri sürekli kendiniz uygulamaya devam edin.

• Net niyeti koruyun: Ajan tamamen size ters test yapabilir, sizi röportaja alabilir ve temel argümanlarınızı gösterebilir, ancak bu sadece bu işbirlik mekanizmasını aktif olarak tasarlayıp yapılandırırsanız mümkündür. Lütfen hemen kurun.

• Spektrumdaki gerçek konumunuzla dürüst olun: Eğer bir agentin ipucu olmadan birine cevabın arka planını açıklayamıyorsanız, bilişsel teslimiyet yaptığınızı kabul edin.

• Her soruyu önceden varsayımlarla sorun: AI'ya soru sormadan önce, iyi ya da kötü olsun, zihninizde kendi tahminlerinizi oluşturun.

• Bir yeşil işareti yalnızca bir testin geçtiğini gösterir: Her zaman sorun: Bu test tam olarak neyi kontrol ediyor? Neyi gizlice atlıyor?

• Öncelikle nesnel argümanları inceleyin, ardından öznel sonuçları okuyun: Verdiği süslü özetlere bakmadan önce, hangi gerçek komutları çalıştırdığını ve hangi temel verileri çağırdığını satır satır görün.

Karar verme hassasiyetiyle okuyun: Bu çıktıda aracının sizin adınıza hangi küçük kararları kendiliğinden aldığını anlayın.

• Girdi ipuçlarınızı inceleyin: İpucu yazma derinliğiniz ve yapınız, sorunun özünü gerçek anlamda ne kadar iyi anladığınızı doğrudan yansıtır.

Mutlak teslimat sınırını belirleyin ve ona sıkıca tutunun: Eğer bu şeyi kendi adınıza imzalamak kendinize utanç veriyorsa, kesinlikle onaylamayın.

Kritik temel becerileri sürekli kendi ellerinizle uygulayarak, daima tahtanın merkezinde kalın. Günlük yaşamda hemen deneyebileceğiniz en basit küçük alışkanlık: Akıllı varlığa soru sormadan önce, tahmin ettiğiniz olası yönleri bir not kağıdına yazın; akıllı varlığın çıktısını aldıktan hemen sonra, karşılaştığı bir eksikliği yazın. Bu küçük karşıtlık alışkanlığının, AI çıktılarını incelerken düşüncenizin derinliğini tamamen değiştirebileceğini görün. Bağımsız düşünün, daha derinlemesine kaliteli sorular sorun ve sonucun tamamen sorumluluğunu üstlenin.

Resim: AI ajan iş akışlarında bağımsız düşünme ve sorumluluk döngüsünü koruma