George Hotz, AI kodlama ajentlerinin kripto ve DeFi için büyük bir risk oluşturduğunu uyarıyor

George Hotz — 17 yaşında iPhone’u çözen ve Sony ile mahkemede yüzleşmeden önce PlayStation 3’ü tersine mühendislik yapan hacker — şunları söyledi: AI kodlama ajanlarının yaygın kullanımı, “alanın tarihindeki en pahalı hatalardan biri” olabilir. Pazar günü yayımlanan “Sonsuz Sloptember” başlıklı blog yazısında, Hotz, ajan tabanlı kodlama araçlarının hiçbir şekilde güvenilir bir şekilde “programlama” yapmadığını savunuyor. “Ajanlar programlayamaz ve bunun yapamadıklarını fark etmek giderek daha uzun sürüyor,” yazdı. Temel iddiası şuydu: bu modeller, makul görünümlü çıktılar üretir ama bu çıktılar gizli ve giderek daha fazla bozuktur; modellerin istatistiksel akıcılıkları arttıkça bu hataların tespiti de daha zor hale gelmektedir. Ne test etti ve ne buldu? - Hotz, bu sonuca düşünsel deneylerle ulaşmadı. Altı ay boyunca Tinygrad’ın (açık kaynaklı derin öğrenme çerçevesi) bazı bölümlerini genişletti ve bir USB-PCIe çipinin tam firmware’ini tersine mühendislik yoluyla inceledi. - Deneyimi: Ajanlar “tüm ilerlemeyi başta toplar” — açık olan kısımlarda hızlı ilerleme sağlarlar ama bitirme ve güvenilir işin gerçekleşmesi beklenen bir “slot makinesi kolu” bırakırlar. Pratikte bu genellikle gerçekleşmez: sürekli manuel düzeltmeler yapmak zorunda kalırsınız. Sadece ego meselesi değil, organizasyonel bir risk Hotz, eleştirisinin mesleki tribalizmden kaynaklandığını reddediyor. Daha önceki otomatik araçların (örneğin AFL gibi fuzzers) insanlardan daha fazla hata bulduğunu ve AI’nın hakim olduğu oyunların (satranç, Go) başarılı olduğunu belirtiyor. Endişesi yapısal: yüksek performanslı bireylerin sıkı geri bildirim döngüleri vardır ve ajanlar tarafından oluşturulan hataları tespit edip düzeltebilirler. Düşük performanslılar ise — ajan yardımıyla çıktıları on katına çıkabilenler — bunu yapamazlar. Hotz, bu dinamiklerin, gönderilen kodun ortalama kalitesindeki düşüşü hızlandıracağını uyarıyor: “Bollukla dolu bir ‘slop’ altın çağı ve kaliteli ‘gems’ için bir karanlık çağ.” Kitle bazlı ajan benimseme çabasını kısmen ticari psikoloji olarak tanımlıyor: “Bu, ajanları satmak için bir tür psyoop gibi geliyor.” Büyük şirketlerin altta yatan riskleri tam olarak anlayamadan bile araçları benimsemelerini, geride kalma korkusunun tetiklediğini savunuyor. Apple’ın mühendislik organizasyonu boyunca AI kodlama araçlarını yaymaya çalıştığını belirten raporları da isimlendirerek şunu soruyor: “Bir sonraki 2 yıl içinde macOS’un daha iyi mi yoksa daha kötü mü olacağını düşünüyorsunuz?” Hotz’un geniş tartışmadaki konumu Hotz, kendini “LeCun/Marcus kampanyasında” yer alıyor olarak tanımlıyor — Yann LeCun ve Gary Marcus gibi düşünürlerle aynı fikirde: büyük dil modellerinin, ilk prensiplerden çıkarım yapan sistemler değil, mevcut kod dağılımlarını taklit eden güçlü desen eşleştiriciler olduğunu savunuyor. Diğer tarafta, bazı önde gelen araştırmacılar ajan tabanlı kodlamayı temel bir dönüşüm olarak görüyor. 2025’in başlarında ajan kodlamaya şüpheyle yaklaşan Andrej Karpathy, son model ilerlemelerinden sonra tutumunu değiştirdi ve 19 Mayıs 2026’da Anthropic’in ön-eğitim ekibine katıldı. Anthropic CEO’su Dario Amodei, Davos’ta şirketin bazı mühendislerinin artık kendi kendilerine kod yazmayı bırakıp model çıktılarını incelemeye başladığını açıkladı. Hotz, bu iş akışını denediğini ve tekrar tekrar manuel müdahalelere başvurduğunu bildirdi. Kripto geliştiricileri ve DeFi için neden önemli? Bu tartışma, blok zinciri ve kripto mühendislik ekipleri için akademik değil. Akıllı sözleşmeler, cüzdanlar, köprüler ve zincir içi altyapı, ince hataların milyonlarca dolarlık istismarlara dönüşebileceği sert ortamlardır. Eğer ajanlar tarafından üretilen kod, zayıf inceleme süreçlerinden kaçarak zor tespit edilebilir hatalar getirirse, kitle bazlı benimsemenin maliyeti, merkeziyetsiz finans ve güvenlik-kritik kripto sistemleri için özellikle yüksek olabilir. Sonuç Hotz’un blog yazısı, ajan tabanlı kodlamaya hızla ilerlemenin karşıtı olarak yüksek profilli, uygulayıcı düzeyinde bir uyarıdır. Pozisyonu, ajanların yazılım geliştirme sürecini dönüştüreceğini (ve zaten dönüştürmeye başladığını) inanan heyecanlı destekçiler ile ajanların ölçekli olarak uygulanmasının kod kalitesinde sistematik bir bozulmaya yol açacağından korkan şüpheci grup arasında canlı bir endüstriyel çatışma oluşturuyor. Doğruluk ve denetlenebilirliğin öncelikli olduğu kripto alanında — geliştiriciler ve ekipler için hız ile güvenlik arasındaki denge hiç olmadığı kadar önemli hale gelmiştir.