Diş ipi üzerine inşa edilmiş IT altyapısı: Görünmeyen Darboğaz

Yazar: Derleyen Vardı

Şu anda okuduğunuz bu makale, kaç katmanlı bir teknoloji yığınından geçtiğini düşündünüz mü?

Akıllı telefon işletim sistemi, tarayıcı çekirdeği, JavaScript motoru, WebAssembly, CDN, DNS, bulut sunucusu, Linux çekirdeği, C dili çalışma kütüphanesi, CPU komut seti, yarım iletken wafer… sonunda elektrik tüketen bir silikon çip üzerinde.

Her kat, sert gibi görünüyor. Her katın beyaz kağıdı, sertifikası ve büyük şirketlerin desteği var.

Ancak onları bir arada görünce, alttan tümünü destekleyen ince ve saçma bir kırmızı sütun üzerine kurulmuş, sarsılan bir gök kulesi gibi endişe verici bir görüntü elde edersiniz.

Adı: Von Neumann darboğazı.

Kule tepeinde duran ve telefonunuzu tutan siz, her şeyin normal olduğunu düşünüyorsunuz.

John von Neumann, modern bilgisayarların babası. Von Neumann mimarisi, neredeyse tüm modern bilgisayarların temel tasarımını oluşturur. CPU hesaplamaları yürütür, bellek verileri saklar ve ikisi arasındaki veri taşıma işlemi tek bir veri yoluyla gerçekleştirilir. Bu tasarım, 1945'ten günümüze kadar büyük bilgisayarlar, PC'ler, internet ve mobil dönemleri aştı ve şimdi yapay zekâyı destekliyor.

Ancak iki temel kusuru vardır: 1) CPU hesaplama hızı giderek artarken, bellek ve veri yolu bu hızla eşleşemiyor. Veri taşıma, tüm sistemin sınırları haline gelmiştir—CPU'nun büyük bir kısmı hesaplama yerine veri beklemektedir. 2) CPU'nun yüksek işlem kapasitesi, önbellek kapasitesine bağımlıdır; ancak önbelleğin doğal fiziksel sınırları vardır ve bellek gibi yatay olarak genişletilemez. İnsanlar için okunabilirliği ön planda tutan modern yüksek seviyeli programlama dilleri, giderek daha ağırlaşan programları ve karmaşık heterojen verileri beraberinde getirmiştir; bu durum önbellek kapasitesinin üst sınırını aşmıştır ve bu da bellek-CPU arasındaki veri taşıma sıklığını ve hacmini artırmıştır. Sonuç olarak bilgisayarlar giderek daha yavaş, daha sert ve daha çok çökmeye başlamıştır. Bu, "von Neumann darboğazı"dır.

Ironik bir şekilde, bu darboğaz, tüm IT endüstrisinin en temel, en çekirdek ve kaçınılmaz sorunu olmasına rağmen, en az ilgi gören sorundur.

Neden? Çünkü çözmek çok zor ve kolay para kazandırmıyor.

Büyük şirketler, daha hızlı GPU'lar, daha büyük video belleği, daha karmaşık önbellek katmanları ve daha akıllı zamanlama algoritmaları eklemeyi tercih eder. Her katman PPT'ye yazılabilir, her katman para kazandırır ve her katman o kırmızı sütunu etrafında dolaşır, sorunu doğrudan karşılamaz ve çözmek yerine.

Bir bina sürekli olarak üst katlara çıkarılırken, temeldeki çatlaklar giderek daha kalın duvar kağıtlarıyla örtülüyor.

İçerde yaşayan insanlara güvenli mi diye sorarsanız: Endişelenmeyin, en son akıllı kapı kilitlerini takıp en pahalı afet sigortasını aldık diyecekler.

Bu resme bakarak ilginç bir durumu fark edersiniz: Her katman ayrı ayrı alındığında, dikkatle tasarlanmış küpler gibi görünüyor.

İşletim sisteminin katı bir çekirdek mimarisi vardır. Yüksek bant genişlikli bellek HBM, ince bir yığın teknolojisine sahiptir. CPU ve GPU, milyarlarca transistöre sahip ince bir tasarıma sahiptir. Yarı iletken fabrikaları, insan endüstrisinin taçtır.

Linux ve Apache Vakfı, dünyanın en güvenilir açık kaynak altyapısını sürdürüyor. LibcURL, ağ gerektiren neredeyse tüm programlar tarafından çağrılıyor. DNS sistemi, küresel internetin birbirini bulmasını sağlıyor. Bulut hesaplama sağlayıcıları %99,99 kullanılabilirlik vaat ediyor.

Her blok düzgün ve kare şeklindedir, her blokta makale, standart ve denetim vardır.

Ancak onları alttan üste yığırsanız, görüntü değişir.

Modern dijital altyapının gerçekliği budur: iyi tasarlanmış bir bütünlük değil, sayısız geçici çözümlerin birikiminden oluşan bir mucize.

İyi tasarlanmasından değil, yeterince çok kişinin yeterince çok gece yeterince çok düzeltme yapmasından dolayı çalışıyor.

Bir bina kullandığınızı düşünüyorsunuz. Aslında bir yığın tamir parçasının üzerine ayakta duruyorsunuz.

Yanadan uzanan, "AI Yapay Zeka" olarak etiketlenmiş robot kolu görün.

Bu kuleyi desteklemiyor, aksine kâğıt evler gibi tesislerin çöküşünü hızlandıran bir kaldıraç görevi görüyor.

Bu, mevcut yapay zeka hırsının en doğru mizahıdır.

Herkes AI'nın üretkenlik devrimi olduğunu, bir sonraki çağı olduğunu, her şeyi kurtaracak tek çare olduğunu söylüyor. Ancak altyapı açısından bakıldığında, AI'nın yaptığı ilk şey, zaten sarsılmış sistemi daha tehlikeli bir kenara itmek.

Neden? Çünkü 1) AI, hesaplama gücü açısından bir devdir. Büyük modellerin bir kez eğitilmesi, küçük bir şehrin bir yıllık elektrik tüketimine eşdeğerdir. Tahmin dağıtımında milyonlarca GPU gerekir ve GPU'ların temelinde hâlâ von Neumann mimarisi çalışır—bu kırmızı sütun, daha önceki herhangi bir zamandan daha büyük bir yük taşır. 2) AI kullanıcılarının veri altyapısına uyguladığı yoğun arama baskısı, insan kullanıcılarınkinden binlerce kat daha fazladır ve şu anda savunulan döngü (loop) çözümleri, AI görevlerinin veri arama, sorgulama ve hesaplama sıklığını geometrik olarak daha da artıracaktır.

Daha ironik olan, AI'nın üretimi.

Çok sayıda AI tarafından üretilen kod, kalitesi değişken bir şekilde açık kaynak projelere gönderiliyor ve sürekli olarak açıklar ortaya çıkıyor. İnternet, büyük ölçüde AI tarafından üretilen içeriklerle doluyor ve arama motoru sonuçları spam ile bastırılıyor. Çok sayıda AI tarafından üretilen "çözüm", ürün olarak müşterilere satılıyor ve sorunlar ortaya çıktığında altta yatan temelin bir illüzyon olduğu anlaşılıyor.

AI, o kırmızı sütunu onarmadı, sadece kule tepeye bir kat daha ekledi ve herkese: Bak, daha yüksekteyiz, dedi.

Düşüp düşmeyeceği ise bir sonraki çeyrek meselesi.

İyi bir şaka var: İnsanlık, bilgisayarları 70 yıl içinde "hızlı hesap yapmaktan" "rastgele şeyler söyleyebilmeye" taşıdı ve bunu ilerleme diye adlandırdı.

Görselin sağ tarafında, öfkeli bir kuş kuleye doğru çarpmaktadır. Yanındaki etiket: "Büyük Şirketler"in yaptığı işler.

Bu benzetme sert ama doğru.

Büyük şirketler, düzenli aralıklarla "devrim niteliğinde" yeni ürünler, yeni çerçeveler ve yeni standartlar duyurur. Sunumlar büyük ölçekli, PPT'ler muhteşem ve KOL'lar bir ağızdan alkışlar.

Ancak bu ürünler genellikle mevcut endüstriyel yapıyı onarmak veya güçlendirmek yerine, onu bozmaktadır.

Yeni bir çerçeve ortaya çıktığında, eski çerçevenin ekosistemi ölür. Yeni bir standart çıktığında, eski standartlarla uyumlu tüm cihazlar "geride kalan ürünler" haline gelir. Büyük şirketler bunun maliyeti olduğunu bilmiyor değil. Ancak onlar için ekosistemi bozma maliyeti geliştiriciler ve kullanıcılar tarafından karşılanırken, yeni ürünlerin getirdiği büyüme ve değerlenme kendi kazançlarıdır.

Resmin sol tarafında, bir Rust bağımsız geliştirici roketle uçuyor ve etiketinde "RUST bağımsız geliştiriciler kendi işlerini yapıyor" yazıyor.

Bu başka bir alay.

Bağımsız geliştiriciler, IT ekosisteminin en dinamik grubudur. Büyük şirketlerin KPI'larından bağımsız olarak hızlıca deneme yapabilir ve büyük şirketlerin yapamadığı kaliteli uygulamalar geliştirebilir.

Ancak bağımsız geliştiricilerin üretimi de diğer bir yüzü vardır

Karışık. Aynı fonksiyon için on bağımsız geliştirici, on farklı versiyon yaptı, her biri kendi tasarım felsefesine sahip ve her biri yalnızca yazarın ilgisi kaybolana kadar sürdürüldü.

Sırasız. Tek bir standart yok, uyumluluk taahhüdü yok, yükseltme yolu haritası yok. Bugün kullanabilirsiniz, yarın yazar veritabanını silebilir.

- Dikkatsiz. Birçok bağımsız projenin testi yok, belgeleri yok, güvenlik denetimi yok. Yazar, "çalışıyorsa yeter" diye düşünüyor ve bu proje on binlerce diğer projeye bağımlı hale geliyor.

Bu sorunlar tek başlarına küçük görünse de, biriktiğinde piyasa için başka bir yıkıma neden oluyor. Kullanıcılar sonsuz sayıda yarı tamamlanmış ürün arasında seçim yapıyor, geliştiriciler sonsuz sayıda terk edilmiş çerçevede tuzaklara düşüyor ve ekosistemin güven maliyeti giderek artıyor.

Ve resimde roketle uçan Rust geliştiricisi gibi gerçekten harika bağımsız geliştiriciler, kendi işlerini çok iyi yapıyorlar ama bu sarsılmış kuleyle hiçbir ilgileri yok.

Kule onlar için daha sağlam olmayacak, onlar da kule için durmayacak.

Herkes kendi işine bakıyor, kendi şeyini bozuyor.

Bu resmi baştan sona tamamen inceleyelim.

En alt katman, "Elektrik (hesaplama gücü, su, enerji vb.)" yazan gri büyük bir karedir. Bu, her şeyin başlangıcıdır—elektrik olmadan hesaplama yoktur. Ancak IT endüstrisinin hikayesinde, elektrik en çok göz ardı edilen katmandır. İnsanlar bulut tabanlı sistemleri, mikro hizmetleri ve büyük modelleri tartışır, ancak nadiren şunu sorarlar: Bunların tükettiği elektrik nereden geliyor? Ne kadar para ödeniyor? Çevreye ne tür etkileri var?

Elektriğin üzerinde dört temel taşı bulunur: işletim sistemi, yüksek bant genişlikli bellek (HBM), CPU/GPU ve yarı iletken fabrikaları. Bu, donanım katmanıdır ve gerçekten "düzgün kare" olan kısımdır. Her biri insan endüstrisinin en üst düzeyini temsil eder. Ancak dikkat edin, bunlar bir bütünü oluşturan tek bir temel taşı değil, dört ayrı taştır—aralarındaki bağlantılar kendiliğinden boşluklar içerir.

Yukarıda, "C Dili Geliştiricileri İçin Dinamik Dizi" olarak etiketlenmiş, sallanan uzun bir tahta bulunuyor. Bu tahta dört temel taşı üzerinde duruyor ve kendisi de kararsız. Tam ortasında, ince bir kırmızı sütun tüm ağırlığı taşıyor—von Neumann darboğazı. Tüm IT dünyasının ağırlığı nihayetinde bu sütuna baskı yapıyor.

Daha yukarıda, tarz kontrolü kaybediyor. "Tanımsız davranışa dayalı bir C99 projesi" kritik işlevleri üstleniyor. JVM'nin altında, ilişkisel veritabanları çarpı ile işaretlenmiş durumda. Yan taraftan bir robot kolu çıkıyor ve üzerinde "Yapay Zeka" yazıyor, kuleyi itiyor.

Yukarıya doğru devam eden, V8 motoru, left-pad, ağ güvenliği, WebAssembly—bunlar Web katmanıdır. Yanında büyük harflerle "Web Geliştiricilerinin Kendini Yıkması" ve "Web'de Gerçekleşen Garip Olaylar" yazıyor.

En tepede, bir kullanıcıyı temsil eden küçük bir çöp insan, sarsılgın bir kule tepe noktasında duruyor ve yanında "Sen tam buradasın" yazıyor. Yakından bakıldığında, bu küçük insan elinde bir telefon tutuyor—o, bu kuleyi kullanıyor ve kule her an çökebilir.

Kulenin solunda, bir Rust bağımsız geliştirici roketle uçup gitti, kendi işine bakmaya. Kulenin sağında, öfkeli bir kuş (büyük şirket) kuleye çarpmak üzere. Kulein üzerinde, tek başına süzülen bir bulut var ve üzerinde "Ayarlarla uyumlu bulut sunucusu" yazıyor — bu bulut, kuleyle hiçbir bağlantısı yok, sanki sadece bir kavram gibi.

Resimdeki her kelime fazladan değil. Her etiket, IT endüstrisinin en çok dokunulmak istenmeyen yerlerine saplanan bir diken.

Bu bir tahminde bulunmuyor. Şu anı tanımlıyor.

Bu makaleyi buraya kadar okuyan bazıları şunu söyleyebilir: Çok karamsar davranıyorsunuz, IT endüstrisi iyi çalışıyor değil mi?

Evet, çalışıyor.

Ancak "çalışıyor" ve "kararlı" iki farklı şeydir. Birinin yürüyebilmesi, kemiklerinde çatlak olmadığı anlamına gelmez. Bir köprüye araba geçebiliyorsa, taşıma kapasitesinin aşılı olmadığı anlamına gelmez.

IT endüstrisinin korkutucu yanı, her katmanının hızla ilerlemesine rağmen en alt katmandaki sorunların asla gerçekten çözülmemesidir. Von Neumann darboğazı hâlâ var, büyük şirketler binaları yıkıyor, AI çöp üretiyor ve bağımsız geliştiriciler hâlâ kendi başlarına mücadele ediyor.

Herkes yukarı doğru bina inşa ediyor, aşağıya bir bakmak istemiyor.

Aşağıya bakarsanız, temelin bir diş çubuğu olduğunu göreceksiniz. Ve diş çubuğu, her zaman dayanamaz.

Belki o gün, telefonu elinde kule tepeinde duran bizler, ilk kez şu soruyu sorarız: Bu binanın temeli nasıl inşa edildi?