Herkes zekânın sınırsız bir talebe sahip olduğuna inanıyor, sadece maksiler değil. Ancak maksilerin yanlış yaptığı şey, Anthropic, OpenAI ve öncü modellerin inşa ettiği zekânın, hayal ettiğiniz genel türde olmadığını anlamak. Açıklıyorum: Bilgisayar gücünün iki en büyük kullanımı, kaba olarak ya eğitim ya da çıkarım (inference). Herkesin sınırsız talep olduğunu iddia ettiği “genel zekâ”, çoğunlukla çıkarımdan kaynaklanır ve çıkarım, eğitime göre çok farklı güç ve kullanım gerektirir. Çıkarım patlamalar halinde gelir, bu nedenle kullanım sorunu çözülene kadar tepe noktalarını karşılamak için varsayılan olarak kapasiteyi aşırı inşa etmeniz gerekir; bu da neredeyse tanım itibarıyla aşırı inşa edeceğimiz anlamına gelir. Ancak eğitimde bu sorun yoktur: iş yükü sabittir ve talep eğrisi öngörülebilirdir. Bu yüzden veri merkezleri şu anda tam olarak kullanım optimizasyonu sağlanmadığı için aşırı inşa edilmiştir. Dolayısıyla Anthropic ve diğer öncü laboratuvarlar, geleceklerini eğitime kuruyorlar; bu yüzden fazla kapasiteyi tamamen tüketebileceklerini söylüyorlar. Ancak onların “zekâsı” iş yerinde verimlilik değil; tekil singülerlik türü sonuçlara doğru atlamadır: yeni ilaç keşifleri, siber yetenekler, özyinelemeli kendini geliştirme. Bunlar gerçek 1’er 1’erdir. Bu yüzden Anthropic “insanlık için varoluşsal tehditler”den bahsederken, iş kayıplarından bahsetmiyor, gerçekten değil. Tam olarak, daha fazla model eğitiyor oldukları için inanılmaz keşiflerin eşiğinde olduklarını söylüyorlar. Ancak distilasyon gerçek ve açık kaynak kod da gerçek. Her öncü modelin yarı ömrü çok küçüktür çünkü bir patent gibi IP ile korunan hiçbir şey yoktur. Milyarlarca dolar harcayan nadir bir hastalığa ait bir ilaç şirketi düşünelim; bir keşiften iki ay sonra bir genel ilaç ortaya çıkıyor. Bu şirket, sonsuz sayıda nadir hastalık ilacı keşfedemeyene kadar yatırımı geri alamaz. İşte Anthropic’in üzerine bahis koyduğu zekâ tam olarak bu tür. Bu, 800 milyar dolarlık bilgisayar harcamasının üzerine koyduğu bahis. Bu yüzden sormanız gereken sorular şunlar: 1) Zekâ iki katmanlıysa, her katmanın maliyeti nedir? AGI’nin maliyeti nedir ve sınırsız talebe sahip genel zekânın maliyeti nedir? ve 2) AGI getirisinin gerçek olup olmadığını anlamak için doğru risk eğrisi ve bozunma fonksiyonuyla sermaye mi tahsis ediyoruz? Ve eğer gerçekse, bir özel şirket bunu gerçekten sahiplenebilir mi? Bu tüm paradoksun kalbindeki bilişsel çelişki şudur: Kullanıcılar ve sağlayıcılar tarafından birim ölçüsü kasıtlı olarak belirsiz tutulduğunda, herkes birbirine zekânın ne olduğunu yalanlıyor. Genel zekânın sınırsız talebi var ama bu tamamen aşağı doğru yarışmadır. “Süper zekâ” tam tersidir: Tanımsal olarak sınırsız talebi olamaz; ancak vaat ettiği şeyin yalnızca yarısını bile sağlarsa, hiçbir özel şirket bunu asla elinde tutamaz, en azından hükümetin koruma duvarını korumaya devam etmediği sürece (bu yüzden Anthropic bu açıyı sürekli vurguluyor, ancak bu düzeyde bir keşfin eşiğinde olduklarını göstermediler). Ve o noktada sorulması gereken şey şudur: Kim çantanın içinde kalacak ve bu gerçekten çok akıllıca mıydı?