Talep, arz büyümesini aşınca AI hesaplama maliyetleri 15 kat artabilir

Yazar: Dwarkesh Patel

Derin Akış Teknolojisi

DeepPocket Özet: AI modellerinin en üst düzey yazılım mühendislerinin yeteneklerine ulaşması durumunda, bir H100'un uygun kira fiyatı yılda 250.000 doları aşacaktır—bugünkü spot fiyatı üzerinden 15 kat. Bu uzak bir tahmin değil, Anthropic'in gelirinin 10 kat hızla artması ile hesaplama gücünün 3 kat hızla artması arasındaki yapısal gerilimin oluşturduğu gerçek bir trend. Yatırımcılar için, kim önce hesaplama gücünü ele geçirecek ve en verimli modeli eğitecek, bir sonraki rekabet haritasını belirleyecektir.

En minimalist yazım tarzını denemek istiyorum: Kendime 2 saat belirliyorum ve hızlıca bir blog yazısı tamamlıyorum. Birçok önemli alt soruyu derinlemesine inceleyemiyorum, ancak bunu yapmazsam, ilgilendiğim birçok konu sürekli ertelenmiş ve ilerlemeksizin kalır.

Bugün, gelecek yıllarda AI laboratuvarlarının hesaplama kapasitesi durumunu konuşmak istiyorum.

Anthropic'in yıllık geliri 10 kat artıyor. Bu trend devam ederse, Anthropic'in bu yıl sonu geliri muhtemelen 100 ile 150 milyar dolar arasında olacak. Eğer bu trend devam ederse, önümüzdeki yıl sonunda 1 trilyon dolarlık gelir elde etmek zorunda kalacaklar. Elbette bu trendin kesinlikle devam etmesi için herhangi bir zorunlu neden yok—bu temelde AI yeteneklerine bağlı. Ancak bu trendin gerçekten devam ettiğini varsayarsak, bu dünyada hangi koşulların sağlanması gerekir?

Laboratuvar hesaplama gücü yıllık olarak 3 kat artıyor. Bir laboratuvarın hesaplama gücünün yalnızca 3 kat artması durumunda gelirini 10 kat artırabilmesi için aşağıdaki üç şeyden en az biri aynı anda gerçekleşmelidir: bir, laboratuvar kar marjı artmalı; iki, hesaplama gücü fiyatı yükselmeli; üç, laboratuvarın hesaplama gücünün daha büyük bir oranı çıkarıma ayrılmalı.

Anladığım kadarıyla, bu üç şey neredeyse aynı anda gerçekleşiyor: birincisi, Anthropic'in kar marjı 2025'te %40'tan bu yılki Fable çıkarım işi için muhtemelen %80'in üzerine çıktı (ancak marjinal hesaplama gücü kar marjı ayrı bir konu, daha sonra detaylandıracağım); ikincisi, hesaplama gücü spot fiyatı bu yılın Şubat ayı dip seviyesinden 40% daha fazla arttı ve laboratuvarların gerçek olarak ödediği fiyat artışı daha da yüksek olabilir (daha sonra detaylandıracağım); üçüncüsü, Epoch verilerine göre, OpenAI 2024'te hesaplama gücü harcamalarının yaklaşık dörtte birini çıkarıma harcadı, şimdi bu oran kesinlikle %50'ye veya daha fazlasına yakındır.

Laboratuvarlar aslında üçüncü yolu (giderek artan hesaplama gücünü çıkarıma ayırmak) tercih etmek istemiyor. Çok doğru bir şaka var: çıkarım gelirinin amacı, size daha fazla para verip daha fazla hesaplama gücü almanız için yatırımcıları ikna etmektir. Eğer hesaplama gücünün büyük bir kısmını çıkarıma yönlendirirseniz, bu, AI ilerlemenin durduğuna dair bir ilan sayılır—çünkü eğitim için daha fazla yatırım yapmak artık ekonomik değildir ve işiniz temelde bir bulut hizmet sağlayıcısı haline gelir. Büyük laboratuvarlar bunu düşünmüyor—şu anda dağıttıkları modellerin bir yıl sonra çok geride kalacağını düşünüyorlar ve şu anda bu işi, daha akıllı modelleri eğitmeye devam etmek için ticari vaka biriktirmek amacıyla yapıyorlar.

Kalan iki yol: biri, laboratuvar kar marjlarının artırılması; diğeri, hesaplama gücüne fiyat artışının uygulanması. Eğer ilk birkaç laboratuvar, rakiplerinden çok daha öndeysa, ilk yol daha belirgin hale gelir. Pazar rekabetinde, kar marjı, ikinci en iyi alternatiften ne kadar daha iyi olduğunuzla belirlenir. İlk etkinin baskın hale gelmesi için, yıl sonuna kadar kar marjının %90’ın üzerinde olması gerekir. Bu, bana oldukça abartılı geliyor. Ancak, AI laboratuvarlarının gelirlerinin şaşırtıcı hızla artmaya devam etmesi mümkün olduğuna inanıyorum.

Bu nedenle, "gelecek yıl sonuna kadar gelirin 1 trilyon dolarlık bir patlama yaşaması" dünyasının nasıl gerçek olacağına dair son etki: hesaplama gücüde ciddi şekilde artıyor. Dediğim gibi, bu zaten başlamış durumda. Eğer laboratuvarların gerçekten ihtiyaç duyduğu hesaplama gücünü incelersek, fiyat artışları daha da çarpıcı olacak—çünkü açıkça ki, onlar spot örneklerine dayanamazlar; model ağırlıklarını ve kullanıcı verilerini korumaları gerekiyor ve aynı zamanda iyi bir kullanım oranı ve esneklik elde etmek için yeterli ölçeklere ihtiyaçları var. Bu pazarın ne kadar çılgın olduğunu görelim: Google ve Anthropic, SpaceX'ten hesaplama gücü kiralıyor. Google'ın aylık 9 milyar dolar harcayarak 110 bin GPU kiraladığı bildirildi; bu GPU'lar GB200 ve GB300 karışımı. Bu, bu GPU'ların spot fiyatlarının yaklaşık iki katına denk geliyor. Ve şu anki spot fiyatları zaten Şubat'tan %40 daha yüksek.

Şunu vurgulamak istiyorum: AI modelleri giderek daha güçlü hale geldikçe, aynı hesaplama gücüyle üretilen değer de artmaktadır. Eğer gerçek bir insan seviyesinde yazılım mühendisi H100 seviyesinde bir cihazda çalıştırılabiliyorsa, mevcut yazılım mühendisi piyasa maaş seviyelerine göre bu H100’un yıllık kira bedeli 250.000 doları aşmalıdır—bugünkü spot fiyatının 15 katı.

Elbette, eğer aniden 10 milyon yazılım mühendisi ortaya çıkarsa, marjinal mühendisin değeri doğal olarak düşer, bu nedenle o H100 kartının şu anki gelirin 15 katını üretmesi garanti değildir. Ancak bu argümanın gerçekten geçerli olup olmadığını tam olarak emin değilim. Bu savı AI yerine insanlara uygularsanız, bu klasik bir "toplam işgücü yanılgısı" olur. Ekonomistler genellikle, uzun vadede yüksek becerili göçmenlerin ücretleri düşürmediğini savunur, çünkü uzmanlaşma ve yenilik işgücünün değerini artırır. Belki de bu seferki işgücü arz şoku çok büyük ve çok hızlıdır ve bu deneyim kuralını geçersiz kılar. Ancak eğer standart ekonomi, işgücü üzerine yaptığı yargıları kabul edersek, marjinal işgücünün değeri (ve hesaplama gücüne ilişkin marjinal fiyat) şaşırtıcı düzeyde yüksek kalmalıdır.

Bu dünyada ne olacak?

Öncü modeller, hesaplama gücünden giderek daha fazla değer çıkarabiliyor ve bunu yakalamak giderek daha zorlaşıyor. Eğer 2028 yılına kadar yazılım mühendisliği otomatikleşmişse ve hesaplama gücü fiyatı şu anda ki fiyattan 15 kat daha yüksekse, geliri olmaksızın öncü laboratuvarlarla hesaplama gücü için rekabet etmek son derece zor olacak.

En iyi ve en verimli modeli eğitebiliyorsanız, elde edeceğiniz kar marjı bugünün çok üzerinde olacak. Bu, Alchian-Allen etkisi: Sabit bir maliyet, farklı kalitede iki ürün üzerine aynı anda uygulandığında, daha kaliteli olanın göreli olarak daha avantajlı hale gelir ve talep bunun yönüne kayar. H100'ün saatlik fiyatı 20 dolarlığa çıktığında, daha zayıf ve daha verimsiz bir model kullanmak son derece pahalı ve aptalca hale gelir—çünkü aynı sonucu elde etmek için daha fazla token tüketmeniz ve daha çok pahalı hesaplama gücü harcamanız gerekir. Bu nedenle, daha az hesaplama gücüyle en üst düzey bir model eğitebilen, çok yüksek bir prim alabilir. Temel hesaplama gücünün zaten bu kadar maliyetli olmasının nedeniyle, aynı hesaplama gücü üzerinde en verimli modeli çalıştırmak için biraz daha fazla harcamak neden olmasın?

Şu anda popüler olan birçok AI uygulaması fiyatlar nedeniyle piyasadan çıkacaktır. AI şu anda insan gücüne göre nispeten ucuzdur, en azından insanlar tarafından yapılabilecek birçok şeyi henüz yapamadığı için. Bir gün bu durum geçerliliğini kaybedecektir. O zaman, GPU kullanarak kısa video çöp içerik üretmek, maliyeti karşılanamaz seviyeye ulaşacaktır.

Ancak bu tür tahminler, tarihte nadirlikle ilgili yapılan yanlış tahminlerle benzerlik göstermektedir. Düşündüğüm, Simon-Ehrlich bahsi: Paul Ehrlich, 1990'a kadar olan on yıl içinde bir sepet ticari malın fiyatlarının düşeceğine değil, yükselieceğine dair bahis yapmıştır. Bu bahis, popüler ekonomi tartışmalarında oldukça ünlüdür çünkü Ehrlich'in Malthusçu dünya görüşünün yanlışlandığını kanıtladığı iddia edilir—yani nadir kaynakları tasarruf etmede piyasa sinyallerinin ve insan zekasının rolünü abartmadığı; ancak bazı analizler, bu bahsin farklı bir on yıllık dönem için yapılsaydı Ehrlich'in kazanacağını belirtmektedir.

Sanırım, hesaplama gücü için temel bir referans olarak emtialar uygun değil, çünkü hesaplama gücü arzının esnekliği, metal madenciliğine kıyasla çok daha düşük ve büyük talep şoklarını emme ya da alternatif çözümler bulma kapasitesi çok daha zayıf. Her yıl %300'lük hesaplama gücü büyümesi, Moore Yasası nedeniyle %40, yeni çip fabrikalarının inşası nedeniyle %20 (en az 2030 yılına kadar EUV ekipman tedarikine bağlı olarak), ve AI'nın ileri üretim proses çip kotasını diğer cihazlardan alması nedeniyle %80'in çarpımından elde ediliyor (bu faktör 2027 civarında bir duvara çarpar, o zaman AI'nın N3 çip kotasına oranı %60'dan %86'ya çıkar). Bu üç çarpanın her biri zaten artırılması zor; sonuncusu ise çip kotasının doygunluğa ulaşmasıyla bir veya iki yıl içinde zirveye ulaşacaktır.

Şunu belirtmek istiyorum: gelecekte bir noktada hesaplama gücü tekrar daha ucuz hale gelecek. Bir gün robotlar, kıyıdaki silika kumunu ve yer altındaki bakır madenlerini doğrudan bilgisayarlara dönüştürecek; o zaman hesaplama gücü fiyatı, ham madde ve araç maliyetlerine yakın seviyelere gerilecek. Şu anda tartıştığım sadece şu aşamadır—AI hesaplama gücü her yıl yalnızca 3 kat artıyor, bu hız, AI'nın her yıl daha değerli hale gelmesiyle ortaya çıkan fiyat artış etkisini tamamen karşılayamıyor.

Ayrıca, Anthropic'in gelirleri yıllık olarak 10 kat artarken, hesaplama gücü sadece 3 kat artıyor; bu, model işinin çok güçlü bir ölçek ekonomisine sahip olduğunu gösteriyor. Mantıksal olarak bu anlaşılır—bir modeli eğitmek, bir kez öğrenme maliyeti ödersiniz ve bu maliyeti tüm kullanıcılar arasında dağıtabilirsiniz (insan gücü gibi, her örneği baştan eğitmenize gerek yok). Ben, akıllılığın bu kadar güçlü ölçek ekonomisine sahip olduğu bir dünyada yaşamak istemiyorum (çünkü güçlerin merkezileşmesinden endişe ediyorum). Ancak gerçeklik böyle görünüyor.