Artan talep ve arz kısıtlamaları nedeniyle AI hesaplama maliyetleri yükselmeye meyilli

En minimal yazım tarzını denemek istiyorum: Kendime 2 saat belirleyip bir blog yazısını hızlıca tamamlıyorum. Birçok önemli alt soruyu derinlemesine inceleyemiyorum, ancak bunu yapmazsam, ilgilendiğim birçok konu sürekli ertelenmiş ve ilerlemeksizin kalır.

Bugün, gelecek yıllarda AI laboratuvarlarının hesaplama kapasitesi durumunu konuşmak istiyorum.

Anthropic'in yıllık geliri 10 kat artıyor. Bu eğilim devam ederse, Anthropic'in bu yıl sonundaki geliri muhtemelen 100 ile 150 milyar dolar arasında olacak. Eğer bu eğilim devam ederse, önümüzdeki yıl sonunda 1 trilyon dolarlık gelire ulaşmaları gerekecek. Elbette bu eğilimin kesinlikle devam etmesi için bir zorunluluk yok—bu temelde AI yetenekleriyle ilgili. Ancak bunun gerçekten devam ettiğini varsayarsak, bu dünyada hangi koşulların sağlanması gerekir?

Laboratuvarın hesaplama gücü her yıl 3 kat artıyor. Bir laboratuvar, hesaplama gücünün yalnızca 3 kat artması durumunda gelirini 10 kat artırmak istiyorsa, aşağıdaki üç şeyden en az biri aynı anda gerçekleşmelidir: bir, laboratuvar kar marjı artar; iki, hesaplama gücü fiyatı yükselir; üç, laboratuvar hesaplama gücünün daha büyük bir kısmını çıkarımda kullanır.

Anladığım kadarıyla bu üç şey aynı anda gerçekleşiyor: birincisi, Anthropic'in kar marjı 2025'te %40'tan bu yılki Fable çıkarım işi için muhtemelen %80'in üzerine çıktı (ancak marjinal hesaplama gücü kar marjı ayrı bir konu, daha sonra detaylandıracağım); ikincisi, hesaplama gücü spot fiyatı bu yılın Şubat ayı dip seviyesinden bu yana %40'tan fazla arttı ve laboratuvarın gerçek olarak ödediği fiyat artışı daha da yüksek olabilir (daha sonra detaylandıracağım); üçüncüsü, Epoch verilerine göre OpenAI 2024'te hesaplama gücü harcamalarının yaklaşık dörtte birini çıkarıma harcadı, şimdi bu oran kesinlikle %50'ye veya daha fazlasına yakındır.

Laboratuvarlar aslında üçüncü yolu (giderek artan hesaplama gücünü çıkarıma yönlendirmek) tercih etmek istemiyor. Çok doğru bir şaka var: çıkarım gelirinin amacı, yatırımcılara daha fazla para vermek için ikna etmek ve daha fazla hesaplama gücü alarak daha büyük modelleri eğitmektir. Eğer hesaplama gücünün büyük bir kısmını çıkarıma yönlendirirseniz, bu, AI ilerlemenin durduğuna dair bir ilan sayılır—çünkü eğitim yatırımlarını artırmak artık ekonomik değildir ve işiniz temelde bir bulut hizmet sağlayıcısı haline gelir. Büyük laboratuvarlar bunu düşünmüyor—şu anda dağıttıkları modellerin bir yıl sonra çok geride kalacağını düşünüyorlar ve şu anda bu işi, daha akıllı modelleri eğitmeye devam etmek için ticari vaka biriktirmek amacıyla yapıyorlar.

Geride kalan iki yol var: birincisi, laboratuvar kar marjının artması; ikincisi, hesaplama gücüne olan talebin artması. Eğer öncü bir veya iki laboratuvar, rakiplerinden çok daha öndeysa, ilk yol daha belirgin hale gelir. Pazar rekabetinde, kar marjı, en iyi alternatiften ne kadar daha iyi olduğunuzla belirlenir. İlk etkinin baskın hale gelmesi için, yıl sonuna kadar kar marjının %90'ın üzerinde olması gerekir. Bu, bana oldukça abartılı geliyor. Ancak AI laboratuvarlarının gelirlerinin şaşırtıcı hızla artmaya devam etmesi mümkün olduğuna inanıyorum.

Bu nedenle, "gelecek yıl sonuna kadar gelirin 1 trilyon dolara çıkmak" dünyasının nasıl gerçek olabileceğini açıklamak için son etki kalıyor: hesaplama gücüde ciddi şekilde artıyor. Dediğim gibi, bu zaten başlamış durumda. Eğer laboratuvarların gerçekten ihtiyaç duyduğu hesaplama gücünü incelersek, fiyat artışları daha çarpıcı olacak—çünkü onlar açık artırma örneklerine güvenemiyorlar, model ağırlıklarını ve kullanıcı verilerini korumak zorundalar ve aynı zamanda iyi bir kullanım oranı ve esneklik elde etmek için yeterli ölçeklere ihtiyaç duyuyorlar. Bu pazarın ne kadar çılgın olduğunu görelim: Google ve Anthropic, SpaceX'ten hesaplama gücü kiralıyor. Google'ın aylık 900 milyon dolar harcayarak 110.000 adet GPU kiraladığı bildiriliyor; bu GPU'lar GB200 ve GB300 karışımı. Bu, bu GPU'ların mevcut fiyatının yaklaşık iki katı anlamına geliyor. Ve şu anki mevcut fiyatlar, Şubat'tan itibaren zaten %40 artmış durumda.

Şunu vurgulamak istiyorum: AI modelleri giderek daha güçlü hale geldikçe, aynı hesaplama gücüyle üretilen değer de artmaktadır. Eğer gerçek bir insan seviyesinde yazılım mühendisi H100 düzeyinde bir cihazda çalıştırılabiliyorsa, mevcut yazılım mühendisi piyasa maaş seviyelerine göre bu H100 kartının yıllık kira bedeli 250.000 doları aşmalıdır — bugünün spot fiyatı üzerinden 15 katı.

Elbette, eğer aniden 10 milyon yazılım mühendisi daha ortaya çıkarsa, marjinal mühendisin değeri doğal olarak düşer, bu nedenle o H100 kartı kesinlikle şu anki gelirin 15 katını üretmeyebilir. Ancak bu argümanın gerçekten geçerli olup olmadığını tam olarak emin değilim. Bu savı AI yerine insanlara uygularsanız, bu klasik bir "toplam işgücü yanılgısı" olur. Ekonomistler genellikle, uzun vadede yüksek becerili göçmenlerin ücretleri düşürmediğini düşünür, çünkü uzmanlaşma ve yenilik işgücünün değerini artırır. Belki de bu seferki işgücü arz şoku çok büyük ve çok hızlı, bu nedenle bu genel kural geçersiz hale gelmiştir. Ancak eğer standart ekonomi teorisinin işgücüne dair yargılarına inanıyorsak, marjinal işgücünün değeri (ve hesaplama gücüne ilişkin marjinal fiyat) şaşırtıcı düzeyde yüksek kalmalıdır.

Bu dünyada ne olacak?

Öncü modeller, hesaplama gücünden giderek daha fazla değer çıkarmaya başlıyor ve bunu yakalamak giderek daha zorlaşıyor. Eğer 2028 yılına kadar yazılım mühendisliği otomatikleşmişse ve hesaplama gücü fiyatı şu anda ki fiyattan 15 kat daha yüksekse, geliri olmaksızın öncü laboratuvarlarla hesaplama gücü için rekabet etmek son derece zor olacak.

En iyi ve en verimli modeli eğitebiliyorsanız, elde edeceğiniz kar marjı bugünün çok üzerinde olacaktır. Bu, Alchian-Allen etkisidir: Sabit bir maliyet, farklı kalitede iki ürün üzerine aynı anda uygulandığında, daha kaliteli olanın göreli maliyeti düşer ve talep bunun yönüne kayar. H100'ün saatlik fiyatı 20 dolar olduğunda, daha zayıf ve daha verimsiz bir model kullanmak son derece pahalı ve akılsız hale gelir—çünkü aynı sonucu elde etmek için daha fazla token tüketmeniz ve daha fazla pahalı hesaplama gücü kullanmanız gerekir. Bu nedenle, daha az hesaplama gücüyle en üst düzey bir model eğitebilen kişi, çok yüksek bir prim alabilir. Temel hesaplama gücü zaten bu kadar maliyetliyken, aynı hesaplama gücü üzerinde en verimli modeli çalıştırmak için biraz daha fazla harcamak neden olmasın?

Şu anda popüler birçok AI uygulaması fiyatlar nedeniyle piyasadan kaybolacaktır. AI şu anda insan gücüne göre nispeten ucuzdur, en azından insanlar tarafından yapılabilecek birçok şeyi henüz yapamadığı için. Bir gün bu durum artık geçerli olmayacak. O zaman, GPU kullanarak kısa video çöpleri üretmek, maliyeti ödenmeyecek kadar yüksek olacaktır.

Ancak bu tür tahminler, tarihte nadirlikle ilgili yapılan yanlış tahminlerle benzerlik göstermektedir. Düşündüğüm, Simon-Ehrlich bahsi: Paul Ehrlich, 1990 yılından önceki on yıl içinde bir sepet ham madde fiyatının düşeceğine değil, yükselieceğine dair bahis yapmıştır. Bu bahis, popüler ekonomi tartışmalarında oldukça ünlüdür, çünkü Ehrlich'in Malthusçu dünya görüşünün yanlışlandığını kanıtladığı iddia edilir—o, piyasa sinyallerinin ve insan zekâsının nadir kaynakları tasarruf etmedeki rolünü abartımsız şekilde değerlendirmiştir (ancak bazı analizler, bu bahsin farklı bir on yıllık dönem üzerinde olsaydı Ehrlich'in kazanacağını göstermektedir).

Sanırım, hesaplama gücü için temel referans olarak emtialar uygun değil, çünkü hesaplama gücü arzının esnekliği, metal madenciliğine kıyasla çok daha düşük ve büyük talep şoklarını emme ya da alternatif çözümler bulma kapasitesi çok daha zayıf. Her yıl %300'lük hesaplama gücü artışı, şu üç sayının çarpımıyla elde edilir: Moore Yasası nedeniyle %40, yeni çip fabrikalarının inşası nedeniyle %20 (en az 2030 yılına kadar EUV ekipman tedarikine bağlı olarak), ve AI'nın diğer cihazlardan ileri üretim proses çip kotasını ele geçirmesi nedeniyle %80 (bu faktör 2027 yılı civarında bir duvara çarpar, o zaman AI'nın N3 çiplerine olan payı %60'dan %86'ya çıkar). Bu üç çarpanın her biri zaten artırılması zor; sonuncusu ise çip kotalarının doygunluğa ulaşmasıyla bir ila iki yıl içinde zirveye ulaşacaktır.

Şunu belirtmek istiyorum: gelecekte bir noktada hesaplama gücü tekrar daha ucuz hale gelecek. Bir gün robotlar, sahildeki silika kumunu ve yer altındaki bakır madenlerini doğrudan bilgisayarlara dönüştürecek; o zaman hesaplama gücü fiyatı, ham madde ve araç maliyetlerine yakın seviyelere gerilecek. Şu anda tartıştığım ise sadece şu aşamada—AI hesaplama gücü her yıl yalnızca 3 kat artıyor, bu hız, AI'nın her yıl daha değerli hale gelmesiyle ortaya çıkan fiyat artış etkisini tamamen karşılayamıyor.

Ayrıca, Anthropic'in gelirleri her yıl 10 kat artarken, hesaplama gücü sadece 3 kat artıyor; bu, model işinin çok güçlü bir ölçek ekonomisine sahip olduğunu gösteriyor. Mantıksal olarak bu akıl edilebilir—bir modeli eğitmek, bir kez ödenen bir öğrenme maliyeti demektir ve bu maliyet tüm kullanıcılar arasında dağıtılabiliyor (insan gücü gibi, her örneğin baştan eğitilmesine gerek yok). Akıllılığın bu kadar güçlü bir ölçek ekonomisine sahip olduğu bir dünyada yaşamak istemiyorum (çünkü güçlerin merkezileşmesinden endişe ediyorum). Ancak gerçeklik böyle görünüyor.

Yazar: Dwarkesh Patel, Çeviri: Deep潮 TechFlow