Yazar: Jamin Ball
Derin Akış TechFlow
Derin Akış Özet: xAI'nin Colossus 1 veri merkezi yeni bir alıcı buldu—Anthropic tüm hesaplama kapasitesini kiralamış ve yılda 5 milyar dolar ödüyor. Bu işlem, xAI'yi anında yeni bir bulut hesaplama devi haline getirirken, Anthropic bu hesaplama kapasitesiyle 15 milyar dolar gelir elde edebilecek; her iki taraf da büyük kazanç elde etti.
Biraz kaba hesap yapalım! (Tümü taslak kağıt üzerindeki tahminler...)
Colossus 1'in 220.000 GPU'su olduğunu varsayın
150.000 adet H100, 50.000 adet H200 ve 20.000 adet GB200 olduğunu varsayın
Kira varsayımı:
- H100 saatte 2,30 ABD doları
- H200 saatte 2,60 ABD doları
- GB200 saatte 5 dolar
Toplu kümenin karışık kira ücreti saatte yaklaşık 2,60 ABD dolarıdır.
Tümü take-or-pay anlaşmaları varsayılır (24x365 tam yükte ödeme yaparsınız).
Bu, xAI'nin yıllık 5 milyar dolarlık gelirine denk geliyor. Yeni bir bulut hesaplama devinin doğuşunu gözlemliyoruz!
Bunun dışında—Dwarkesh'in son podcast'inde, Dario birim ekonomisini yaklaşık olarak hesapladı (bu hesaplamanın endüstride kullanılan matematik olduğunu, Anthropic'e özgü olmadığını özellikle vurguladı—bu çok önemli, Anthropic'e ait hiçbir bilgiyi açığa vurmamıştır).
100 milyar dolarlık hesaplama maliyeti örneği verdi (sadece rastgele bir tam sayı seçti). Bu maliyet, eğitim ve çıkarım arasında bölünecektir. Eğitim oranı çok yüksekse, geliriniz yeterli olmayacaktır; çıkarım oranı çok yüksekse, gelecekteki araştırma ve geliştirme ilerlemesini zayıflatacaksınız. Sektörün şu anda eğitim/çıkarım hesaplama maliyeti oranının %50/%50 olduğunu söyledi. Bir sektör olarak, o 50 milyar dolarlık çıkarım maliyetini 150 milyar dolarlık gelire dönüştürebileceğimizi belirtti (bu değerin muhtemelen sektörün 1-2 yıl sonra birim ekonomi modeli olduğunu özellikle vurguladı).
Bu mantığı xAI işlemlerine uygulayın. Yukarıdaki varsayıma göre, Anthropic her yıl 5 milyar dolar ödüyor. Bu tutarı yıllık 15 milyar dolar gelire dönüştürdüğünü varsayın (60-70% brüt kar marjı).
Kazan-kazan!!
Dario şöyle dedi:
Bunu şöyle düşünün. Tekrar vurguluyorum, bu sadeleştirlmiş gerçekler. Rakamlar kesin değil. Sadece bir oyun modeli oluşturuyorum. İşlem gücünün yarısının eğitimde, yarısının çıkarımda kullanıldığını varsayın. Çıkarımın belirli bir brüt kâr marjı vardır.
@GS_CapSF "SpaceX ile Colossus 1 veri merkezinin tüm hesaplama gücünü kullanma anlaşmasını imzaladık. Bu, bize bir ay içinde 300 megavatın üzerinde yeni kapasite (220.000'den fazla NVIDIA GPU) sağladı."