Penulis: Jamin Ball
Diterjemahkan oleh Deep潮 TechFlow
Pengenalan DeepChao: Pusat data Colossus 1 xAI baru saja mendapat pembeli—Anthropic menyewa seluruh kapasiti pengiraan, membayar tahunan sebanyak 5 miliar dolar AS. Transaksi ini tidak hanya menjadikan xAI segera sebagai raksasa komputasi awan baharu, tetapi Anthropic juga boleh menggunakan kapasiti pengiraan ini untuk menghasilkan pendapatan 15 miliar dolar AS, dengan kedua-dua belah pihak mendapat keuntungan besar.
Mari kita hitung perkiraan kasar! (Semua perkiraan kasar...)
Andaikan Colossus 1 mempunyai 220,000 unit GPU
Anggapkan 150,000 unit H100, 50,000 unit H200, dan 20,000 unit GB200
Anggapan sewa:
- H100 pada harga $2.30 setiap jam
- H200 $2.60 per jam
- GB200 pada kadar 5 dolar AS setiap jam
Jumlah sewa gabungan seluruh kluster ialah sekitar US$2.60 sejam
Anggap semua adalah perjanjian take-or-pay (anda membayar penuh pada beban 24x365)
Ini setara dengan pendapatan tahunan xAI sebanyak 5 miliar dolar AS. Kita menyaksikan kelahiran raksasa komputawan awan baru!
Tidak berhenti di situ—dalam podcast terbaru Dwarkesh, Dario membuat pengiraan kasar tentang ekonomi unit (dia secara khusus menekankan bahawa ini adalah matematik perindustrian, bukan situasi khusus Anthropic—ini penting, beliau tidak mengungkap sebarang maklumat tentang Anthropic).
Dia menyebutkan contoh perbelanjaan komputasi sebanyak 100 bilion dolar AS (dia hanya memilih nombor bulat secara rawak). Perbelanjaan ini akan dibahagikan antara latihan dan inferens. Jika bahagian latihan terlalu tinggi, pendapatan anda tidak mencukupi; jika bahagian inferens terlalu tinggi, anda akan melemahkan perkembangan penyelidikan dan pembangunan masa depan. Dia percaya bahawa industri semasa mengalokasikan perbelanjaan komputasi latihan/inferens pada 50/50. Dia berkata, sebagai satu industri, perbelanjaan inferens sebanyak 500 bilion dolar AS itu boleh diubah menjadi pendapatan 1500 bilion dolar AS (dia secara khusus menekankan bahawa ini kemungkinan besar adalah model ekonomi unit industri dalam 1-2 tahun ke depan).
Terapkan logik ini semula kepada perniagaan xAI. Berdasarkan andaian di atas, Anthropic membayar US$5 bilion setiap tahun. Andaikan mereka menukar ini menjadi pendapatan tahunan US$15 bilion (margin kasar 60-70%)
Menang-menang!!
Dario berkata secara langsung:
Anggap begitu. Sekali lagi, ini adalah fakta yang disederhanakan. Angka-angka ini tidak tepat. Saya hanya membuat model mainan. Andaikan separuh daya komputasi anda digunakan untuk pelatihan dan separuh lagi untuk inferensi. Inferensi mempunyai margin keuntungan tertentu
@GS_CapSF "Kami telah menandatangani perjanjian dengan SpaceX untuk menggunakan seluruh kapasiti pengiraan pusat data Colossus 1 mereka. Ini memberi kami kapasiti baharu lebih daripada 300 megawatt dalam masa sebulan (lebih daripada 220,000 unit GPU NVIDIA)."