Kos pengkomputeran AI mungkin meningkat 15 kali ganda kerana permintaan melebihi pertumbuhan bekalan

Penulis: Dwarkesh Patel

Dikompilasi oleh Shenchao TechFlow

Pengenalan DeepChain: Apabila kemampuan model AI menyamai jurutera perisian terkemuka, harga sewa yang wajar untuk satu H100 akan melebihi $250,000 setahun—15 kali ganda harga spot semasa. Ini bukan ramalan jauh, tetapi tren sebenar yang didorong oleh ketegangan struktural antara pertumbuhan pendapatan Anthropic sebanyak 10 kali dan pertumbuhan komputasi sebanyak 3 kali. Bagi pelabur, siapa yang lebih dahulu mendapatkan komputasi dan siapa yang dapat melatih model paling cekap akan menentukan corak persaingan seterusnya.

Saya ingin mencuba gaya penulisan yang sangat ringkas: menetapkan 2 jam untuk menulis satu entri blog dengan cepat. Banyak isu penting yang tidak sempat saya teliti lebih dalam, tetapi jika saya tidak membuatnya, banyak topik yang saya minati akan terus tertunda tanpa kemajuan.

Hari ini saya ingin membincangkan situasi kuasa pengiraan untuk makmal AI dalam beberapa tahun ke depan.

Pendapatan Anthropic meningkat sepuluh kali ganda setiap tahun. Mengikut trend ini, pendapatan Anthropic pada akhir tahun ini kemungkinan besar akan berada dalam julat antara US$100 bilion hingga US$150 bilion. Jika trend ini berterusan, mereka perlu mencapai pendapatan US$1 trilion pada akhir tahun depan. Tentu saja, tiada sebab mutlak yang menyatakan trend ini akan berterusan—ia pada dasarnya bergantung kepada kemampuan AI. Tetapi andaikan ia benar-benar berterusan, apakah syarat-syarat yang mesti berlaku dalam dunia ini?

Kekuatan pengiraan makmal meningkat tiga kali setiap tahun. Jika sebuah makmal ingin mencapai pertumbuhan pendapatan 10 kali ganda dengan kekuatan pengiraan yang hanya meningkat 3 kali, tiga perkara berikut mesti berlaku secara serentak: satu, keuntungan makmal meningkat; dua, harga kekuatan pengiraan naik; tiga, makmal menggunakan peratusan kekuatan pengiraan yang lebih besar untuk inferens.

Pemahaman saya ialah ketiga perkara ini berlaku pada masa yang sama: pertama, margin keuntungan Anthropic meningkat dari 40% pada 2025 kepada mungkin lebih daripada 80% untuk perniagaan inferens Fable tahun ini (walaupun margin keuntungan untuk pengiraan marjinal mungkin berbeza, akan dibincangkan kemudian); kedua, harga spot pengiraan telah meningkat lebih dari 40% sejak rendah pada Februari tahun ini, dan harga sebenar yang perlu dibayar oleh makmal mungkin lebih tinggi lagi (akan dijelaskan kemudian); ketiga, berdasarkan data Epoch, OpenAI menghabiskan kira-kira seperempat perbelanjaan pengiraannya pada inferens pada 2024, dan kini nisbah ini pasti lebih dekat kepada 50%, atau bahkan lebih tinggi.

Laboratorium sebenarnya tidak ingin mengambil jalan ketiga (mengalihkan semakin banyak kekuatan pengiraan kepada inferens). Ada lelucon yang sangat tepat: makna pendapatan inferens adalah meyakinkan pelabur untuk memberi anda lebih banyak dana, supaya anda boleh membeli lebih banyak kekuatan pengiraan dan melatih model yang lebih besar. Jika anda mengalihkan sebahagian besar kekuatan pengiraan kepada inferens, anda secara tidak langsung mengumumkan bahawa kemajuan AI telah terhenti—kerana melanjutkan pelaburan dalam latihan sudah tidak lagi menguntungkan, dan perniagaan anda pada dasarnya menjadi penyedia perkhidmatan awan. Namun, pelbagai laboratorium tidak bersetuju dengan ini—mereka percaya bahawa model yang mereka deploy sekarang akan kelihatan sangat ketinggalan setahun dari sekarang, dan perniagaan ini dilakukan untuk mengumpulkan kes perniagaan yang boleh menyokong latihan model yang lebih pintar di masa depan.

Jadi, tinggal dua pilihan: satu, peningkatan margin keuntungan laboratorium; dua, kekuatan pengiraan menjadi lebih mahal. Jika satu atau dua laboratorium terkemuka jauh mendahului pesaing, pilihan pertama akan lebih ketara. Dalam persaingan pasaran, margin keuntungan bergantung pada sejauh mana anda lebih baik daripada pilihan kedua terbaik. Untuk membuat kesan pertama mendominasi, margin keuntungan mesti mencapai lebih daripada 90% pada akhir tahun depan. Ini menurut saya agak tidak masuk akal. Tetapi saya memang rasa kemungkinan besar pendapatan laboratorium AI akan terus meningkat dengan laju yang menakjubkan.

Oleh itu, menjelaskan bagaimana dunia ini menjadi kenyataan dengan pendapatan melonjak gila-gilaan kepada US$1 trilion pada akhir tahun depan, masih ada kesan terakhir: harga komputasi meningkat tajam. Seperti yang saya katakan, ini sudah bermula. Jika kita melihat jenis komputasi yang sebenarnya diperlukan oleh laboratorium, kenaikan harganya akan lebih mencengangkan—mereka jelas tidak boleh bergantung pada contoh spot, mereka memerlukan jaminan keselamatan bobot model dan data pengguna, serta skala yang mencukupi untuk mendapatkan penggunaan dan fleksibiliti yang baik. Lihat betapa gila pasarnya ini: harga sewa komputasi dari SpaceX oleh Google dan Anthropic. Dilaporkan, Google menghabiskan US$900 juta sebulan untuk menyewa 110,000 GPU, yang merupakan campuran GB200 dan GB300. Dalam pengiraan, ini kira-kira dua kali harga spot GPU tersebut. Dan harga spot semasa sendiri sudah 40% lebih tinggi daripada Februari.

Saya ingin menekankan kesimpulan utama: semakin kuat model AI, semakin tinggi nilai yang dihasilkan oleh kekuatan pengiraan yang sama. Jika seorang jurutera perisian yang benar-benar mencapai tahap manusia boleh berjalan pada peranti setaraf H100, mengikut tahap gaji pasaran jurutera perisian semasa, sewa tahunan H100 ini sepatutnya melebihi 250,000 dolar AS—15 kali ganda harga spot semasa.

Tentu, jika tiba-tiba terdapat 10 juta jurutera perisian tambahan, nilai jurutera marjinal pasti akan menurun, jadi H100 itu mungkin tidak benar-benar menghasilkan pendapatan 15 kali ganda daripada sekarang. Tetapi saya sebenarnya tidak pasti sama ada logik ini berlaku. Jika argumen ini diterapkan kepada manusia, bukan AI, ini adalah "kesilapan jumlah tenaga kerja" yang klasik. Ekonom secara umum percaya bahawa imigran berketerampilan tinggi tidak akan menekan gaji dalam jangka panjang, kerana spesialisasi dan inovasi akan meningkatkan nilai tenaga kerja. Mungkin kali ini, kejutan bekalan tenaga kerja terlalu besar dan terlalu pantas, sehingga membatalkan hukum pengalaman ini. Tetapi jika kita percaya penilaian ekonomi standard terhadap tenaga kerja, maka nilai marjinal tenaga kerja (dan harga marjinal komputasi) seharusnya tetap pada tahap yang sangat tinggi.

Apa yang akan berlaku di dunia ini?

Model teratas semakin mampu mengekstrak nilai daripada kuasa pengiraan, menjadikan kesukaran untuk mengejar semakin meningkat. Jika pada tahun 2028 kejuruteraan perisian telah diotomatiskan, dan harga kuasa pengiraan meningkat 15 kali ganda berbanding sekarang, maka akan sangat sukar untuk bersaing dengan makmal teratas untuk kuasa pengiraan tanpa pendapatan apa-apa.

Jika anda mampu melatih model terbaik dan paling efisien, margin keuntungan yang boleh anda peroleh akan jauh lebih tinggi daripada hari ini. Ini adalah kesan Alchian-Allen: apabila kos tetap ditambahkan kepada dua jenis barangan dengan kualiti berbeza, barangan berkualiti tinggi menjadi lebih berbaloi secara relatif, menyebabkan permintaan berpindah kepadanya. Apabila harga H100 per jam naik kepada $20, menggunakan model yang lebih lemah dan kurang efisien menjadi sangat mahal dan bodoh—kerana anda perlu membakar lebih banyak token dan menjalankan lebih banyak kuasa pengiraan yang mahal untuk mendapatkan hasil yang sama. Oleh itu, jika seseorang mampu melatih model teratas yang lebih menjimatkan kuasa pengiraan, mereka boleh menetapkan premium yang sangat tinggi. Oleh kerana kuasa pengiraan asas sudah pasti memerlukan perbelanjaan sebanyak ini, mengapa tidak menambah sedikit lagi untuk menggunakan model yang paling efisien pada kuasa pengiraan yang sama?

Banyak aplikasi AI yang popular sekarang akan tersingkir oleh harga. AI kini relatif murah, sekurang-kurangnya lebih murah daripada tenaga manusia, sebahagiannya kerana ia masih tidak mampu melakukan banyak perkara yang boleh dilakukan oleh manusia terbaik. Pada suatu hari nanti, perkara ini tidak akan lagi berlaku. Pada masa itu, kos mengguna GPU untuk menghasilkan kandungan video pendek yang tidak berkualiti akan menjadi terlalu tinggi untuk dibenarkan.

Namun, ramalan semacam ini juga serupa dengan ramalan salah tentang kelangkaan dalam sejarah. Saya teringat pertaruhan Simon-Ehrlich: Paul Ehrlich bertaruh bahawa harga sekumpulan komoditi akan naik, bukan turun, dalam sepuluh tahun sebelum 1990. Pertaruhan ini terkenal dalam perbincangan ekonomi awam kerana dikatakan membuktikan bahawa pandangan dunia Malthusian Ehrlich telah dibantah—ia bermaksud dia meremehkan isyarat pasaran dan kebijaksanaan manusia dalam menghemat sumber yang langka (walaupun ada analisis yang menunjukkan bahawa jika pertaruhan ini dibuat untuk dekad yang berbeza, Ehrlich akan menang).

Saya menduga rujukan komoditi tidak sesuai untuk kekuatan pengiraan, kerana elastisiti bekalan kekuatan pengiraan jauh lebih rendah berbanding penambangan logam, dan kemampuannya untuk menyerap kejutan permintaan berskala besar atau mencari penyelesaian pengganti juga jauh lebih lemah. Pertumbuhan kekuatan pengiraan sebanyak 3 kali setahun diperoleh daripada pendaraban tiga nombor berikut: 1.4 kali daripada Hukum Moore, 1.2 kali daripada pembinaan kilang wafer baru (sekurang-kurangnya sehingga 2030 terhad oleh bekalan peralatan EUV), dan 1.8 kali daripada AI yang mengambil alih kuota wafer proses canggih daripada peralatan lain (kuota ini akan mencapai batas sekitar tahun 2027, apabila peratusan AI pada wafer N3 akan meningkat dari 60% kepada 86%). Salah satu daripada tiga faktor pendarab ini sukar untuk ditingkatkan lagi, dan faktor terakhir bahkan akan mencapai puncaknya dalam satu atau dua tahun seterusnya apabila kuota wafer menjadi jenuh.

Saya ingin menekankan bahawa pada suatu masa mendatang, kuasa pengiraan akan menjadi lebih murah semula. Pada suatu hari, robot akan dapat mengubah pasir silika di tepi pantai dan bijih tembaga di bawah tanah secara langsung menjadi komputer, dan pada masa itu, harga kuasa pengiraan sepatutnya turun mendekati paras kos bahan mentah dan alat. Yang saya bincangkan sekarang hanyalah peringkat semasa—kuasa pengiraan AI hanya meningkat sebanyak 3 kali setiap tahun, laju ini jauh tertinggal daripada kesan peningkatan harga yang dibawa oleh peningkatan nilai AI setiap tahun.

Sebagai tambahan, pendapatan Anthropic meningkat sepuluh kali setiap tahun, sementara kekuatan pengiraan hanya meningkat tiga kali, yang menunjukkan bahawa perniagaan model mempunyai ekonomi skala yang sangat kuat. Secara logik, ini masuk akal—anda membayar kos pembelajaran sekali sahaja untuk melatih satu model, dan kos ini boleh diratakan kepada semua pengguna (berbeza dengan tenaga kerja manusia, di mana setiap contoh perlu dilatih dari awal). Saya tidak ingin hidup dalam dunia di mana kecerdasan mempunyai ekonomi skala yang begitu kuat (kerana saya risau tentang pengumpulan kuasa). Tetapi realitinya nampaknya seperti ini.