Kos Komputasi AI Kemungkinan Akan Meningkat Akibat Permintaan yang Meningkat dan Kekangan Bekalan

Saya ingin mencuba gaya penulisan yang sangat ringkas: tetapkan masa 2 jam untuk menulis satu entri blog dengan cepat. Banyak isu penting yang tidak sempat saya teliti lebih dalam, tetapi jika saya tidak membuatnya, banyak topik yang saya minati akan terus tertunda tanpa kemajuan.

Hari ini saya ingin membincangkan situasi kuasa pengiraan untuk makmal AI dalam beberapa tahun ke depan.

Pendapatan Anthropic meningkat sepuluh kali ganda setiap tahun. Mengikut tren ini, pendapatan Anthropic pada akhir tahun ini kemungkinan besar akan berada dalam julat antara US$100 bilion hingga US$150 bilion. Jika tren ini berterusan, mereka perlu mencapai pendapatan US$1 trilion pada akhir tahun depan. Tentu saja, tiada sebab mutlak yang menjamin tren ini akan berterusan—ia pada dasarnya bergantung kepada kemampuan AI. Tetapi andaikan ia benar-benar berterusan, apakah syarat-syarat yang perlu wujud dalam dunia ini?

Kapasiti pengkomputeran makmal meningkat tiga kali ganda setiap tahun. Jika sebuah makmal ingin mencapai pertumbuhan pendapatan sepuluh kali ganda dengan hanya kapasiti pengkomputeran yang meningkat tiga kali ganda, tiga perkara berikut mesti berlaku secara serentak: satu, peningkatan margin keuntungan makmal; dua, kenaikan harga kapasiti pengkomputeran; tiga, makmal menggunakan peratusan kapasiti pengkomputeran yang lebih besar untuk inferens.

Pemahaman saya ialah ketiga perkara ini berlaku pada masa yang sama: pertama, margin keuntungan Anthropic meningkat dari 40% pada 2025 kepada mungkin melebihi 80% untuk perniagaan inferens Fable tahun ini (walaupun margin keuntungan untuk pengiraan marjinal mungkin berbeza, yang akan dibincangkan kemudian); kedua, harga spot pengiraan telah meningkat lebih daripada 40% sejak rendah pada Februari tahun ini, dan harga sebenar yang perlu dibayar oleh makmal mungkin lebih tinggi lagi (akan dibincangkan secara terperinci kemudian); ketiga, berdasarkan data Epoch, OpenAI menghabiskan kira-kira seperempat perbelanjaan pengiraannya pada inferens pada 2024, dan kini nisbah ini pasti lebih dekat kepada 50%, atau bahkan lebih tinggi.

Laboratorium sebenarnya tidak ingin mengambil jalan ketiga (mengalihkan semakin banyak kekuatan pengiraan kepada inferens). Ada lelucon yang sangat tepat: makna pendapatan inferens adalah untuk meyakinkan pelabur memberi anda lebih banyak dana, supaya anda boleh membeli lebih banyak kekuatan pengiraan dan melatih model yang lebih besar. Jika anda mengalihkan sebahagian besar kekuatan pengiraan kepada inferens, anda secara tidak langsung mengumumkan bahawa kemajuan AI telah terhenti—kerana melanjutkan pelaburan dalam latihan sudah tidak lagi menguntungkan, dan perniagaan anda pada dasarnya menjadi penyedia perkhidmatan awan. Majoriti laboratorium tidak bersetuju dengan ini—mereka percaya model yang mereka deploy sekarang akan kelihatan sangat ketinggalan setahun dari sekarang, dan perniagaan ini dilakukan untuk mengumpulkan kes perniagaan yang boleh menyokong latihan model yang lebih pintar di masa depan.

Jadi, tinggal dua pilihan: satu, peningkatan margin keuntungan laboratorium; dua, kekuatan pengiraan menjadi lebih mahal. Jika satu atau dua laboratorium terkemuka jauh mendahului pesaing, maka pilihan pertama akan lebih ketara. Dalam persaingan pasaran, margin keuntungan bergantung pada sejauh mana anda lebih baik daripada pilihan kedua terbaik. Untuk membuat kesan pertama mendominasi, margin keuntungan mesti mencapai lebih daripada 90% pada akhir tahun depan. Ini menurut saya agak tidak masuk akal. Tetapi saya memang percaya bahawa pendapatan laboratorium AI boleh terus meningkat dengan laju yang menakjubkan.

Oleh itu, untuk menjelaskan bagaimana dunia ini menjadi kenyataan dengan pendapatan yang melonjak gila-gilaan kepada US$1 trilion pada akhir tahun depan, masih ada satu kesan terakhir: harga komputasi melonjak tajam. Seperti yang saya katakan, ini sudah bermula. Jika kita melihat jenis komputasi yang sebenarnya diperlukan oleh laboratorium, kenaikan harganya akan lebih mencengangkan—mereka jelas tidak boleh bergantung pada contoh pasaran tunai; mereka memerlukan jaminan keselamatan bobot model dan data pengguna, serta skala yang mencukupi untuk mendapatkan penggunaan dan fleksibiliti yang baik. Lihat betapa gila pasarnya ini: Google dan Anthropic menyewa komputasi daripada SpaceX. Dilaporkan, Google menghabiskan US$900 juta sebulan untuk menyewa 110,000 GPU, yang merupakan campuran GB200 dan GB300. Dalam pengiraan, harga ini kira-kira dua kali ganda harga pasaran tunai GPU tersebut. Dan harga pasaran tunai semasa sendiri sudah 40% lebih tinggi berbanding Februari.

Saya ingin menekankan kesimpulan utama: semakin kuat model AI, semakin tinggi nilai yang dihasilkan oleh kekuatan pengiraan yang sama. Jika seorang jurutera perisian yang benar-benar mencapai tahap manusia boleh berjalan pada peranti setaraf H100, mengikut tahap gaji pasaran jurutera perisian semasa, sewa tahunan H100 ini sepatutnya melebihi 250,000 dolar AS—15 kali ganda harga spot semasa.

Tentu, jika tiba-tiba terdapat 10 juta jurutera perisian tambahan, nilai marginal jurutera pasti akan menurun, jadi H100 itu mungkin tidak benar-benar menghasilkan pendapatan 15 kali ganda daripada sekarang. Tetapi saya sebenarnya tidak pasti sama ada logik ini berlaku. Jika argumen ini diterapkan pada manusia bukan AI, ini adalah "kesilapan jumlah tenaga kerja" yang klasik. Ekonom secara umum percaya bahawa imigran berkemahiran tinggi tidak akan menekan gaji dalam jangka panjang, kerana pembahagian kerja khusus dan inovasi akan meningkatkan nilai tenaga kerja. Mungkin kejutan bekalan tenaga kerja kali ini terlalu besar dan terlalu pantas, sehingga membatalkan peraturan ini. Tetapi jika kita percaya penilaian ekonomi standard terhadap tenaga kerja, maka nilai marginal tenaga kerja (dan harga marginal pengiraan) sepatutnya tetap pada tahap yang sangat tinggi.

Apa yang akan berlaku di dunia ini?

Model terkemuka semakin mampu mengekstrak nilai daripada kuasa pengiraan, menjadikan kesukaran untuk mengejar semakin meningkat. Jika pada tahun 2028 kejuruteraan perisian telah diotomatiskan, dan harga kuasa pengiraan meningkat 15 kali ganda berbanding sekarang, maka tanpa pendapatan apa-apa, akan sangat sukar untuk bersaing dengan makmal terkemuka untuk mendapatkan kuasa pengiraan.

Jika anda mampu melatih model terbaik dan paling efisien, margin keuntungan yang boleh anda peroleh akan jauh lebih tinggi daripada hari ini. Ini adalah kesan Alchian-Allen: apabila kos tetap ditambahkan kepada dua barangan dengan kualiti berbeza, barangan berkualiti tinggi menjadi lebih bernilai secara relatif, menyebabkan permintaan berpindah ke arahnya. Apabila harga H100 per jam meningkat kepada $20, menggunakan model yang lebih lemah dan kurang efisien menjadi sangat mahal dan tidak masuk akal—kerana anda perlu membakar lebih banyak token dan menjalankan lebih banyak kuasa komputasi yang mahal untuk mendapatkan hasil yang sama. Oleh itu, jika seseorang mampu melatih model teratas yang lebih hemat kuasa komputasi, mereka boleh menetapkan premium yang sangat tinggi. Oleh kerana kuasa komputasi asas sudah pasti memerlukan perbelanjaan sebanyak ini, mengapa tidak menambah sedikit lagi untuk menggunakan model yang paling efisien pada kuasa komputasi yang sama?

Banyak aplikasi AI yang popular sekarang akan tersingkir kerana harga. AI kini relatif murah, sekurang-kurangnya lebih murah daripada tenaga manusia, sebahagiannya kerana ia masih tidak mampu melakukan banyak perkara yang boleh dilakukan oleh manusia terbaik. Pada suatu hari nanti, perkara ini tidak akan lagi berlaku. Pada masa itu, kos mengguna GPU untuk menghasilkan kandungan sampah video pendek akan menjadi terlalu tinggi untuk bernilai.

Namun, ramalan semacam ini juga serupa dengan ramalan salah sejarah mengenai kelangkaan. Saya teringat pertaruhan Simon-Ehrlich: Paul Ehrlich bertaruh bahawa harga sekumpulan komoditi akan naik, bukan turun, dalam dekad sebelum 1990. Pertaruhan ini terkenal dalam perbincangan ekonomi awam kerana dikatakan membuktikan bahawa pandangan dunia Malthusian Ehrlich telah dibantah—ia bermaksud dia meremehkan isyarat pasaran dan kebijaksanaan manusia dalam menghemat sumber yang langka (walaupun ada analisis yang menunjukkan bahawa jika pertaruhan ini dibuat untuk dekad yang berbeza, Ehrlich akan menang).

Saya menduga rujukan komoditi tidak sesuai untuk kekuatan pengiraan, kerana elastisiti bekalan kekuatan pengiraan jauh lebih rendah berbanding penambangan logam, dan kemampuannya untuk menyerap kejutan permintaan berskala besar atau mencari penyelesaian pengganti juga jauh lebih lemah. Pertumbuhan kekuatan pengiraan sebanyak 3 kali setahun diperoleh daripada hasil darab tiga nombor berikut: 1.4 kali daripada Hukum Moore, 1.2 kali daripada pembinaan kilang wafer baru (sekurang-kurangnya sehingga 2030 terhad oleh bekalan peralatan EUV), dan 1.8 kali daripada AI yang mengambil alih kuota wafer proses canggih daripada peralatan lain (kuota ini akan mencapai batasnya sekitar 2027, apabila peratusan AI pada wafer N3 akan meningkat dari 60% kepada 86%). Di antara tiga faktor pendarab ini, mana-mana satu sukar untuk ditingkatkan lagi, dan yang terakhir bahkan akan mencapai puncaknya dalam satu atau dua tahun seterusnya apabila kuota wafer menjadi jenuh.

Saya ingin menjelaskan bahawa pada suatu masa mendatang, kuasa pengiraan akan menjadi lebih murah sekali lagi. Pada suatu hari, robot akan dapat mengubah pasir silika di tepi pantai dan bijih tembaga di bawah tanah secara langsung menjadi komputer, dan pada masa itu, harga kuasa pengiraan sepatutnya akan turun mendekati paras kos bahan mentah dan alat. Yang saya bincangkan sekarang hanyalah peringkat semasa—kuasa pengiraan AI hanya meningkat sebanyak 3 kali setiap tahun, laju ini jauh tertinggal daripada kesan peningkatan harga yang dibawa oleh peningkatan nilai AI setiap tahun.

Sebagai tambahan, pendapatan Anthropic tumbuh 10 kali setiap tahun, sementara kekuatan pengiraan hanya tumbuh 3 kali—ini menunjukkan bahawa perniagaan model memiliki ekonomi skala yang sangat kuat. Secara logik, ini masuk akal—melatih satu model, anda membayar kos pembelajaran sekali sahaja, dan kos ini boleh diratakan kepada semua pengguna (berbeza dengan tenaga kerja manusia, setiap contoh perlu dilatih dari awal). Saya tidak ingin hidup dalam dunia di mana kecerdasan memiliki ekonomi skala yang begitu kuat (kerana saya risau tentang pengumpulan kuasa). Tetapi kenyataannya nampaknya memang begitu.

Penulis: Dwarkesh Patel, Terjemahan: Deep潮 TechFlow