GPT-6 Astra secara terbuka mengungkapkan penggunaan lebih dari 100,000 GPU Grace Blackwell untuk pelatihan, yang berarti persaingan model mutakhir telah memasuki era kluster skala super besar.

Penulis artikel, sumber: ME News



TL;DR:

• GPT-6 Astra secara terbuka mengungkapkan penggunaan lebih dari 100,000 GPU Grace Blackwell untuk pelatihan, yang berarti persaingan model mutakhir telah memasuki era kluster skala super besar.
• Syarikat model terkemuka China tidak kekurangan kapasiti pengiraan berskala besar, tetapi maklumat awam menunjukkan bahawa masih terdapat jurang yang jelas dalam generasi GPU canggih dan skala pelaksanaan terpusat sekali gus.
• Pembagian kekuatan komputasi oleh syarikat-syarikat seperti ByteDance, Kimi, dan DeepSeek sedang diperluas, tetapi pada masa ini lebih banyak difokuskan pada arsitektur Hopper atau penyelesaian pengganti tempatan, dan masih berbeza dari kluster tahap Blackwell.
• Kunci persaingan AI telah berpindah dari “ada atau tidaknya GPU” kepada “keupayaan untuk mendapatkan GPU generasi terbaru dan mengatur ribuan hingga ratusan ribu cip secara efisien”.
• Walaupun Blackwell bukan lagi arsitektur terkini NVIDIA, trend Rubin yang terus menurunkan kos latihan bermakna jurang kepimpinan mungkin terus berpusat pada keupayaan infrastruktur.

Di sebalik 100,000 unit Blackwell, persaingan model besar memasuki era infrastruktur komputasi

Semasa Huang Renxun mengungkapkan skala latihan GPT-6 Astra, yang menjadi perhatian bukan hanya nombor "100,000 GPU" itu sendiri, tetapi model persaingan AI baru yang diwakili oleh nombor tersebut.

Dalam beberapa tahun terakhir, persaingan model besar sering dipahami sebagai persaingan dalam algoritma, data, dan kemampuan kejuruteraan. Inovasi arsitektur model, pengoptimuman kaedah latihan, dan peningkatan kecekapan inferens memang menentukan kemampuan akhir produk AI. Namun, selepas memasuki tahun 2026, satu trend yang semakin jelas sedang terbentuk: apabila saiz model terus membesar, kemampuan infrastruktur itu sendiri telah menjadi faktor penting yang menentukan had teknologi.

Menurut pengungkapan terbuka oleh Huang Renxun, pelatihan GPT-6 Astra menggunakan lebih dari 100.000 GPU Grace Blackwell, yang dihubungkan melalui NVLink72 untuk membentuk kluster interkoneksi berkecepatan tinggi. Beliau juga menyatakan bahwa 400.000 GPU seterusnya akan dilancarkan, tetapi tidak mengungkapkan model spesifik atau kepemilikannya.

Walaupun butiran pelaksanaan seterusnya belum ditentukan, isyarat yang dikeluarkan oleh maklumat ini sangat jelas: latihan model paling canggih sedang berpindah daripada persaingan berdasarkan trilionan parameter dan ribuan GPU sebelum ini, kepada persaingan antara kluster GPU canggih berjumlah puluhan ribu hingga seratus ribu.

Kunci di sini bukan hanya kuantiti.

Jika hanya membandingkan jumlah GPU, perusahaan China tidak sepenuhnya tidak memiliki sumber daya komputasi berskala besar. Perbezaan sebenar terletak pada sama ada boleh memperoleh GPU berprestasi tinggi generasi terbaru, dan sama ada boleh menjadikan GPU ini bekerja secara koordinasi yang efisien dalam tugas latihan yang sama.

Bagi model besar, prestasi puncak satu GPU sahaja adalah asas. Untuk melatih model besar, diperlukan pertukaran berterusan parameter dan data antara banyak GPU. Jika kecekapan perhubungan tidak mencukupi, walaupun memiliki banyak cip, ia mungkin tidak dapat membentuk kuasa pengiraan yang berkesan.

Oleh itu, persaingan dalam infrastruktur AI pada dasarnya telah naik dari "membeli berapa banyak kad" kepada "membina sistem pengiraan bagaimana".

Penyediaan daya komputasi bagi syarikat model terkemuka di China berbeza generasi dengan era Blackwell

Maklumat awam semasa menunjukkan bahawa kapasiti pengiraan syarikat model terkemuka China sedang meningkat dengan pantas, tetapi masih terdapat jurang yang jelas berbanding kumpulan latihan kelas Blackwell yang diwakili oleh GPT-6 Astra.

ByteDance adalah salah satu syarikat yang paling hampir mencapai tahap pemimpin antarabangsa dalam pelaburan kuasa pengiraan di dalam negara. Pada tahun ini, ByteDance menghubungkan sebanyak 36,000 unit GPU B200 melalui Malaysia. Cip-cip ini merupakan sebahagian daripada arsitektur NVIDIA Blackwell dan termasuk dalam generasi yang sama dengan GB200 yang digunakan oleh Astra.

Namun, perlu diperhatikan bahawa siri B200 ini ditempatkan di luar negara. Ketika ByteDance secara terbuka memperkenalkan infrastruktur AI di dalam China, mereka masih terutamanya menggunakan versi khas China H20 berarkitektur Hopper, serta cip-cip seperti H800 yang sebelumnya telah diperoleh.

Ini bukan sekadar perbezaan kuantiti, tetapi perbezaan dalam rantai bekalan dan persekitaran pelaksanaan.

Blackwell mengalami peningkatan berbanding Hopper dalam hal keupayaan pengiraan, memori video, dan keupayaan perhubungan. Terutamanya GB200, yang bukan sekadar satu GPU, tetapi menggabungkan CPU Grace dan GPU Blackwell, serta menghubungkan 72 GPU ke dalam domain perhubungan berkelajuan tinggi melalui sistem NVL72.

Bagi pelatihan model berskala besar, kepentingan reka bentuk peringkat sistem semakin meningkat. Semakin besar model, semakin tinggi peratus komunikasi antara GPU, dan kecekapan kerjasama antara cip secara langsung mempengaruhi kecekapan pelatihan.

Bulan Gelap di belakang Kimi juga didedahkan telah memperoleh sekitar 20,000 keping GPU Hopper melalui Alibaba. Bloomberg mengutip maklumat yang menyatakan model spesifiknya ialah H200, tetapi Alibaba membantah klaim mengenai model H200 tersebut.

Jika dihitung berdasarkan H200, ia masih termasuk dalam arsitektur Hopper generasi sebelumnya, sementara B200 telah memasuki era Blackwell. Kedua produk ini bukan sekadar penggantian lama dengan baru, tetapi mewakili kemampuan infrastruktur AI pada tahap yang berbeza.

Kes DeepSeek pula lebih khusus.

DeepSeek pada awal 2025 menarik perhatian global dengan model berkesan tinggi, dan garis teknologi mereka membuktikan bahawa pengoptimuman algoritma dan kecekapan kejuruteraan boleh mengurangkan sebahagian keperluan kuasa pengiraan. Namun, berdasarkan maklumat awam, syarikat tersebut tidak mengumumkan konfigurasi peranti latihan penuh V4.

Transkrip pertemuan pelanggan Liang Wenfeng yang bocor menunjukkan bahawa syarikat mempunyai sekitar 20,000 unit daya pengiraan H pada Mei, kebanyakannya baru tiba, dan pembelian masa depan “hampir semuanya akan menjadi NVIDIA”. Kapasiti 950 yang diberikan oleh Huawei kepada DeepSeek adalah sekitar 16,000 unit. Liang Wenfeng menyatakan bahawa kad tempatan ini kira-kira setara dengan 4,000 unit NVIDIA seri B, yang hanya mencukupi untuk latihan model generasi semasa.

Maklumat ini mencerminkan kenyataan: walaupun syarikat-syarikat China telah memiliki kekuatan AI yang cukup besar, masih terdapat jurang skala untuk mencapai penggunaan terpusat 100,000 GPU canggih generasi yang sama dalam satu tugas latihan.

Kekurangan sebenar dalam kekuatan komputasi AI China bukanlah kurangnya cip, tetapi kurangnya kemampuan kluster canggih

Semasa membincangkan kuasa pengiraan AI China, mudah terjebak dalam dua ekstrem.

Satu pandangan berpendapat bahawa China benar-benar kekurangan cip AI canggih, oleh itu tidak dapat menyertai persaingan; pandangan lain berpendapat bahawa selama jumlah cip tempatan meningkat, China boleh dengan cepat mengejar ketinggalan dari NVIDIA.

Sebenarnya, situasinya lebih kompleks.

Kemampuan latihan AI ditentukan oleh beberapa elemen, termasuk prestasi cip, proses canggih, kapasiti memori video, penghubung berkelajuan tinggi, reka bentuk pelayan, bekalan kuasa pusat data, ekosistem perisian, dan kemampuan pengurusan berskala besar.

GPU hanyalah salah satu bahagian paling penting, tetapi bukan keseluruhan.

Kelebihan jangka panjang NVIDIA tidak hanya datang dari peranti keras GPU, tetapi juga dari ekosistem CUDA, teknologi penghubung rangkaian, penyelesaian pelayan, serta sistem lengkap yang dibentuk bersama penyedia awan.

Pada era Blackwell, kelebihan sistem ini semakin diperbesar.

Apabila satu latihan model memerlukan 100,000 GPU, masalahnya bukan lagi sekadar membeli puluhan ribu cip, tetapi bagaimana membina sebuah pabrik pengiraan besar yang boleh beroperasi dengan stabil.

Ini juga merupakan sebab mengapa syarikat China belum mengungkapkan kes pelatihan model menggunakan 100,000 GPU canggih generasi yang sama dalam maklumat awam.

Perusahaan China sedang meningkatkan kemampuan mereka melalui pelbagai cara, termasuk meningkatkan penghantaran kuasa pengiraan luar negara, memperluas skala kesesuaian cip tempatan, mengoptimumkan struktur model, dan meningkatkan kecekapan latihan. Semua lintasan ini mempunyai nilai, tetapi dalam jangka pendek, sukar untuk sepenuhnya menggantikan kelebihan asas yang dibawa oleh klauster GPU paling canggih.

Dalam beberapa tahun terakhir, industri AI China telah membuktikan satu fakta: inovasi algoritma boleh secara signifikan mengurangkan sebahagian jurang.

Kehadiran syarikat-syarikat seperti DeepSeek menunjukkan bahawa pasukan kejuruteraan yang cemerlang boleh mencapai lompatan dengan mengoptimumkan struktur model, menyesuaikan strategi latihan, dan meningkatkan kecekapan penggunaan sumber di bawah keadaan kuasa pengiraan yang terhad.

Namun, fakta lain juga wujud: apabila persaingan global memasuki peringkat model asas generasi seterusnya, kepentingan skala kuasa pengiraan akan terus meningkat.

Pengoptimuman kecekapan boleh mengurangkan kos, tetapi sukar untuk sepenuhnya mengubah sempadan kemampuan yang dibawa oleh peranti canggih dan kluster skala super.

Selepas Blackwell, era Rubin mungkin semakin memperlebar jurang infrastruktur

Yang lebih patut diperhatikan ialah, Blackwell bukanlah penghujung jalan teknologi semasa NVIDIA.

Arsitektur Vera Rubin generasi seterusnya NVIDIA telah memasuki peringkat pengeluaran berskala besar. Menurut anggaran awam NVIDIA, bilangan GPU yang diperlukan untuk melatih model MoE besar boleh dikurangkan kepada kira-kira seperempat jumlah yang diperlukan oleh Blackwell.

Ini bermakna bahawa persaingan AI di masa depan mungkin mengalami satu kitaran baru.

Perusahaan terkemuka memiliki arsitektur terkini, sehingga mampu melakukan pelatihan berskala lebih besar dengan lebih sedikit chip; kos pelatihan yang lebih rendah mendorong perusahaan melakukan lebih banyak eksperimen, yang seterusnya meningkatkan kemampuan model.

Sementara itu, syarikat yang tertinggal yang hanya dapat memperoleh peranti generasi sebelumnya mungkin menghadapi dua masalah: efisiensi latihan yang rendah di satu sisi, dan kesukaran untuk bersaing dalam model berskala terbesar di sisi lain.

Tentu, ini tidak bermakna bahawa perusahaan AI China tidak memiliki peluang.

Sejarah AI telah membuktikan berulang kali bahawa persaingan teknologi tidak sepenuhnya ditentukan oleh peranti keras tunggal. Inovasi model, aplikasi, kemampuan komersial, dan kecekapan kejuruteraan semuanya boleh mencipta lompatan baru.

Namun, jika dilihat dari sudut pandang infrastruktur, peristiwa GPT-6 Astra menggunakan 100,000 GPU Blackwell memang mengungkapkan perubahan yang sedang berlaku: medan pertempuran utama dalam persaingan AI global sedang bergerak lebih jauh dari aras model ke aras infrastruktur pengiraan.

Dalam beberapa tahun ke depan, yang menentukan daya saing syarikat AI bukan sahaja keupayaan untuk melatih model yang cemerlang, tetapi keupayaan untuk membina kemampuan melatih model generasi seterusnya secara berterusan.

Bagi industri AI China, yang benar-benar perlu dikejar bukanlah satu model tertentu atau satu pelancaran tertentu, tetapi keseluruhan kemampuan sistem mulai dari perolehan cip, pembinaan pusat data, pengurusan kluster hingga ekosistem perisian.

Makna 100,000 unit Blackwell bukan terletak pada penciptaan nombor yang menakjubkan, tetapi pada pengingatan pasaran: kecerdasan buatan sedang memasuki peringkat pengindustrian, dan persaingan pengindustrian akhirnya bergantung kepada infrastruktur.

Sumber rujukan:

1. Maklumat rasmi NVIDIA mengenai Blackwell, GB200 NVL72, arsitektur Vera Rubin, dan infrastruktur AI.
2. Maklumat ucapan awam dan temu bual media Huang Renxun.
3. Laporan Bloomberg mengenai pembelian daya komputasi Kimi dan H200.
4. Maklumat infrastruktur AI dan penghantaran kuasa komputasi luar negara yang diumumkan secara terbuka oleh ByteDance.
5. Maklumat awal DeepSeek dan transkrip perbincangan pelabur dengan Liang Wenhong.
6. Maklumat awam mengenai kerjasama infrastruktur AI dan kuasa pengiraan model besar dari Alibaba Cloud.