GPT-6 Astra secara terbuka mengungkapkan penggunaan lebih dari 100.000 GPU Grace Blackwell untuk pelatihan, yang berarti persaingan model mutakhir telah memasuki era kluster skala super besar.

Penulis artikel, sumber: ME News



TL;DR:

• GPT-6 Astra secara terbuka mengungkapkan penggunaan lebih dari 100.000 GPU Grace Blackwell untuk pelatihan, yang berarti persaingan model mutakhir telah memasuki era kluster skala super besar.
• Perusahaan model terkemuka di Tiongkok tidak tidak memiliki daya komputasi skala besar, tetapi informasi publik menunjukkan bahwa masih ada kesenjangan jelas dalam generasi GPU canggih dan skala penempatan terpusat sekali waktu.
• Pembagian daya komputasi oleh perusahaan-perusahaan seperti ByteDance, Kimi, dan DeepSeek sedang diperluas, tetapi saat ini lebih banyak berfokus pada arsitektur Hopper atau solusi pengganti lokal, masih jauh dari klaster sekelas Blackwell.
• Kunci persaingan AI telah berpindah dari "apakah memiliki GPU" menjadi "mampu memperoleh GPU generasi terbaru dan mengorganisasi ribuan hingga ratusan ribu chip secara efisien".
• Meskipun Blackwell bukan arsitektur terbaru NVIDIA, tren Rubin untuk lebih menurunkan biaya pelatihan juga berarti kesenjangan kepemimpinan kemungkinan besar akan terus terkonsentrasi pada kemampuan infrastruktur.

Di balik 100.000 unit Blackwell, persaingan model besar memasuki era infrastruktur komputasi

Ketika Huang Renxun mengungkapkan skala pelatihan GPT-6 Astra, yang menjadi perhatian dunia bukan hanya angka "100.000 GPU" itu sendiri, tetapi model persaingan AI baru yang diwakili oleh angka tersebut.

Dalam beberapa tahun terakhir, persaingan model besar sering dipahami sebagai persaingan dalam hal algoritma, data, dan kemampuan teknis. Inovasi arsitektur model, optimasi metode pelatihan, dan peningkatan efisiensi inferensi memang menentukan kemampuan akhir produk AI. Namun, setelah memasuki tahun 2026, sebuah tren yang semakin jelas sedang terbentuk: ketika ukuran model terus membesar, kemampuan infrastruktur itu sendiri telah menjadi faktor penting yang menentukan batas teknis.

Menurut pengungkapan terbuka oleh Jensen Huang, pelatihan GPT-6 Astra menggunakan lebih dari 100.000 GPU Grace Blackwell yang dihubungkan melalui NVLink72 untuk membentuk kluster koneksi berkecepatan tinggi. Ia juga menyatakan bahwa 400.000 GPU berikutnya akan segera diluncurkan, tetapi tidak mengungkapkan model spesifik maupun kepemilikannya.

Terlepas dari detail implementasi selanjutnya, sinyal yang dikeluarkan oleh informasi ini sangat jelas: pelatihan model paling canggih sedang berpindah dari persaingan berbasis triliunan parameter dan ribuan GPU di masa lalu, menuju persaingan antara kluster GPU canggih berjumlah puluhan hingga seratus ribu.

Kuncinya di sini bukan hanya jumlahnya.

Jika hanya membandingkan jumlah GPU, perusahaan China tidak sepenuhnya tidak memiliki sumber daya komputasi skala besar. Perbedaan sejati terletak pada kemampuan untuk mendapatkan GPU berkinerja tinggi generasi terbaru, serta kemampuan untuk membuat GPU-gen ini bekerja secara sinergis dengan efisien dalam satu tugas pelatihan.

Bagi model besar, kinerja puncak satu GPU hanyalah dasar. Untuk melatih model besar, diperlukan pertukaran parameter dan data secara terus-menerus di antara banyak GPU. Jika efisiensi interkoneksi tidak memadai, bahkan dengan memiliki banyak chip, daya komputasi yang efektif mungkin tidak dapat terbentuk.

Oleh karena itu, persaingan dalam infrastruktur AI pada dasarnya telah naik dari "membeli berapa banyak kartu" menjadi "membangun sistem komputasi seperti apa".

Penempatan daya komputasi perusahaan model terkemuka Tiongkok memiliki kesenjangan generasi dibandingkan era Blackwell

Informasi publik saat ini menunjukkan bahwa kapasitas komputasi perusahaan model terkemuka Tiongkok sedang meningkat pesat, tetapi masih ada kesenjangan jelas dibandingkan dengan klaster pelatihan sekelas Blackwell yang diwakili oleh GPT-6 Astra.

ByteDance adalah salah satu perusahaan di dalam negeri yang paling mendekati tingkat global dalam hal penyebaran daya komputasi publik. Pada tahun ini, ByteDance mengakses sekitar 36.000 GPU B200 melalui Malaysia. Chip-chip ini termasuk dalam arsitektur NVIDIA Blackwell, yang merupakan generasi produk yang sama dengan GB200 yang digunakan oleh Astra.

Namun perlu diperhatikan bahwa sejumlah B200 ini dideploy di luar negeri. Saat memperkenalkan infrastruktur AI di dalam Tiongkok, ByteDance secara utama masih menggunakan versi khusus Tiongkok H20 berarsitektur Hopper, serta chip H800 yang sebelumnya diperoleh.

Yang ditunjukkan di sini bukan hanya perbedaan jumlah, tetapi juga perbedaan dalam rantai pasokan dan lingkungan penyebaran.

Blackwell mengalami peningkatan dibandingkan Hopper dalam hal daya komputasi, memori video, dan kemampuan interkoneksi. Terutama GB200, yang bukan sekadar GPU tunggal, tetapi menggabungkan Grace CPU dan Blackwell GPU, serta menghubungkan 72 GPU ke dalam satu domain interkoneksi berkecepatan tinggi melalui sistem NVL72.

Untuk pelatihan model besar, pentingnya desain sistem semacam ini semakin meningkat. Karena semakin besar ukuran model, semakin tinggi proporsi komunikasi antar GPU, dan seberapa efisien chip-beberapa chip dapat bekerja sama secara langsung memengaruhi efisiensi pelatihan.

Muka gelap di balik Kimi juga diketahui memperoleh sekitar 20.000 GPU Hopper melalui Alibaba. Menurut laporan Bloomberg, model spesifiknya adalah H200, tetapi Alibaba membantah klaim bahwa model tersebut adalah H200.

Jika dihitung berdasarkan H200, ia masih termasuk dalam arsitektur Hopper generasi sebelumnya, sementara B200 telah memasuki era Blackwell. Keduanya bukan sekadar hubungan penggantian lama dengan baru, melainkan mewakili kemampuan infrastruktur AI pada tahap yang berbeda.

Kondisi DeepSeek lebih spesifik.

DeepSeek memicu perhatian global di awal 2025 dengan model efisien tinggi, dan pendekatan teknisnya membuktikan bahwa optimasi algoritma dan efisiensi teknis dapat mengurangi sebagian kebutuhan daya komputasi. Namun, berdasarkan informasi publik, perusahaan tidak mengungkapkan konfigurasi perangkat keras pelatihan lengkap untuk V4.

Transkrip pertemuan investor Liang Wenfeng yang bocor menunjukkan bahwa perusahaan memiliki sekitar 20.000 unit daya komputasi H ekuivalen pada bulan Mei, sebagian besar baru tiba, dan pembelian mendatang "pada dasarnya semuanya akan menjadi NVIDIA". Kapasitas 950 yang disediakan Huawei untuk DeepSeek sekitar 16.000 unit. Liang Wenfeng menyatakan bahwa kartu buatan dalam negeri ini kira-kira setara dengan 4.000 unit Nvidia seri B, yang hanya cukup untuk pelatihan model generasi saat ini.

Informasi ini mencerminkan kenyataan: meskipun perusahaan China telah memiliki jumlah komputasi AI yang signifikan, masih ada kesenjangan skala dibandingkan dengan kebutuhan untuk menggunakan 100.000 GPU generasi maju secara terpusat dalam satu tugas pelatihan.

Kekurangan sebenarnya dalam daya komputasi AI Tiongkok bukanlah tidak adanya chip, tetapi kurangnya kemampuan klaster canggih

Saat membahas daya komputasi AI Tiongkok, mudah terjebak dalam dua ekstrem.

Satu pandangan berpendapat bahwa Tiongkok sama sekali tidak memiliki chip AI canggih, sehingga tidak dapat berpartisipasi dalam persaingan; pandangan lain berpendapat bahwa selama jumlah chip buatan dalam negeri meningkat, Tiongkok dapat segera mengejar ketinggalan dari NVIDIA.

Sebenarnya, situasinya lebih kompleks.

Kemampuan pelatihan AI ditentukan oleh beberapa tahap, termasuk kinerja chip, proses canggih, kapasitas memori video, interkoneksi kecepatan tinggi, desain server, pasokan daya pusat data, ekosistem perangkat lunak, serta kemampuan pengaturan skala besar.

GPU hanyalah salah satu bagian paling inti, tetapi bukan seluruhnya.

Keunggulan jangka panjang NVIDIA tidak hanya berasal dari perangkat keras GPU, tetapi juga dari ekosistem CUDA, teknologi interkoneksi jaringan, solusi server, serta sistem lengkap yang dibentuk bersama penyedia cloud computing.

Di era Blackwell, keunggulan sistem ini semakin diperbesar.

Ketika satu pelatihan model memerlukan 100.000 GPU, masalahnya bukan lagi sekadar membeli puluhan ribu chip, tetapi bagaimana membangun pabrik komputasi besar yang dapat beroperasi secara stabil.

Ini juga merupakan alasan mengapa perusahaan-perusahaan Tiongkok belum mengungkapkan kasus pelatihan model menggunakan 100.000 GPU generasi maju yang sama dalam dokumen publik.

Perusahaan-perusahaan Tiongkok sedang meningkatkan kemampuan mereka melalui berbagai cara, termasuk meningkatkan penyebaran daya komputasi luar negeri, memperluas skala adaptasi chip domestik, mengoptimalkan arsitektur model, dan meningkatkan efisiensi pelatihan. Semua jalur ini memiliki nilai, tetapi dalam jangka pendek sulit sepenuhnya menggantikan keunggulan dasar yang dibawa oleh cluster GPU paling canggih.

Dalam beberapa tahun terakhir, industri AI Tiongkok membuktikan satu fakta: inovasi algoritma dapat secara signifikan mempersempit sebagian kesenjangan.

Munculnya perusahaan seperti DeepSeek menunjukkan bahwa tim teknik yang unggul dapat mencapai terobosan dalam kondisi daya komputasi terbatas melalui optimasi arsitektur model, penyesuaian strategi pelatihan, dan peningkatan efisiensi pemanfaatan sumber daya.

Namun, fakta lain juga ada: ketika persaingan global memasuki tahap model dasar generasi berikutnya, pentingnya skala komputasi tetap akan meningkat.

Optimasi efisiensi dapat mengurangi biaya, tetapi sulit untuk sepenuhnya mengubah batas kemampuan yang dibawa oleh perangkat keras canggih dan kluster skala besar.

Setelah Blackwell, era Rubin mungkin semakin memperlebar kesenjangan infrastruktur

Yang lebih patut diperhatikan adalah bahwa Blackwell bukanlah titik akhir dari jalur teknologi NVIDIA saat ini.

Arsitektur Vera Rubin generasi berikutnya dari NVIDIA telah memasuki tahap produksi massal. Menurut perkiraan publik NVIDIA, jumlah GPU yang dibutuhkan untuk melatih model MoE besar dapat diturunkan menjadi sekitar seperempat dari jumlah yang dibutuhkan oleh Blackwell.

Ini berarti persaingan AI di masa depan mungkin mengalami siklus baru.

Perusahaan terkemuka memiliki arsitektur terbaru, sehingga mampu melakukan pelatihan skala besar dengan lebih sedikit chip; biaya pelatihan yang lebih rendah mendorong perusahaan untuk melakukan lebih banyak eksperimen, yang selanjutnya meningkatkan kemampuan model.

Sedangkan perusahaan yang tertinggal, jika hanya dapat mengakses perangkat keras generasi sebelumnya, mungkin menghadapi dua masalah: efisiensi pelatihan yang rendah di satu sisi, dan kesulitan berkompetisi dalam model berskala terbesar di sisi lain.

Tentu, ini tidak berarti perusahaan AI Tiongkok tidak memiliki peluang.

Sejarah AI telah berkali-kali membuktikan bahwa persaingan teknologi tidak sepenuhnya ditentukan oleh perangkat keras tunggal. Inovasi model, aplikasi praktis, kemampuan komersialisasi, dan efisiensi teknis semuanya dapat menciptakan terobosan baru.

Namun, jika dilihat dari sudut pandang infrastruktur, peristiwa penggunaan 100.000 GPU Blackwell oleh GPT-6 Astra memang mengungkapkan perubahan yang sedang terjadi: medan pertempuran utama dalam persaingan AI global sedang berpindah lebih jauh dari tingkat model ke tingkat infrastruktur komputasi.

Dalam beberapa tahun ke depan, yang menentukan daya saing perusahaan AI bukan hanya kemampuan untuk melatih model yang unggul, tetapi juga kemampuan untuk membangun kemampuan pelatihan berkelanjutan untuk model generasi berikutnya.

Bagi industri AI Tiongkok, yang benar-benar perlu dikejar bukanlah satu model tertentu atau satu peluncuran tertentu, melainkan seluruh kemampuan sistem mulai dari pengadaan chip, pembangunan pusat data, pengaturan klaster, hingga ekosistem perangkat lunak.

Arti 100.000 unit Blackwell bukan terletak pada penciptaan angka yang mengesankan, tetapi pada pengingat bagi pasar: kecerdasan buatan sedang memasuki tahap industri, dan persaingan industri pada akhirnya bergantung pada infrastruktur.

Sumber referensi:

1. Official NVIDIA materials on Blackwell, GB200 NVL72, Vera Rubin architecture, and AI infrastructure.
2. Informasi pidato publik dan wawancara media Huang Renxun.
3. Laporan Bloomberg mengenai pembelian daya komputasi Kimi dan terkait H200.
4. Informasi infrastruktur AI dan penyebaran daya komputasi luar negeri yang diungkapkan secara terbuka oleh ByteDance.
5. Transkrip informasi publik DeepSeek dan sesi komunikasi investor dengan Liang Wenhong.
6. Informasi publik tentang kolaborasi infrastruktur AI dan daya komputasi model besar dari Alibaba Cloud.