Seiring dengan terus membesarnya skala pusat data AI, perbincangan mengenai parit perlindungan NVIDIA juga berubah. TechCrunch melaporkan bahawa pada masa lalu, pelabur lebih memperhatikan sama ada GPU akan dilemahkan oleh cip buatan sendiri oleh penyedia awan, tetapi selepas laporan keuangan terkini, perhatian pasaran beralih kepada soalan lain: siapa yang mampu menjalankan keseluruhan sistem AI dengan cekap.
Fokus persaingan berpindah kepada sistem
Artikel tersebut berpendapat bahawa penyebaran kuasa AI sedang bergerak ke arah kuasa yang lebih tinggi dan kumpulan yang lebih besar; melihat hanya GPU tidak lagi mencukupi untuk menjelaskan lanskap persaingan. Semakin besar pusat data, semakin kompleks sinergi antara data, penyimpanan, rangkaian, dan pengiraan. GPU masih merupakan komponen utama, tetapi semakin banyak faktor di luar GPU yang menentukan kecekapan.
Ini juga merupakan inti perubahan naratif semasa NVIDIA. Walaupun pengeluar awan besar seperti Amazon dan Google terus mempercepatkan pembangunan cip buatan sendiri, NVIDIA masih membina kombinasi infrastruktur yang lebih lengkap di sekeliling GPU. Artikel ini merangkumnya sebagai: Jika GPU adalah enjin, maka sistem lainnya adalah keseluruhan kereta.
Vera Rubin menutupi lebih banyak peringkat
TechCrunch menyebut bahawa NVIDIA sedang memajukan arsitektur Vera Rubin. Arsitektur ini tidak hanya mencakup GPU Rubin, tetapi juga CPU Vera, serta sistem rak yang dirancang untuk penyimpanan, jaringan, dan komponen lainnya. Artikel tersebut berpendapat bahawa kepentingan produk-produk ini ialah ia tidak bertanggungjawab secara langsung dalam penghasilan token, tetapi berusaha meminimumkan kehilangan prestasi di luar GPU.
Di antaranya, Vera CPU digambarkan sebagai elemen penting dalam pengagihan data. Jason Hardy, Timbalan Presiden Teknologi Penyimpanan NVIDIA, menyatakan bahawa kapasiti memori yang boleh ditampung oleh satu pelayan atau satu platform pengiraan adalah terhad, oleh itu, bagaimana menghantar data ke GPU pada masa yang sesuai menjadi kunci kepada kecekapan sistem.
Data menjadi medan pertempuran baru
Artikel tersebut mengutip Hardy yang menyatakan bahawa dalam beberapa operasi berkaitan, peningkatan yang dibawa oleh Vera CPU boleh mencapai sekitar 3 kali ganda. Ini bermakna sumber peranti keras seperti flash storage boleh dimanfaatkan dengan lebih cekap, dan bottleneck sistem juga berpeluang berkurang.
Artikel tersebut juga menyebutkan bahawa masalah serupa tidak hanya berlaku dalam sistem NVIDIA. Semasa OpenAI memperkenalkan cip Jalapeño, mereka juga menjadikan pengurangan pergerakan data dan latensi komunikasi sebagai matlamat utama. Pendekatan mereka adalah untuk memastikan beban kerja penuh tetap berada dalam satu sistem yang saling terhubung, bagi mengurangkan kehilangan yang disebabkan oleh penghantaran antara modul.
Menurut TechCrunch, ini menunjukkan bahawa persaingan infrastruktur AI memasuki peringkat baru. Perusahaan tidak lagi bersaing hanya berdasarkan kekuatan pemproses, tetapi juga bagaimana data mengalir, bagaimana penyimpanan diselaraskan, dan bagaimana rangkaian mengelakkan kemacetan. Dengan kata lain, tahap persaingan sedang berpindah dari “siapa yang mempunyai GPU yang lebih kuat” kepada “siapa yang mampu membuat keseluruhan sistem beroperasi dengan lebih cekap”.
Artikel tersebut berpendapat bahawa perubahan ini tidak bermakna NVIDIA telah memastikan kemenangannya. Ia masih menghadapi persaingan daripada pengeluar cip lain dan penyedia perkhidmatan awan besar. Namun, pada peringkat ini, NVIDIA masih mempunyai keunggulan dalam integrasi sistem dan kemampuan pengurusan, yang merupakan sebab utama pasaran menilai semula kelebihan AI-nya.