
NVIDIA adalah perusahaan yang luar biasa. Namun dalam jangka panjang, saya pikir mereka lebih rentan daripada yang dipikirkan orang. Persaingan dari startup adalah hal yang diharapkan, dan ada banyak startup yang sedang mengembangkan berbagai jenis chip. Mereka juga mengumpulkan dana besar untuk mendanai pengembangan ini. Yang biasanya tidak Anda lihat adalah persaingan yang datang dari pelanggan Anda. Itulah yang sedang dihadapi NVIDIA. Dan koopetisi ini justru datang dari perusahaan terbesar dan tercepat berkembang di dunia. -Google sedang membangun TPU berperforma tinggi, yang TCO-nya diperkirakan 44% lebih murah daripada GB200. -AWS memiliki Trainium, yang kinerja dan efisiensi energinya meningkat pesat dengan setiap rilis baru. -Microsoft telah menerapkan Maia 200, akselerator yang difokuskan untuk inferensi yang dibangun dengan proses 3nm dan memiliki memori bandwidth tinggi sebesar 216GB. -OpenAI sedang mengembangkan chip khusus bersama Broadcom, dengan rencana peluncuran awal tahun ini. Mereka juga berencana membeli TPU dari Google. -Anthropic masih berada di tahap awal pengembangan chip, tetapi mereka sudah melatih dan menjalankan model menggunakan TPU Google dan Trainium AWS bersama GPU NVIDIA. Perusahaan-perusahaan ini tahu persis beban kerja apa yang perlu mereka jalankan dan dapat merancang chip untuk mengoptimalkan model mereka sendiri. Saya tidak sampai mengatakan NVIDIA sudah selesai, tetapi menurut saya mereka berisiko dalam jangka panjang.



