NVIDIA Rubin Ultra HBM diubah kepada 8-Hi kerana kos bandwidth menjadi penghala utama

iconKuCoinFlash
Kongsi
AI summary iconRingkasan
NVIDIA mengurangkan HBM dalam Rubin Ultra kepada 8-Hi, dengan mengutip peningkatan kos bandwidth per unit sebagai faktor utama. Perubahan ini mengurangkan penggunaan die DRAM sebanyak sepertiga, meringankan bekalan HBM sambil mengekalkan atau meningkatkan jumlah bandwidth. Altcoin yang perlu diawasi mungkin mengalami trend bullish kerana reka bentuk cip AI berpindah ke arah kecekapan bandwidth. Batasan kuasa dan kos kini lebih penting daripada kapasiti HBM mentah.
ME AI mesej, SemiAnalysis menyatakan bahawa NVIDIA telah menurunkan HBM pada Rubin Ultra dari 12-Hi kepada 8-Hi, dan sebab utamanya bukan semata-mata untuk mengurangkan kapasiti, tetapi kerana kini AI inference benar-benar dibatasi oleh kos per unit bandwidth ($/bandwidth), bukan kos per unit kapasiti ($/capacity). Jumlah lapisan HBM stack terutamanya menentukan kapasiti, manakala jumlah bandwidth keseluruhan lebih bergantung kepada bilangan HBM stack, lebar antaramuka, dan kadar penghantaran. Oleh itu, penurunan dari 12-Hi ke 8-Hi boleh mengurangkan penggunaan DRAM die sebanyak kira-kira 1⁄3, meringankan tekanan bekalan HBM yang ketat dan mahal semasa ini, sambil masih mengekalkan atau bahkan meningkatkan bandwidth keseluruhan tanpa mengubah bilangan stack dan konfigurasi antaramuka. Ini bermakna NVIDIA sedang secara aktif menukar kapasiti HBM yang lebih rendah demi ekonomi bandwidth yang lebih tinggi. Bagi beban kerja AI yang semakin berpusat pada inference, model tidak hanya memerlukan “menyimpan lebih banyak data”, tetapi juga memerlukan pengangkutan berterusan dan pantas terhadap bobot model dan KV Cache, maka kepentingan bandwidth memori semakin meningkat. Penyesuaian Rubin Ultra mencerminkan bahawa logik persaingan HBM sedang berubah: chip AI kini tidak lagi mengejar hanya peningkatan kapasiti HBM, tetapi memperoleh bandwidth berkesan sebanyak mungkin di bawah had terhad DRAM, kuasa, dan kos.瓶颈 utama HBM sedang berpindah dari “adakah kapasitinya mencukupi” kepada “berapa banyak bandwidth yang boleh dibeli dengan setiap dolar”. (Sumber: Wall Street Journal)
Penafian: Maklumat yang terdapat pada halaman ini mungkin telah diperoleh daripada pihak ketiga dan tidak semestinya menggambarkan pandangan atau pendapat KuCoin. Kandungan ini adalah disediakan bagi tujuan maklumat umum sahaja, tanpa sebarang perwakilan atau waranti dalam apa jua bentuk, dan juga tidak boleh ditafsirkan sebagai nasihat kewangan atau pelaburan. KuCoin tidak akan bertanggungjawab untuk sebarang kesilapan atau pengabaian, atau untuk sebarang akibat yang terhasil daripada penggunaan maklumat ini. Pelaburan dalam aset digital boleh membawa risiko. Sila menilai risiko produk dan toleransi risiko anda dengan teliti berdasarkan keadaan kewangan anda sendiri. Untuk maklumat lanjut, sila rujuk kepada Terma Penggunaan dan Pendedahan Risiko kami.