Berikut adalah rahsia kotor mengenai infrastruktur AI: sebahagian daripada peralatan paling mahal di dunia menghabiskan masa yang mengejutkan dalam keadaan tidak beroperasi. GPU, jentera utama dalam latihan dan inferens AI moden, sering kali berada dalam keadaan rehat sambil menunggu data tiba dari sistem penyimpanan. DDN dan Nvidia kini bekerjasama untuk memperbaiki masalah ini dengan membenarkan GPU memulakan akses data secara langsung, menghilangkan perantara.
Kerjasama ini berpusat pada platform kecerdasan data DDN Infinia, yang berintegrasi dengan inisiatif Storage-Next Nvidia untuk membolehkan operasi data yang dimulakan oleh GPU. Dalam bahasa Inggeris: bukannya GPU menunggu dengan sopan agar CPU mengambil dan menghantar data, GPU kini boleh menghampiri dan mengambil sendiri apa yang mereka perlukan.
Apa yang sebenarnya dilakukan oleh teknologi tersebut
Hasilnya adalah latensi yang berkurang, beban CPU yang diminimumkan, dan penggunaan GPU yang jauh lebih baik. Bagi organisasi yang menjalankan pabrik AI berskala besar, di mana ribuan GPU beroperasi secara serentak, peningkatan sekecil apa pun dalam penggunaan berubah menjadi penghematan kos yang bermakna.
CTO DDN, Sven Oehme, merangkum kerjasama itu dalam istilah ekonomi, menunjukkan peningkatan dalam “ekonomi AI pada skala besar.” Jason Hardy, VP Teknologi Penyimpanan Nvidia, menekankan integrasi yang lancar antara infrastruktur komputasi dan data sebagai kelebihan utama.
Teknologi ini sesuai dengan strategi platform Nvidia yang lebih luas pada 2026, yang merangkumi platform Nvidia Rubin dan BlueField-4 DPUs.
Kerjasama yang telah dibina selama sepuluh tahun
DDN dan Nvidia telah bekerjasama sejak 2016, apabila DDN menjadi peniaga penyimpanan pertama yang mengesahkan platformnya dengan teknologi GPUDirect Storage milik Nvidia.
GPUDirect Storage membenarkan data bergerak secara langsung antara penyimpanan dan memori GPU tanpa melalui memori sistem terlebih dahulu. Kolaborasi baru dengan Infinia membawa konsep ini lebih jauh dengan memberikan kemampuan kepada GPU untuk secara aktif memulakan pindahan data tersebut, bukan hanya menerimanya secara pasif.
DDN merancang untuk menunjukkan kemampuan ini di Flash Memory Summit, di mana syarikat dijangka akan berkongsi tolok prestasi dan butiran tentang ketersediaan operasi.
Mengapa ini penting untuk pasaran infrastruktur AI
Semasa model menjadi lebih besar dan set data latihan membesar, jurang antara kemampuan pengiraan dan penghantaran data semakin lebar. Run latihan AI yang besar boleh melibatkan petabytes data yang tersebar di sistem penyimpanan teragih. Setiap mikro saat latensi dalam akses data akan berganda ribuan GPU dan jutaan iterasi latihan.
Bukan sekadar mempercepat penyimpanan, DDN dan Nvidia sedang memikirkan semula bagaimana data mengalir melalui sistem secara keseluruhan. Memberikan agensi langsung kepada GPU atas operasi data mewakili perubahan mendasar dalam cara infrastruktur AI beroperasi.