Berikut adalah rahasia kotor tentang infrastruktur AI: beberapa perangkat keras paling mahal di dunia menghabiskan waktu yang mengejutkan dalam keadaan tidak aktif. GPU, mesin utama dalam pelatihan dan inferensi AI modern, sering kali dibiarkan menganggur sambil menunggu data tiba dari sistem penyimpanan. DDN dan Nvidia kini bekerja sama untuk memperbaiki masalah ini dengan memungkinkan GPU memulai akses data secara langsung, sehingga menghilangkan perantara.
Kemitraan ini berfokus pada platform intelijen data DDN Infinia, yang terintegrasi dengan inisiatif Storage-Next Nvidia untuk memungkinkan operasi data yang diinisiasi GPU. Dalam bahasa Inggris: alih-alih GPU menunggu dengan sopan agar CPU mengambil dan mengirimkan data, GPU sekarang dapat menjangkau dan mengambil sendiri apa yang mereka butuhkan.
Apa yang sebenarnya dilakukan teknologi tersebut
Hasilnya adalah latensi yang berkurang, beban CPU yang diminimalkan, dan pemanfaatan GPU yang jauh lebih baik. Bagi organisasi yang menjalankan pabrik AI berskala besar, di mana ribuan GPU beroperasi secara bersamaan, bahkan peningkatan kecil dalam pemanfaatan dapat menghasilkan penghematan biaya yang signifikan.
CTO DDN, Sven Oehme, merangkum kolaborasi ini dalam istilah ekonomi, menunjukkan peningkatan dalam “ekonomi AI dalam skala besar.” Jason Hardy, Wakil Presiden Teknologi Penyimpanan Nvidia, menekankan integrasi mulus antara infrastruktur komputasi dan data sebagai keunggulan utama.
Teknologi ini sesuai dengan strategi platform Nvidia yang lebih luas pada 2026, yang mencakup platform Nvidia Rubin dan BlueField-4 DPUs.
Kemitraan yang telah dibangun selama satu dekade
DDN dan Nvidia telah bekerja sama sejak 2016, ketika DDN menjadi vendor penyimpanan pertama yang mensertifikasi platformnya dengan teknologi GPUDirect Storage dari Nvidia.
GPUDirect Storage memungkinkan data bergerak langsung antara penyimpanan dan memori GPU tanpa melewati memori sistem terlebih dahulu. Kolaborasi baru dengan Infinia membawa konsep ini lebih jauh dengan memberikan kemampuan kepada GPU untuk secara aktif memulai transfer data tersebut, bukan hanya menerimanya secara pasif.
DDN berencana untuk menunjukkan kemampuan ini di Flash Memory Summit, di mana perusahaan diharapkan membagikan benchmark kinerja dan detail tentang ketersediaan operasional.
Mengapa hal ini penting bagi pasar infrastruktur AI
Saat model menjadi lebih besar dan kumpulan data pelatihan membesar, kesenjangan antara kemampuan komputasi dan pengiriman data semakin lebar. Pelatihan AI skala besar dapat melibatkan petabytes data yang tersebar di sistem penyimpanan terdistribusi. Setiap mikrodetik latensi dalam akses data akan bertambah secara kumulatif di ribuan GPU dan jutaan iterasi pelatihan.
Alih-alih hanya mempercepat penyimpanan, DDN dan Nvidia memikirkan ulang cara data mengalir melalui sistem secara keseluruhan. Memberikan otoritas langsung kepada GPU atas operasi data mewakili perubahan mendasar dalam cara infrastruktur AI beroperasi.