Ni-DDN at Nvidia ang nagtatrabaho upang magbigay-daan sa GPU-initiated na pag-access sa data para sa AI

Narito ang isang maruming lihim tungkol sa AI infrastructure: ang ilan sa pinakamahal na hardware sa mundo ay nagpapahinga sa isang nakakagulat na dami ng oras habang nagpapakalma. Ang mga GPU, ang mga manggagawa ng modernong AI training at inference, ay madalas na naka-antay nang walang gawain habang hinihintay ang pagdating ng data mula sa mga sistema ng storage. Ang DDN at Nvidia ay kasalukuyang nagtatrabaho kasama upang ayusin ang problema na ito sa pamamagitan ng pagpapahintulot sa mga GPU na magsimula ng pag-access sa data nang direkta, na iiwas sa gitnang tao.

Ang pagkakasundo ay nakatuon sa Infinia data intelligence platform ni DDN, na nag-iintegrate sa Storage-Next initiative ni Nvidia upang paganahin ang GPU-initiated na data operations. Sa Ingles: sa halip na hintayin ng mga GPU nang maayos ang mga CPU para hanapin at ipadala ang data, ngayon ay maaari nang humingi at kunin ng mga GPU ang kanilang kailangan mismo.

Ang resulta ay mas mababang latency, minimizado ang CPU overhead, at mas malaking paggamit ng GPU. Para sa mga organisasyon na nagpapatakbo ng malalaking AI factory, kung saan libu-libo ang GPU na nagtatrabaho nang sabay-sabay, kahit anumang maliit na pagpapabuti sa paggamit ay nagtataglay ng makabuluhang pagbawas sa gastos.

Ipinahayag ni DDN CTO Sven Oehme ang kolaborasyon sa mga ekonomikong termino, na nagtuturo sa pagpapabuti sa “ekonomiks ng AI sa malaking saklaw.” Pinahalagahan ni Jason Hardy, VP ng Storage Technology ng Nvidia, ang magandang integrasyon sa pagitan ng computing at data infrastructure bilang pangunahing kahusayan.

Ang teknolohiya ay umaayon sa mas malawak na 2026 platform strategy ng Nvidia, na kasama ang Nvidia Rubin platform at BlueField-4 DPUs.

Ang DDN at Nvidia ay nagtatrabaho nang sama-sama simula noong 2016, nang maging unang vendor ng storage ang DDN na sertipikahin ang kanyang platform gamit ang Nvidia’s GPUDirect Storage technology.

Pinapahintulutan ng GPUDirect Storage ang paggalaw ng data nang direkta sa pagitan ng storage at GPU memory nang hindi lumilipas sa system memory muna. Ang bagong kolaborasyon sa Infinia ay higit pang pinapalawig ang konseptong ito sa pamamagitan ng pagbibigay sa GPUs ng kakayahang aktibong mag-initiate ng mga pagpapalipat ng data kesa sa pagiging pasibong tumanggap lamang.

Planong ipakita ng DDN ang mga kakayahan na ito sa Flash Memory Summit, kung saan inaasahan na ipapakilala ng kumpanya ang mga benchmark ng performance at mga detalye tungkol sa operational availability.

Habang lumalaki ang mga modelo at lumalawak ang mga dataset para sa pagtuturo, lumalawak ang pagkakaiba sa pagitan ng kakayahan sa kompyutasyon at paghahatid ng data. Maaaring maglalaman ang malalaking pagtuturo sa AI ng petabytes ng data na nakalat sa mga distributed storage system. Bawat mikrosegundo ng latency sa pag-access sa data ay kumakalat sa libu-libo ng GPUs at milyon-milyon na pagtuturo.

Hindi lamang nagpapabilis ng pag-iimbak, ang DDN at Nvidia ay bumabawi sa paraan kung paano dumadaloy ang data sa buong sistema. Ang pagbibigay ng direkta na awtoridad sa GPUs sa mga operasyon ng data ay isang pangunahing pagbabago sa paraan kung paano gumagana ang AI infrastructure.