Tomasz Tunguz: Ang AI Infrastructure ay nakakaranas ng 'Whiplash Effect' dahil sa mga bottleneck na nagdudulot ng pagtaas ng gastos

Ayon sa ChainCatcher, ang venture capitalist na si Tomasz Tunguz ay nag-post na ang kuwento ng AI infrastructure ay parang isang mabagal na relay race, kung saan ang bottleneck ay umaabot nang paulit-ulit mula sa GPU patungo sa memory, CPU, at storage, kung saan bawat yugto ay nagpapahinga sa supply chain ng susunod na yugto ng ilang taon at nagpapataas ng mas mataas na benchmark cost. Noong unang bahagi ng 2023, ang pagtaas ng GPU ay nagdulot ng pagtaas ng rental ng H100 sa higit sa $9 bawat oras, at bumaba ang paglabas ng server ng 22%; pagkatapos, ang mga manufacturer ay nag-shift ng kanilang production capacity patungo sa HBM, at tumaas ang presyo ng enterprise-grade SSD ng 80% sa isang quarter, habang ang DRAM ay tumaas ng higit sa 60%. Hanggang sa katapusan ng 2025, ang agent workload ay magpapalapit sa ratio ng CPU at GPU sa halos 1:1, at tumaas ang average presyo ng server CPU ng 27% kumpara sa nakaraang taon; noong 2026, ang buong taong kapasidad ng nearline HDD ay nabili na. Ang gastos sa pagtatayo ng data center ay tumaas hanggang sa halos $20 bilyon bawat gigawatt, at ang mga order para sa mga equipment na may mahabang production cycle tulad ng transformer at turbine ay naka-iskedyul na hanggang 2029 hanggang 2031. Sinabi ni Tunguz na ito ay ang long whip effect sa hardware: ang maraming taong delay sa paggawa ay nagpapalakas ng mga pagbabago sa demand sa ibaba sa mga supplier sa itaas, at kapag ang presyon ay napapalaya sa isang bottleneck, ito ay nagkakaroon ng pagka-delay sa pagpapadala patungo sa susunod na yugto—ang pagpapalawak ng kapasidad ng transformer na ipapadala noong 2027–2028, ang NAND wafer fab, at ang production line ng turbine ay maaaring magkaroon ng panganib na sobra ang kapasidad.