Ang parehong graphics card na H100 ay maaaring magkakahalaga ng $0.80 o $4.20 bawat oras noong 2026. Parehong card, parehong performance. Ang tanging nagbabago ay kung saan mo ito iirerehistro. May apat na daan. Ang on-demand cloud ay ang default at pinakamahal, halos $3 hanggang $4 bawat oras, at babayad ka pa ng premium kahit sa mga oras na walang ginagawa ang iyong hardware. Ang specialist GPU clouds ay naglalayong mag-rent ng parehong card para sa halos $1.49 hanggang $3.00. Ang GPU hosting ay nagbibigay ng dedicated capacity sa isang komitadong term, mas mura dahil hindi ka nagbabayad para sa flexibility na hindi mo ginagamit. Ang pagbili at colocating ay pinakamura bawat oras, karaniwang 40 hanggang 60% mas mababa kaysa sa hyperscaler cloud, na may break-even sa loob ng 6 hanggang 18 buwan. Ang patakaran ay simpleng: nagpapatakbo ka nang malakas at patuloy sa isang taon o higit pa? Pagnanaisin mo ito. Spiky o patuloy pa ring eksperimento? I-rent mo, at huwag hayaang ikaw ay ipaikli ng sinuman. Ito ang bahagi na pinapalampas ng karamihan: ang tunay na bottleneck ay hindi ang chips, kundi ang kapangyarihan. Ang isang karaniwang rack ay nakakatanggap ng halos 5kW. Ang isang modernong AI rack ay maaaring kailanganin ang 100kW o higit pa kasama ang liquid cooling. Ang karamihan sa mga facility ay hindi kayang gawin ito. Ang mga bitcoin miner ay nagpassa ng isang dekada sa pagbuo ng eksaktong uri ng kapasidad na ito, kaya’t ang parehong mga gusali ay ngayon ay ginagamit para sa AI.