Maaaring magtrabaho nang maraming taon ang isang Nvidia GPU ngunit maaari pa ring maging ekonomikong obsolete nang mas maaga.
Mahalaga ang pagkakaiba na ang Microsoft, Alphabet, Amazon, at Meta ay inilalabas ang malalaking amount ng kapital sa AI infrastructure. Ang mga investor ay karaniwang nakafokus sa pangunahing gastos ng mga chip at data centers, ngunit ang depreciation ang tumutukoy kung gaano karami sa investmeng iyon ang maging gastos sa income statement.
Ang pagbaba ng halaga ay nagbabahagi ng gastos ng kagamitan sa loob ng inaasahang magiging kapaki-pakinabang nito. Ang isang kumpanya na nagmumula ng $1 bilyon para sa mga server ay karaniwang hindi nagrerecord ng buong amount bilang gastos agad. Sa halip, ang gastos ay kilala sa loob ng ilang taon.
Ang problema sa hardware ng AI ay ang ang pisikal na buhay at ekonomikong buhay ay maaaring magkaiba nang malaki.
Bakit Maaaring Mawalan ng Halaga nang Mabilis ang AI GPUs
Hindi kailangang tumigil ang isang GPU upang maging mas mababa ang halaga nito.
Maaaring mas mabilis na itrain ng mga bagong henerasyon ang mga modelo, mas kaunti ang konsyumo ng kuryente, at magbigay ng higit pang computing power bawat dolyar. Ibig sabihin nito, ang isang mas lumang accelerator ay maaari pa ring teknikal na gamitin habang patuloy na lumalaki ang gastos sa pagpapatakbo nito kumpara sa mas bagong hardware.
Ang mabilis na siklo ng produkto ni Nvidia ay naggagawang lalong mahalaga iyon. Ang kumpanya ay naglipat mula sa Hopper patungo sa Blackwell habang patuloy na nagpapaunlad ng mas bagong arkitektura, na nagpapataas ng panganib na maging ekonomikong obsoletong mabilis ang mahal na hardware ng data center kaysa sa tradisyonal na server.
Nvidia ay naglalayong ipaliwanag ang kasalukuyang estratehiya ng produkto at teknolohiya nito sa pamamagitan ng kanyang investor relations materials.
Kumukonekta rin ang isyu nang direkta sa kung nagtataglay ba ang walang katulad na corporate AI spending ng nakakaakit na returns. Ang aming gabay sa AI investment returns ay nagpapaliwanag kung paano gamitin ng mga investor ang free cash flow, margins at return on invested capital upang masukat kung nagbabayad ba ang mga gastos na iyon.
Bakit Maaaring Magbago ang Depresyasyon ang Kita ng mga Bada Tech
Isipin ang isang kumpanya na naglalabas ng $6 bilyon para sa mga server na AI at umaasa na ito ay magiging kapaki-pakinabang sa loob ng anim na taon.
Sobrang simpleng sabihin, maaaring magkakahalaga ng halos $1 bilyon ang taunang pagbaba ng halaga bago isama ang pagkakasunod-sunod at iba pang mga detalye sa pagsusuri.
Kung ang pamamahala ay masasabing mananatiling ekonomikong kapaki-pakinabang ang kagamitan para sa apat na taon lamang, maaaring tumaas nang malaki ang taunang gastos.
Ang mahalagang punto ay ang pagbabago sa pagtataya ng magiging kapaki-pakinabang na buhay ay maaaring mag-apekto sa mga nareport na kita nang hindi nagbabago sa perang ipinaglaban nang una.
Ang mga malalaking kumpanya sa cloud ay inilalabas ang mga ipinapalagay na ito sa kanilang mga pahayag sa pananalapi. Maaaring tingnan ng mga investor ang mga patakaran sa pagbaba ng halaga ng Microsoft sa pamamagitan ng kanilang investor relations filings, ang mga pahayag ng Alphabet sa pamamagitan ng Alphabet Investor Relations, at ang mga pahayag ng Amazon sa pamamagitan ng Amazon Investor Relations.
Hindi ibig sabihin na biglaan nang walang halaga ang mga mas lumang GPU. Maaaring ilipat ng mga kumpanya ang mga ito mula sa mga nagtataglay na trabaho sa pag-train ng modelo patungo sa inference, internal na aplikasyon, o mas maliit na compute-intensive na gawain.
Ang pangalawang buhay ay makakapagpahaba sa kanilang ekonomikong paggamit.
Ang Bilang na Dapat Totoong Panatilihing Bantay ng mga Investor
Ang pinakamalaking tanong ay kaya hindi lamang gaano karaming ginagastos ng Big Tech sa mga GPU.
Kung ang kita at pera sa daloy na ginawa ng mga GPU ay tumutubo nang sapat upang kumompensa sa pagbaba ng halaga, gastos sa kuryente, at mabilis na pagbabago sa teknolohiya.
Mas mahalaga ito habang tumataas ang kita ni Nvidia mula sa mga AI-chip. Ang kamakailang Nvidia earnings coverage ni Coinpaper ay nagpapakita ng hindi karaniwang sukat ng kasalukuyang demand para sa mga accelerator.
Ang gastos sa hardware ay karamihan lamang sa ekwasyon. Ang modernong mga data center ng AI ay kumakain ng malaking halaga ng kuryente, na ginagawa ang availability ng enerhiya bilang isa pang mahalagang limitasyon. Ang paliwanag ni Coinpaper sa AI power markets ay tumitingin kung bakit ang ekonomiya ng kuryente ay maaaring maging magkasing-importansya sa mga GPU mismo.