
[TL;DR Araw na Pinakamahusay] Hindi ako nakatutok sa kung gaano kahalaga ang GPU, kundi kung kayang magbigay ito ng patuloy na “matalinong” output na maaaring mabayaran, tulad ng isang tamang pabrika ng mga intelligent agent. Ang $38/GPU-hour na ipinakita ni DeepSeek ay parang isang maliit na pagbukas sa pinakamahalagang aklatan ng industriya ng AI: Hindi na lang problema kung gaano karaming pera ang nasasayang, kundi kung kayang kumita ng sarili nito bawat GPU. 📌 Una, tingnan ang pinakamakapangyarihang datos: • Ipinahayag ni DeepSeek: Ang isang cluster ay kayang prosesuhin ang 155 trilyon na Token bawat araw. • Batay sa publikong API price sa off-peak, teoretikal na $38 ang kita bawat GPU-hour. • Sa simpleng taunang extrapolation, bawat GPU ay maaaring magdala ng higit sa $330,000 sa kita. Hindi ito “kita” o “madaling pera”—ito ay teoretikal na kakayahan sa pagbabayad. Pero mahalaga ito—nagpapakita nito na kung sapat ang pag-optimize sa inference, ang GPU ay hindi lamang isang black hole ng gastos, kundi maaaring maging isang makina na nagpapalabas ng cash flow. 📌 Paano nakuha ang $38? • Ang DeepSeek V4.1 Flash ay may kabuuang 552 bilyon na parameter, gumagamit ng MoE architecture. • Sa pag-input, aktibado ang ~8 bilyon na parameter; sa pag-output, ~16 bilyon. • Ang global KV Cache ay bawasan sa 1/4 ng nakaraang bersyon; ang long-term cache ay bawasan sa 1/8. • Ang global KV Cache ay ~890 bytes bawat Token, at suportado ang hanggang 1 milyong Token na context. Sa madaling salita, hindi ito nakakakuha ng kita dahil sa “mas mahal na GPU,” kundi dahil sa mas matinding system engineering: expert parallelism, speculative decoding, asynchronous scheduling, paghihiwalay ng prefill/decode, at pagpapalawig ng KV Cache. Sa madaling salita, sa parehong grupo ng GPU, ang nagkakaroon ng mas kaunting redundant computation ay mas malapit sa isang printing press. 📌 Pero huwag agad isipin na ang $38 ay average sa industriya: • Hindi buong open-source ang lahat ng komponente ng production environment ni DeepInfer. • Ang mga kritikal na bahagi tulad ng KV Cache system, service orchestration, at cross-replica load balancing ay kailangan pa ng external support. • Kasalukuyan lamang ito ay optimized para sa DeepSeek-V4.1 Flash; hindi madaling i-apply sa iba pang models. Kaya, ang pag-download ng framework ≠ pagkopya ng kita. Ang $38 ay mas katulad ng “model showroom sa pinakamataas na engineering state”—hindi ito isang wealth code na maaaring i-replicate agad gamit ang ilang GPU. 📌 Bakit maraming model company pa rin nawawala kahit lalong lumalakas ang inference? • Ayon sa Stanford HAI / Epoch AI: Ang OpenAI ay may estimated $16.3B na computing expense sa 2025—$8.3B para sa R&D, $8B para sa inference. • Kumpara sa 2024, tumataas ang inference expense ng OpenAI mula $1.8B hanggang $8B—tumaas ng 3.4 beses. • Ang Anthropic naman ay may $6.8B na computing expense sa 2025—$4.1B para sa R&D, $2.7B para sa inference. Ito ang katotohanan: Ang training at inference ay dalawang iba’t ibang aklatan. Kayang mong ibenta ang Token, pero hindi ibig sabihin na hindi ka na kailangan mag-spends para sa susunod na model. At mas maraming user, mas lalaki ang inference bill. Bawas mo ang unit cost—hindi ibig sabihin bababa ang kabuuang gastos. Ang AI industry ay parang pagbuo ng highway—mas maraming sasakyan, mas maraming kita, pero mas mataas din ang maintenance, expansion, at interest cost. 📌 Kayang gawing negosyo ang pagbebenta lang ng Token? Sagot: Posible, pero hindi madali. Binigay ng artikulo ang isang direkta sensitivity analysis: • Kung ang kabuuang gastos ay $10/GPU-hour; • Ang teoretikal na kita ay $38/GPU-hour; • Kailangan lang ng ~26.3% effective billing output upang kumabig sa gastos. • Kung 50% ang effective billing output, $19 per hour ang kita—$9 pa ang natitira pagkatapos i-subtract ang $10. Ang modelo ay nakakaakit, pero ang realidad ay hindi romantiko. Ang throughput, concurrency, latency, customer structure, peak traffic, at idle time ay magkakain ng inaasahang kita. At higit pa rito—kapag dumating ang price war, kadalasan ang bahagi ng efficiency gains ay ibinibigay sa customer. 📌 Ipinakita rin ni CoreWeave ang iba’t ibang panig: • Kita sa Q2 2026: $2.575B (+112% yoy). • Adjusted EBITDA: $1.51B (59% margin). • Ngunit GAAP net loss: $626M. • Depreciation & amortization: $1.393B; net interest expense: $640M. Nakikita mo ba? Ang negosyo ng compute ay hindi “may kita = may kita.” Ang GPU ay bumababa sa halaga; ang paglalawak ay nakabatay sa financing; at ang interest ay tuloy-tuloy na kasama mo. May kakayahan kang makakuha ng gross profit—hindi ibig sabihin matatagpuan mo ang net profit. 📌 Mas nakakalungkot pa sa application layer: tumataas ang demand, pero hindi kasabay ang kita: • Hanggang Q1 2026, ang Cursor ay may gross margin na -23%; kung isama lahat ng inference cost para sa free users, -31%. • https://t.co/RxWvQzBAAu ay naghiling ng bankruptcy protection habang may 12M monthly active users; kita sa Agosto 2026: $5.3M; pero monthly loss pa rin: $8-9M. • Sa unang 8 buwan ng 2026 lamang, https://t.co/RxWvQzBAAu ay nag-spent ng $56.1M para sa compute—45% ng operating expenses. • Samantala, ang Midjourney ay kumita nang higit sa $200M noong 2023 at patuloy na profitable. Parehong AI-native—iba-iba ang kapalaran. Hindi nakakagulat: Hindi sapat na “gumagamit ka ng AI” para magkaroon ka agad ng business model. Ang susi ay kung kayang kumabig ng task value ang iyong service sa kabuuang inference at operating cost. 📌 Mas malaking oportunidad, baka nasa Agent: • Ayon kay Menlo Ventures: Ang global consumer AI spending noong 2026 ay umabot na sa $40B—tumaas nang higit sa tatlong beses mula sa $12B noong 2025. • Ngunit ang paggamit ng AI sa mga adulto sa US ay tumataas lang mula 61% hanggang 64%. Ibig sabihin: Hindi dumami nang malaki ang mga bagong user—kundi lumalalim at nagbabayad nang higit pa ang mga dating user. Ang market ay nagsusugal na hindi lang sa bilang ng chat—kundi kung ilan pang gawain ang kayang gawin ng AI araw-araw: email, pagbili, scheduling, software operation, cross-service coordination—ito ang mga lugar kung saan maaaring palakasin ng Agent ang pagkonsumo ng Token. Ngunit kailangan ko pa ring magbigay ng isang malamig na tubig: Mas maraming Token ≠ mas magandang negosyo. Kung isang Agent product ay kumikita lang ng $20 buwananan pero nag-aalok ng $30 para sa model at tools—ito lang ay nagpapalaki para sa upstream GPU provider; hindi ito nagpapalaki para sa sarili nito. Ang aking pananaw ay simpleng: 1. Ang $38/GPU-hour ay nagpapakita na posibleng magkaroon ng negosyo ang AI inference—at sobrang napapababa ang halaga ng engineering optimization. 2. Pero mula sa “kayang mabayaran” patungo sa “kayang kumita,” may apat na pader: utilization rate, pricing power, capital cost, at product value. 3. Ang tunay na makakalampas sa cycle ay hindi yung pinakamabilis mag-spends—kundi yung pinakamahusay mag-convert ng Token tungo sa totoong resulta.Kung sa hinaharap, bawat Agent ay nagtatrabaho, nagbibili, nagtatawag, at nagpapatupad ng mga proseso para sa tao, ang tanong ay hindi na “Ilang presyo ang ipagbibili ng Token?”, kundi—ilan ang halaga na natipon ng aking nilikhang智能化 para sa iyo? Ito ang aking pinakamahalagang tala.