Naniniwala ang lahat na may walang hanggang demand ang intelligence, hindi lang ang maxis. Pero ang mali ng maxis ay ang uri ng intelligence na binubuo ng Anthropic, OpenAI, at mga frontier model ay hindi ang pangkalahatang uri na iyong isipin. Pahayag ko:
Ang dalawang pinakamalaking gamit ng compute ay maaaring maliit na i-classify bilang training o inference. Ang “pangkalahatang intelligence” na sinasabi ng lahat na may walang hanggang demand ay nagmumula sa pangunahing inference, at kailangan ng iba’t ibang kapangyarihan at paggamit kaysa sa training. Ang inference ay dumadaloy sa mga burst, kaya kailangan mong automaong mag-overbuild ng capacity upang harapin ang mga peak hanggang masolusyunan ang problema sa utilization, na nangangahulugan na sa halos anumang kahulugan, tayo ay magiging overbuilt. Pero ang training ay walang problema na iyon: ang workload ay patuloy at ang kurba ng demand ay maunawaan. Kaya ang data centers ay overbuilt ngayon eksaktong dahil hindi pa optimizado ang utilization.
Kaya ang Anthropic at iba pang frontier labs ay nagtatayo ng kanilang kinabukasan sa training, kaya sila ay nagsasabi na sila ay makakasipsip sa lahat ng sobrang capacity na ito. Pero ang “intelligence” nila ay hindi workplace productivity. Ito ay ang paglakas patungo sa mga resulta na katulad ng singularity: bagong paghahanap ng gamot, cyber capabilities, recursive self-improvement. Ito ay totoong 1-of-1s. Kaya kapag sinasabi ni Anthropic ang “existential threats to humanity,” hindi sila nagsasalita tungkol sa pagkawala ng trabaho, hindi talaga. Sinasabi nila na nasa dulo na sila ng hindi kapani-paniwalang mga paghahanap, dahil sila ay patuloy pa ring TRAINING NG HIGHER MODELS.
Ngunit ang distillation ay totoo at ang open source ay totoo. Ang half-life ng anumang frontier model ay maliit dahil walang proteksyon nito kung paano pinoprotektahan ng IP ang isang patent. Isipin ang isang kumpanya ng gamot para sa rare disease na nag-spends ng milyon-milyon dolyar sa pananaliksik, at dalawang buwan pagkatapos ng breakthrough, may lumabas na generic. Hindi makakarecover ang kumpanyang iyon sa kanilang investment, maliban kung sila ay makakahanap ng walang hanggang bilang ng rare disease drugs. ITO ang uri ng intelligence na binabato ni Anthropic. Ito ang binabato ng $800 bilyon na compute spend.
Kaya ang mga tanong na kailangan mong itanong ay: 1) Kung ang intelligence ay dalawang tier, ano ang gastos ng bawat tier? Ano ang gastos ng AGI, at ano ang gastos ng pangkalahatang intelligence na may walang hanggang demand? at 2) Nag-aalok ba tayo ng kapital na may tamang risk curve at decay function upang malaman kung totoo ba ang AGI payoff? At kung totoo ito, maiiwan ba talaga ng isang private company ito?
Ito ang cognitive dissonance sa puso ng buong paradox: nag-gaslighting ang lahat sa isa’t isa tungkol sa ano ang intelligence habang ang unit of measurement ay deliberately iniiwan na vague ng parehong users at suppliers. Ang pangkalahatang intelligence ay may walang hanggang demand, pero ito ay isang tiyak na race to the bottom. Ang “superintelligence” naman ay kabaligtaran: hindi maaaring may walang hanggang demand batay sa kahulugan, pero kung ito ay magdudulot kahit kalahati lamang ng sinasabing resulta, hindi maiiwan ng anumang private company ito, kung hindi man lang sa pamamagitan ng pagtulong ng gobyerno upang protektahan ang moat (kaya patuloy ni Anthropic itong ipinapakita, nang hindi nagpakita ng anumang demonstrasyon na sila ay malapit na sa antas na ito ng paghahanap). At sa puntong iyon, kailangan mong tanungin: sino ang maghahawak ng bag? At kung gayon, talagang mayroon bang intelligent na desisyon iyon?