Ang Silicon Valley AI Startup ay nagbabago habang umuunlad ang mga modelo ng paggastos at pagpapamahala ng token

Batay sa apat na taon ng pagmamasid sa industriya, si Ma Peiyuan, isang engineer sa AI mula sa Silicon Valley, ay naglalayong ipakita ang sampung makabuluhang pagbabago: ang paghingi ng mga empleyado ay mula sa mga espesyalista patungo sa mga generalist, at ang kakayahan sa paggamit ng AI tools ay maaaring lumampas sa antas ng karanasan; ang istruktura ng organisasyon ay naging mas patag, kung kailangan ng mga tagapamahala na magkaroon ng teknikal na kakayahan, at ang papel ng people manager ay nagsisilbing nawawala; ang paggamit ng Token ay mula sa paghahanap ng dami patungo sa pagpapahalaga sa epekto, at ang mga malalaking kumpanya ay nagsisimulang muling kalkulahin; ang pagpapakita ng pagsamba sa mga modelo ay napalitan, at kasalukuyang populär sa Silicon Valley ang pagpapagsama ng maraming murang at pinakamahusay na mga modelo; lumalabas ang mga bagong infrastraktura para sa AI, at ang mga vertical AI agent ay nananatiling may halaga sa pagsusugal dahil kayang lutasin ang mga totoo at “hindi matututong” na problema. Tekad ni Ma Peiyuan na sa larangan ng AI, isang taon ay mahabang panahon, at maraming mga pagpapasya ay maaaring masira sa loob ng isang buwan.

May-akda ng artikulo, pinagkukunan: 36kr

Lahat ng consensus ay mabilis na natutupad

Lahat ay sumusubok na magbuo ng mga pagpapasya tungkol sa AI, ngunit ang lahat ng kasunduan ay mabilis na naging luma.

Interbyu | Ba Rui, Hangin ng Dagat

Artikulo | Haiming Liu Sijie

I-edit | Liu Sijie

Source ng cover image | Nakuha ng interviewee

Nawala na ang yugto ng walang pag-iingat na paglago.

Ito ang pinakamalalim na pakiramdam ni Ma Peiyuan, na nasa harap ng mga startup sa AI sa Silicon Valley, sa kasalukuyan.

Noong Disyembre 2021, matapos magtapos ng kanyang undergraduate degree, pumasok siya sa Quora, na kilala bilang “Ang US version ng Zhihu,” at pagkatapos ay lumipat sa Poe, isang platform na nagpapagsasama ng mga AI chatbot, kung saan siya ay naging Senior AI Engineer. Dalawang buwan ang nakalipas, sumali siya sa Cognition, ang pinakamainam na startup sa Silicon Valley na nakatuon sa AI Agent.

Sa Mayo 2026, ang kumpanyang ito na mayroon lamang tatlong taon ng pagkakatatag ay nag-anunsyo na natapos ang pagsasama ng higit sa $1 bilyon sa pagsasamang pondo, at tumataas ang pagpapahalaga nito sa $26 bilyon. Walong buwan ang nakalipas, ang pagpapahalaga nito ay $10.2 bilyon lamang.

Bukod sa inhinyero, may isa pang papel si Ma Peiyuan—venture scout. Tinutulungan niya ang mga institusyong nag-invest upang hanapin ang mga AI startup na worth the bet, at mayroon siyang budget na $500,000 taun-taon para sa pag-invest.

Sa mga apat na taon pagkatapos ng graduation, tila laging nasa harap ng konSENSUS ng industriya ng AI—nagsimula ang kanyang koponan sa isang proyekto nang hindi pa malinaw ang kahulugan ng salitang “agent”. Nang paano pa ang Anthropic ay isang walang kilalang pangalan, naging isa sila sa mga unang malalim na gumagamit ng Claude. Siya ang unang AI-certified engineer at unang AI agent engineer ng koponan, at pagkatapos ay “nabago” nila ang buong engineering team sa isang AI-native team na gumagamit ng AI para sa pagprograma.

Ang pinakamalikhaing patunay sa kanyang maagap na pag-unawa at pagkilos ay nangyari dalawang linggo ang nakalipas, nang siya ay nagsabi nang walang pag-iisip sa isang talakayan kasama ang "Future Humans Lab" na "nawawala na ang people manager," at hindi nagtagal ay tinotoo ng Tencent at ByteDance ang pag-alis sa mga gitnang pagsasakop.

Mabilis ang pagbabago, at sa Silicon Valley, kailangan mong magkaroon ng paraan na makipag-ugnayan sa pagbabago.

Sa pagitan ng dalawang interbyu sa artikulong ito, natuklasan ni Ma Peiyuan na ang lohika niya na ang Silicon Valley ay naghahanap ng pinakamahal at pinakamoderno na modelo ay nagsimulang mawalan ng basehan. Ang kasalukuyang praktika sa Silicon Valley ay ang pagpapagsama at pagpaplano ng maraming murang modelo kasama ang pinakamahusay na modelo.

Nakausap ko si Ma Peiyuan nang halos 5 oras, at natuklasan namin na halos laging tinatapos niya ang kanyang sariling sinabi kahapon, pareho rin sa Silicon Valley. “Hindi ko masasabi lahat, pero maaari mong sabihin na higit sa 60%, isang buwan mula ngayon, maaaring magbalik na naman.”

Sa mga nakalipas na taon, ang AI ay halos isinulat muli ang lahat ng default na patakaran sa Silicon Valley: sino ang mas madaling makakatindig, anong uri ng organisasyon ang mas kompetitibo, at saan nagagawa ang pera nang may halaga.

Totoo, ang mga pagpapasya tungkol sa mga “tama” na sagot ay mabilis ring nagsisilbing walang kwenta. Sa larangan ng AI, isang taon ay isang mahabang panahon, at maraming pagpapasya ay maaaring maibasura sa loob ng isang buwan.

Narito ang 10 mga obserbasyon sa AI ng Silicon Valley na itinuturing ni Ma Peiyuan bilang napakakasalukuyan:

Ma Peiyuan

Ang propesyonl na imahe ni Ma Peiyuan ay lubos na sumasalamin sa uri ng talento na pinapahalagahan ng mga AI na kompanya sa Silicon Valley. Hindi siya may tradisyonal na background sa kompyuter, wala siyang ginto sa mga kompetisyon, walang kilalang diploma mula sa pinakamataas na paaralan, at kahit na isang panahon ay walang interes sa kompyuter, ngunit sa loob ng apat na taon, umabot siya mula sa ad group ng Quora hanggang sa posisyon ng AI engineer sa Cognition—ang kanyang resume ay sumasakop sa bawat susi salita ng imahe ng talento na pinakamaraming hinahanap ng mga AI na kompanya sa Silicon Valley ngayon. Ang kanyang karanasan ay hindi lamang isang kuwento ng personal na pag-unlad, kundi isang halimbawa ng pagbabago sa mga pamantayan sa paghahanap ng trabaho sa industriya.

Obserbasyon 1: Ang mga generalist ay lalong nangunguna kaysa sa mga specialist

Ang pinakadaming hinahanap na imahe ng talento sa Silicon Valley ngayon ay hindi ang isang eksperto na napakalalim sa isang partikular na larangan, kundi ang isang tao na “mabuting sa lahat ng aspeto, walang malaking kahinaan”—tinatawag ito ng industriya bilang polyglot talent, o sa mas simpleng salita, “six-sided warrior.”

Noong 2024, isinimul ng Poe ang isang proyektong “agent” na kung saan ang depinisyon ay hindi pa malinaw sa kaniyang panahon, at pinili ako bilang baguhan dahil sa direkta at simpleng dahilan: “Nakapagtrabaho na ako sa AI, at may karanasan din ako sa full-stack development at iOS.” Ang iba pang miyembro ng grupo ay karamihan ay may background sa tradisyonal na machine learning, search, advertising, at recommendation—hindi sila nakakaunawa sa frontend code, ngunit ang agent ay nangangailangan ng isang taong makakasulat ng frontend interface. Pagkatapos umalis ang taong dating responsable sa AI prompt engineering ng kumpanya, wala nang iba sa grupo na makakapalit sa puwang na iyon, kaya naisip ko na magaling akong matuto, kaya ginawa ko ang prompt engineering para sa agent at kasama na rin ang pag-sulat ng kanyang frontend code.

Ang kombinasyon ng kakayahan na “alam ko ang lahat ng konti” ay naging pinakamahalagang kapital ko nang maghanap ako ng trabaho. Kung ibibigay mo sa akin ang anumang bagong larangan, maaari kong matutunan ito nang halos buo sa loob ng dalawang linggo. At ito ang uri ng tao na kailangan ng mga kumpanyang nagtataguyod sa unang yugto.

Obserbasyon 2: Ang mga kasanayan na native sa AI ay maaaring laktawan ang mga taon ng karanasan sa maikling panahon.

Ang kakayahan sa paggamit ng AI tools ay diretso nang lalampas sa tradisyonal na karanasan na nakabatay sa bilang ng taon.

Noong lumipat ako mula sa Quora ad team patungo sa iOS team, ang aking dahilan ay “nais kong lumabas sa comfort zone,” ngunit sa panahong iyon, walang alam ako tungkol sa iOS—kumpletong “0 taon ng karanasan.” Hindi ko pinili ang pagpapabilis ng pag-aaral nang paulit-ulit, kundi ginamit ko ang GPT-4 bilang aking kasamang trabaho. Sa paligid ko ay mga sobrang karanasan sa iOS engineers, maaaring hindi sila naniniwala sa AI. Hindi ko alam kung paano isulat ang iOS, hindi ko alam kung paano isulat ang Swift code, kaya pinagsikapan kong gamitin ang AI para tulungan akong isulat ang code.

Bilang resulta, ang bilis ng aking paggawa ay nakaabot at kahit na lumampas sa mga senior engineer na kasama ko na may mahigit sa ilang taon ng karanasan, at sa loob ng dalawang taon ay naging senior na posisyon. Sa tradisyonal na sistema ng pagtaas, halos imposible ang ganitong bilis. Bago ito, sa Facebook, kailangan mo ng kahit anong 4 hanggang 6 taon upang maging senior engineer. May ilan sa Google na maaaring hindi kailanman maupgrade hanggang sa senior engineer.

Nakakasali ako sa isang 19-taong-gulang na interviewer sa Cognition. Unang-una, naramdaman ko ang pagkabigo—isang 26-taong-gulang na tao na “pinagsasalitaan” ng isang 19-taong-gulang, at maraming tanong na hindi ko kayang sagutin. Pagkatapos, naintindihan ko na ito ay isang malinaw na tanda na ang kompanyang ito ay talagang nagpapakita ng talento nang walang pagkakaiba-iba, at ang edad ay hindi na ang pamantayan ng Silicon Valley sa pagtataya ng talento.

Obserbasyon 3: Ang mga pamantayan sa paghingi ng trabaho ay buong-binago; ang mga AI company ay hindi gumagamit ng iisang template sa pag-interview

Bago ako umalis sa Quora, seryosong isinagawa ko ang mga interbyu sa halos 20 na kumpanya, at kung kasama ang mga tawag na natanggap ko, 30 hanggang 40 ang kabuuan. Sa pinakamarami, isang linggo akong tinawagan ng higit sa 30 na headhunters.

Pagkatapos ng maraming pag-interview sa iba’t ibang kumpanya, napagtanto kong wala pang iisang pambansang template sa pag-interview ng mga AI company sa kasalukuyan.

Ngunit may ilang malinaw na pagbabago: ang kahalagahan ng mga algorithm problem na LeetCode ay bumababa, at ang mga pinakamahusay na sagot tungkol sa disenyo ng AI system ay nagbabago bawat buwan.

Nagbabago rin ang istruktura ng pagsusulit. Ang online written test + work trial ay naging bagong kombinasyon. Ang work trial ay isang napakakaliit na “trial period interview.” Mayroong 3 oras, mayroong 5 oras, at pinakamahaba ay dalawang araw lang. Sa isang pagsusulit na aking kinabukasan, direktang ibinigay sa akin ang isang code repository at sinabing gamitin ang anumang tool, kabilang ang AI, upang lutasin ang isang aktwal na problema. Pagkatapos ay kailangan kong ipakita ang aking proseso at resulta. Ang buong proseso ay napakalapit na sa totoong trabaho.

Mas interesante pa, ang pag-e-evaluate sa paggamit ng AI ay hinati sa dalawang mode. May ilang round na kailangan gamitin ang AI, at tingnan kung paano mo ito gagawin “by code”; ngunit mayroon ding round na eksplisitong ipinagbabawal ang paggamit ng AI, tulad ng debug, kung saan sinusubok kung kayang hanapin mo ang mga error nang walang tulong ng AI—sa puso nito, sinusubok ang iyong personal na antas at galing sa software engineering.

Ang sariling panayam ay may iba’t ibang anyo. Halimbawa, may mga kumpanya na humihingi sa akin na gawin ang isang business analysis upang matukoy kung aling industriya ang dapat nilang akusyunin.

Binaling na rin ang behavior round. Hindi na ito mga tradisyonal na tanong tulad ng “pinakamalaking kahinaan at kalakasan mo” o “paano lutasin ang konflikto sa mga kasamahan,” kundi pinapalawig ang panahon upang tingnan ang pag-unlad ng isang tao, mula sa high school hanggang sa kolehiyo, mula sa internship hanggang sa trabaho, at patuloy na susundin ang iyong “人生斜率” upang matukoy kung ikaw ay isang tao na may kakayahang umunlad nang eksponensyal.

Ang isang hindi inaasahang benepisyo ng wala pang standard na sagot ay: walang makakakuha ng offer sa pamamagitan ng pagmumuni-muni ng mga tanong. Kahit ang aking referrer sa Cognition ay direktang sinabi sa akin: “Huwag ka nang maghanda, wala akong makikita na kailangang i-prep.”

Sa Silicon Valley, ang pinakamalakas na mga tao ay hindi nagkakaroon ng pagkakakilanlan sa isang partikular na kumpanya, kundi sa “pinakamalakas na kumpanya ng panahon.” Dalawampung taon ang nakalipas, ang Google; sampung taon ang nakalipas, ang Uber at Robinhood; limang taon ang nakalipas, ang Coinbase; ngayon, ang mga kumpanya sa AI. Ang Silicon Valley ay “tuloy-tuloy na plato, matibay na mga tauhan.” Ang mga talentong ito, na inilabas ng bagong pamantayan, ay mas magiging tapat dahil sa misyon kaysa sa “kompensasyon.” Ang mga organisasyong ito, na nagtatipon ng pinakamalakas na mga tao, ay nagsisilbing malaking pagbabago sa ilalim ng pagpapalit ng AI.

Obserbasyon 4: Labis na paghingi ng "AI-native"

Mas malalim kaysa sa aking inaasahan ang pangangailangan ng mga kumpanya sa Silicon Valley sa AI-native. Ang karamihan sa mga kumpanyang aking sininterview ay A-round, B-round, at may ilang seed-round. Madalas na tanong: Anong mga AI tool ang ginagamit mo? Karaniwang ipinapasa ko agad ang aking mga blog post, at karaniwang naiinggit sila.

Sasabihin nila, hindi lang nila gustong pagsilbihan ako sa pag-unlad ng AI applications, kundi higit pa ay ipaglaban ang AI transformation sa loob ng kumpanya, upang gawing mas AI-native ang team. Maraming kumpanya ay nagsisimula na sa paggawa ng AI products, ngunit ang mga empleyado ay hindi pa nakakabuo ng kanilang sariling AI workflow. At kailangan din nila ang mga tao na nagbabasa nang mahaba sa Twitter araw-araw at agad na nagbabahagi ng mga bagong natuklasang AI o mga tip para sa pagpapabilis.

Ang gawain na ito ay medyo hindi natural para sa akin. Ang ilang mga “hobby” ko sa nakaraan, tulad ng pagsusuri sa mga bagong tool tulad ng Claude Code araw-araw at ang pagbabahagi ng mga paraan ng paggamit ng AI sa Slack, ay naging isang bagong papel sa organisasyon.

Noong nasa Quora ako, tagumpay kong ginamit ng buong engineering team ang Claude Code. Sa bawat engineer na nakikita ko sa opisina, tanong ko, "Ginagamit mo ba ang AI para sa pag-program?" Tanda ko may isang engineer na nagtatrabaho sa cybersecurity na unang nagsuot ng pagtutol, naniniwala na masyadong mataas ang panganib sa paggamit ng AI para mag-write ng code. Pagkatapos ay ipinayo ko sa kanya na baguhin ang pananaw—hindi mag-write ng code, kundi gamitin ang AI para basahin at maintindihan ang codebase at gawin ang data analysis. Pagkatapos, talagang nagsimula siyang gamitin ito.

Obserbasyon 5: “Mas mahusay na gamitin ang AI” ay tunay na isang isyu ng organisasyonal na pagbabago

Habang nagtatrabaho sa Cognition tungkol sa AI, lalong nalalaman ko ang isang katotohanan: ang mas mahusay na paggamit ng AI ay maaaring hindi na isang purong teknikal na problema, kundi isang pagbabago sa organisasyonal na istruktura.

Halimbawa: Sa isang internet na kumpanya na may tradisyonal na organisasyon, ang isang Bug mula sa pagkakatuklas hanggang sa pagpapabuti ay kadalasang dadaan sa mga hakbang tulad ng pagtataya ng pangangailangan, pagpaplano ng inhinyero, pagbuo, pagsubok, at paglunsad. Ang paggamit ng AI para isulat ang code ay maaaring magtagal lamang ng dalawa o tatlong oras, ngunit ang buong proseso ay karaniwang kailangan ng isang buwan.

Kahit na dati ay makatwiran ang prosesong ito. Dahil sa pagpapabuti ng isang bug, maaaring magkano ng tatlo hanggang limang araw ang isang engineer, ang halaga ng proseso ay nasa pagco-coordinate ng iba’t ibang team at pag-aalok ng mga yunit. Ngunit pinababa ng AI ang oras na ito.

Ngayon, gamit ang mga AI software engineer tulad ng Devin na inilabas ng Cognition, maaari nating tapusin ang mga gawain na dati ay nangangailangan ng ilang araw sa loob ng dalawa o tatlong oras. Sa Cognition, kahit na maaari naming gamitin ang Devin upang makahanap ng taong responsable sa bug na iyon, at pagkatapos ay hayaan ang Devin na tulungan siya sa pagpapabuti—maraming mga proseso ng koordinasyon at pagpapasa ang maaaring iwasan, walang anumang redundancy. Sa katotohanan, pinipilit ng AI ang pagbabago ng buong organisasyon.

Obserbasyon 6: Ang people manager ay umiiral, at kailangan ng mga manager na makasulat ng code mismo

Ang tinatawag na people manager ay ang engineering manager. Sa Estados Unidos, isang popular na pananaw sa mga nakalipas na taon ay na bilang isang manager, dapat mong mag-ingat sa pagmamaneho—higit na responsable sa pagco-coordinate ng team, organisasyon ng komunikasyon, pag-aalaga sa damdamin ng mga empleyado, at pagbibigay ng suporta sa pag-unlad, at hindi kailangang sobrang malakas ang iyong teknikal na kakayahan sa engineering.

Ngunit nang pumasok ako sa Cognition, natanto kong ang buong organisasyon ay napakapalapad. Halimbawa, ang direktang nagrereport sa akin ay kahit ang CPO mismo, isang ko-founder. Hindi siya nagmamalasakit sa detalye ng iyong personal na pag-unlad; mas ganoon ang kanyang papel sa pagtukoy ng malaking direksyon. Maaari kahit sabihin na sa ngayon, sa 60+ na koponan ng inhinyero sa Cognition, mayroon lang isang totoong people manager—ang lahat ng iba, kabilang ang CPO, ay “nagmamaneho at sumusulat din ng code.” Ito ay lubos na iba sa aking karanasan sa Quora. Noon, maaaring magmaneho ang isang manager ng lima o anim na inhinyero.

Ang koponan ng Cognition ay nagkamit ng mga pula para magparaya sa isang kasamang palaging sumusuot ng pula

Naniniwala ako na ito ay maaaring pagbabago sa organisasyon dulot ng AI. Napansin ko na ang bawat isang startup na AI na may malaking potensyal ay ganito talaga—halos walang manager na nakatuon lamang sa pagpapamahala ng mga tao—kung siya ay nagpapamahala ng mga tao, siguradong malakas din siya sa teknikal.

Hindi lamang nangyari ang pagpapasyang ito sa Silicon Valley; sa pagitan ng dalawang interbyu na may dalawang linggong pagkakabawas, ang mga malalaking lokal na kumpanya tulad ng Tencent at ByteDance ay nagpahayag din ng pag-alis sa mga intermediate manager.

Ang mga pagbabagong napansin ni Ma Peiyuan ay hindi lamang nangyayari sa antas ng organisasyon. Mas malawak na paghuhusga sa industriya: “Ano ang katamtamang gastos sa Token sa loob ng mga AI company sa Silicon Valley, at ano ang mabuting modelo?” Ay tinatanggal din nang nakikita ng mata. Sa pagkakataong ito, kahit ang kanyang sariling paghuhusga noong unang interbyu ay hindi nakalaban sa dalawang linggo.

Ang industriya ng AI sa Silicon Valley ay mismo ay nagpapalit sa loob ng mga buwan o araw, at wala nang pagtataya na maaaring manatiling aktibo nang matagal.

Obserbasyon 7: Nagkaron ng pagkakahati-hati ang Token Maxxing, at ang mga malalaking kumpanya ay nagsimulang muli mag-alala tungkol sa efficiency

Sa simula ng taong ito, ang “Token-Maxxing” ay naging populer sa Silicon Valley. Ang mga kumpanya tulad ng Meta ay kahit na gumawa ng leaderboard para sa paggamit ng Token. Sino ang pinakamaraming gumagamit, siya ang itinuturing na representante ng “AI-native.” Sa tingin ko, ito ay isang napakahirap na bagay muna—ang dami ng paggamit ng AI token ay hindi maaaring i-ekwal sa efficiency ng isang engineer.

Sinabi pa sakin ng mga kaibigan ko mula sa Google at Meta na sila ay nasa gitna ng “AI Great Leap Forward.” May espesyal silang “AI Week” kung saan kinakailangan ng lahat na tumigil sa kanilang trabaho at sumulat ng AI Skills, at isama ang kanilang mga skill sa paraang parang mayroong mga bulaklak.

Sa simula, ang lahat ng kumpanya ay may ganitong ideya: unahin ang paggamit ng AI sa pinakamaraming tao upang makita kung gaano kahusay ito magagamit.

Ngunit agad na mababago ang pag-uugali ng mga tao kapag naging pampubliko ang ranking. Ang mga inhinyero ay magiging magagamit lamang para sa “malaking paggamit,” at maaaring magkaroon ng ilang kakaibang sitwasyon, tulad ng pagpapagalaw ng AI araw-araw sa gabi, o pagpapatakbo ng mga walang kwentang gawain, lamang upang pataasin ang dami ng paggamit. Ito ay katulad ng paggamit ng GPA upang sukatin ang kakayahan ng mga estudyante—ang isang solong indikador ay madaling maging mali.

Pagkatapos ay nagsimula ring maunawaan ng maraming mataas na opisyales ang problema na ito. Mas partikular, natatakot sila sa mga taksil. Halimbawa, sa Uber, ang buong budget para sa AI noong 2026 ay nasuspinde na sa unang apat na buwan. Nagsimula ang maraming malalaking kumpanya na muli pang i-limita ang paggamit ng token. Ang mga board at CEO ay sasabihin, talagang worth it ba ang paggamit ng token na ito? Talagang nakakapagpataas ba nito ng aming efficiency? Totoo bang nagdala ang isang bilyong dolyar na ginastusan ng isang bilyong dolyar na output?

Agad na ginawa ng Cognition ang pagkabalisa na ito bilang isang komersyal na sagot na may malinaw na presyo. Noong Hunyo 4, ipinahayag ng Cognition ang “AI Productivity Guarantee”—kung ang mga corporate client ay gumamit ng Devin (ang AI software engineer product ng Cognition) at hindi natutupad ang tinatawag na pagtaas ng efficiency, maaaring makatanggap ng pinakamataas na kompensasyon ng $10 milyon. Ang paggawa ng pag-aaral na ito ay gawa ng isang aking kasamahan na nakakakuha ng tatlong ginto sa International Olympiad in Informatics, na nag-aral ng 233 totoong kaso ng client, kumuha ng random na mga usapan ng client at Devin, at tinanong ang mga client kung “Gaano katagal kung gagawin nang manual ang bahaging ito nang walang Devin,” at ginamit ang mga datos na ito upang masimulan ang isang prediction system na direktang isasalin ang bawat usapan ng Devin sa “equivalent engineer hours,” at gamit ang hourly rate ng engineer upang makuha kung gaano karaming pera ang napapaglaban ng produkto na ito.

Ngunit maraming YC companies ay maaaring magpatuloy sa modelo ng “token maxxing” dahil mayroon silang maraming libreng token quota na may pribilehiyo, at dahil maliit ang kanilang sukat, maaaring tatlumpo lang sila, kaya walang problema sa AI governance—ang mga tagapamahala ay direktang nakikita kung sino ang gumagamit ng AI para magpahinga.

Obserbasyon 8: Ang pagpapakita ng pagsamba sa modelo ay pati na rin ay tinatanggal

Sa pagitan ng dalawang interbyu sa artikulong ito, nalaman kong ang aking nakalabas na paliwanag ay nagsisimulang maging hindi tama na.

Dalawang linggo ang nakalipas, nag-uusap pa ako kung aling model ang pinakamoderno sa kasalukuyan. Ngayon, may bagong feature na inilabas ng Cognition na wala pa naming pagsasalin sa wikang Tsino, na may code name na fusion mode—ang pagpagsasama at pagpaplano ng maraming murang model at mga pinakamahusay na model, hindi lang pagsisimulan ang pinakamahal. Hindi mo naman araw-araw ginagamit ang iyong Porsche para bumili ng pagkain, di ba? Dapat mong gamitin ang iyong Honda o mas mura sasakyan para sa ganun. Nangyari rin ang pagpapalit ng mga model sa dalawang linggong ito nang mas mabilis kaysa sa aking inaasahan, kaya’t kahit ang pagkakaroon ng “number one” ay hindi na natin masasabi nang tiyak.

Hindi ko masasabi lahat, pero maaari mong sabihin na higit sa 60%, marami ay maaaring maging kabaligtaran muli isang buwan pagkatapos.

Tulad ng karaniwang batayan sa pag-unlad ng anumang teknolohikal na alon, ang pagkabagsak ng lumang kasunduan ay madalas ang simula ng pagkakatatag ng bagong paraan.

Kapag nagwakas na ang pamamahal sa pagkakaroon ng isang solong modelo at pagkawala ng pera sa computing power, lumitaw ang malaking pangangailangan sa “paano gawing matatag at kontrolado ang pagpapatupad ng AI” at “paano masolusyunan ang mga mahihirap na problema na hindi kayang lutasin ng malalaking modelo.” Napansin ni Ma Peiyuan, na may dalawang pananaw bilang isang inhinyero at isang tagapaghahanap ng mga investor, na isang grupo ng mga bagong negosyo na hindi nakasalalay sa “mystiko ng malalaking modelo” at nakatuon sa paglutas ng mga komplikadong problema sa totoong mundo, ay nagsisimulang umusbong sa mga hindi pangkaraniwang lugar sa Silicon Valley.

Obserbasyon 9: Lumalabas ang bagong AI infra

Tungkol sa “Token-Maxxing,” mayroon nang isang grupo ng bagong startup na lumikha. Sila ay espesyalisado sa pagmamasid at pagmonito sa paggamit ng AI ng mga team, at pagsusuri kung saan ang pagkawala ng mga token.

Mas malalim na problema sa likod nito ay ang pagiging madaling maapektuhan ng AI agent. Ang isang maliit na pagbabago sa prompt ay maaaring magdulot ng pagbaba sa performance ng agent. Kaya't lumitaw ang mga bagong AI infrastraktura, tulad ng sandbox, upang i-isolate ang pagpapatakbo ng agent at maiwasan ang direkta nitong pagkakontak sa mga sensitibong sistema, tulad ng mga bank account o data ng production environment.

Samantala, ang “pagsusuri” mismo ay naging mas kumplikado. Ang mga tradisyonal na sistema ay maaaring masuri kung may error lang, ngunit ang mga agent ay hindi “nag-uulat ng error”. Maaari itong magtrabaho nang maayos, ngunit maaaring magkaroon ng malubhang problema sa antas ng output, tulad ng pagkakaroon ng bias, diskriminasyon, o pagdudulot ng malinaw na negatibong karanasan sa mga gumagamit. Kailangan ng isang bagong uri ng software upang masuri kung kailan “nasira ang isip” ng agent.

Obserbasyon 10: Ang “mga bagay na hindi maaaring matuto,” ay nagsisimula nang maging bagong negosyo

May isang palaging lumalaganap na pagtataya sa mundo ng pag-invest: ang vertical agent ay nawawala na ang halaga nito para sa pag-invest. Ngunit hindi ako ganap na sumasang-ayon.

Ang investor mula sa Silicon Valley na si Sarah Guo ay nagmungkahi ng isang konsepto—“the untrainable”, o “hindi matututong bagay”. Ang pangunahing punto ay sa maraming vertical na industriya, ang mga language model ay hindi maiiwasang makapag-automate nang buo. Dahil sa mga vertical na industriya ay puno ng malalaking proseso na hindi maaaring abstrakton, at kadalasan ay kailangan ng tao upang lantaran na lutasin ang bawat isa.

Halimbawa, sa pagbabayad ng buwis sa Estados Unidos, may 50 na estado na may 50 iba’t ibang buwis na kailangang i-match nang isa-isa; parehong sitwasyon sa larangan ng batas—ang batas sa imigrasyon, sibil, at komersyal—bawat isa ay may sariling komplikadong sistema, kaya hindi kayang gawin nang agad ng AI agent.

Ang halaga ng mga kompanya ng vertical AI agent ay nasa patuloy na pakikipag-ugnayan sa mga kliyente at FDE (Frontline Deployment Engineers) upang makahanap ng higit pang tunay na mga problema. Ang mga bagay na ito ay iilalalag sa mga produkto ng kompanya, at ito ang mga bagay na hindi kayang itrain ng iba pang malalaking kompanya at hindi kayang makuha ng mga pangkalahatang modelo.

Kaya, mas nais kong paniniwalaan na may halaga pa rin ang pag-invest sa vertical agent. Ang kanilang maaaring magdala ay hindi ang 1000-fold na return, kundi mas malamang ang 20-fold, 50-fold, o kaya’y 100-fold na mas matatag at mas maliit na return.