Investa ang Google ng $2000 bilyon sa AI, nagtataya sa RSI bilang susunod na malaking paglalakbay

Ang AI singularity ay malapit na!

Kahit recent, ang kilalang investor na kilala bilang "The Silicon Valley Buffett," si Chamath Palihapitiya, ay nagbanta ng isang panghuling roadmap tungkol sa "AI Singularity" sa X.

1. Nilikha ng tao ang AGI.

2. Ang AGI ay naging sobrang mahusay sa paggawa ng pananaliksik sa larangan ng AI.

3. Ito ay nagdisenyo ng isang mas matalinong AI.

4. Ang mas matalinong AI ay dinisenyo pa ng isang mas matalinong AI.

5. Patuloy na uulit ang siklo, at mas mabilis ang bilis nito.

Agad niyang isinampa ang isang nakakagulat na konklusyon—

Tingnan ang mga natuklasan at kakayahan na ipinahayag ng mga malalaking AI lab sa nakaraang ilang linggo, masasabi kong nasa loob na tayo ng siklo na ito.

Sa susunod na 18 buwan, papabilisin ng RSI ang kakayahan ng AI.

Sa huli, ang marginal cost ng lahat ng AI models ay magiging malapit sa 0!

Hindi lang mga investor, ang buong Silicon Valley ay may malaking pananampalataya sa RSI ngayon.

Sa pinakabago, sa isang summit ng UC Berkeley, inilabas ni Jasjeet Sekhon, pangunahing tagapagtataguyod ng Google DeepMind, isang mas malakas na paghuhusga:

Walang kahalintulad na pagsisikap sa pag-invest ng buong industriya ng teknolohiya, at sa pangkabuuang pagkakaintindi, ito ay isang pagtaya sa tatlong titik na RSI!

Ang "pinakamalaking siyentipikong taya sa kasaysayan ng sibilisasyong tao" na ito ay higit pa sa laki ng Apollo moon landing, ang Manhattan Project, at kahit ang buong internet.

Bakit ipinagpapatuloy ng mga malalaking kompanya ang larong ito, kahit na may panganib na mabawasan ang kanilang likuididad?

Ang AI ngayon ay kayang mag-self-correct, magtrabaho nang ilang oras nang walang pagmamasid, at kahit mag-generate at mag-optimize ng mga base code tulad ng kernel at compiler components.

Ngunit sa pananaw ni Jasjeet Sekhon, ito ay kagaya lamang ng paunang bahagi ng RSI.

Sinabi niya, huwag mag-isip na kakaibang gamitin ang AI para design ang AI; noong panahon ng Industrial Revolution, ginamit din ng tao ang unang henerasyon ng steam engine upang gawin ang susunod na henerasyon na mas makapangyarihan.

Ano ba talaga ang hitsura ng totoong RSI?

Ipinapaliwanag ng isang karanasan na researcher: Ang totoong RSI ay nangangahulugan na ang isang AI model ay makakapag-re-design nang buong sarili nito ang kanyang piling arkitektura, kahit na gumawa ng isang buong bagong henerasyon ng model mula sa sero, na walang pakikilahok ng mga siyentipiko.

Kapag lumampas na sa kritikal na punto, ang bilis ng pag-unlad ng AI ay magiging labas sa kontrol ng tao.

Ang ilang dekada ng pagpapalit ng tao ay maaaring matapos ng AI sa ilang linggo o kahit ilang araw.

Sa ganitong panahon, ang singularity cycle ay totoo nang darating!

Naiintindihan mo ang potensyal ng RSI, kaya mo naiintindihan kung bakit sila sa Silicon Valley ay parang nagpapalabas ng pera nang walang hanggan.

Sa taong ito, ang kabuuang kapital expenditure ng Google sa AI data center, chip, at infrastruktura ay umabot sa nakakagulat na $195 bilyon hanggang $205 bilyon, at mas lalaki pa ito sa susunod na taon!

Ang mga shareholder sa Wall Street ay nagsisimula nang mag-alala dahil sa mga财报, ang pagtaas ng kita mula sa AI software o cloud services ay pansamantalang hindi kayang takpan ang antas na ito ng kapital expenditure.

Si Sekhon, na dating propesor ng estadistika sa Yale, agad na ipinakita ang panganib.

Nasa harap tayo ng isang potensyal na “AI air pocket”—isang biglaang pagbaba sa presyo na nagdudulot ng malaking pagbaba sa halaga—kung saan nagastos na ang pera, ngunit hindi pa dumating ang kita ayon sa inaasahan.

Nakatayo na ang data center, nakapasa na ang mga chip, at naka-connect na ang kuryente, ngunit ang tunay na makakapagbigay-buhay sa pagkakasuhan na ito ay patuloy pa ring naghihintay.

Sa katotohanan, bago pa ang Sekhon, ginamit na ng Wall Street ang air pocket upang ilarawan ang ganitong sitwasyon: ang kapital expenditure ay nasa harap ng kita, at ang mga investor ay bumibili ng isang palabas sa hangin.

Bakit pa humahabol nang walang pagtingin kahit ganoon kalaki ang panganib?

Sagot ni Sekhon: Ito ang pinakamalaking siyentipikong taya sa kasaysayan ng sibilisasyong tao.

Sinabi niya na ang kasalukuyang pagpapalala sa AI sa buong mundo ay nagiging mas malaki kaysa sa Manhattan Project at ang Apollo moon landing, at kahit ang pagbuo ng internet noong panahong iyon.

Ang lohika ng manlalaro ay simpleng ito: Bagaman ang kasalukuyang teknolohiya ay hindi pa totoong RSI, 'mag-short ito, malinaw na hindi matalino'.

Dahil sa pagkakaroon ng RSI, tulad ng nabanggit sa itaas, ang marginal cost ng lahat ng AI models ay magiging malapit sa walang hanggan.

Sa panahong iyon, ang kompanya na unaang maunawaan ang RSI ay magkakaroon ng halos diwataong produktibidad, at diretso na magdudulot ng pagbaba sa antas ng lahat ng kanilang kalaban, at magmonopola sa mga yaman ng computing at intelektuwal sa buong mundo.

Hindi na ito isyu ng kita o pagkawala ng isang kumpanya, kundi isang buhay o kamatayan na laban kung sino ang mananalo, at sino ang mawawala.

Para sa tiket patungo sa bagong yugto, ang $200 bilyon ay simpleng kape lang.

Kung ang mga data center, TPU, at kuryente na ito ay maaaring gamitin lamang sa pag-train ng mga modelo sa pamamagitan ng kamay ng mga inhinyero sa bawat henerasyon, ito ay isang malaking, patuloy na bumababa sa halaga na fixed asset.

Ngunit kapag umuunlad ang AI sa pagpapabilis ng pag-aaral ng AI, diretso itong magbabago sa lohika ng libro.

Ang computing power na inilalagay mo ay hindi na maaaring mabawasan nang linyar, kundi makakapag-ambag ng compound interest: ang AI na ito ay tutulong sa iyo na mas mabilis na lumikha ng susunod na henerasyon, at ang susunod na henerasyon ay tutulong sa iyo na lumikha ng susunod pa nito.

Ito ang dahilan kung bakit sinabi ni Sekhon na ang RSI ay "kabuuan ng investment logic". Ang RSI ay ang batayan kung makakauwi ang pera mo.

RSI process ng "Big Three"

Google, Anthropic, OpenAI, bawat isa ay nagbigay ng isang sample.

Tingnan muna ang Google.

Ang AlphaEvolve system ng DeepMind, na espesyal na ginagamit ang AI upang mapabuti ang mga algoritmo.

Binilis nito ang isang mahalagang kernel sa pagtatraining ng Gemini ng 23%, na nagbawas ng 1% sa kabuuang oras ng pagtatraining; ang isang binago nito na disenyo ng circuit, ay direkta nang isinama sa chip ng susunod na henerasyon ng TPU.

Ngayon ay ito ay karaniwang kasangkapan sa infrastruktura ng Google, tulad ng mga patakaran sa cache, natapos nito ang mga gawain na dati ay kailangan ng mga tao ng ilang buwan sa loob ng dalawang araw.

Ang AI ay tumutulong sa paggawa ng mga chip at paggawa ng mas mabilis na AI, at naging totoo na ito.

Tingnan muli ang Anthropic.

Noong Abril ng taong ito, ginawa nila ang isang mas agresibong eksperimento: siyam na Claude agents ay isinampa sa isang limitadong gawain sa pag-aaral ng alignment, kung saan sila mismo ang nagtataya, nagpapatakbo ng mga eksperimento, at nagpapalitan ng mga natuklasan.

Dalawang human researcher ang nagtrabaho nang isang linggo at nakauwi lamang ng 23% ng performance gap; siyam na agent ang nagkakalat ng 800 oras at nagkost ng halos $18,000 upang makuha ang 97%.

Angkailang ang AI ay nakakagawa na ng sariling pag-aaral?

Huwag mag-alala, sa parehong ulat, mayroon pa isang mas mahalagang kontrabidensya: nang isama ng mga mananaliksik ang 'pinakaepektibo' na paraan na ito sa tunay na production training environment ni Claude, hindi ito nagdala ng anumang makabuluhang pagpapabuti sa statistika.

Ito ay nagpapakita na may malaking pagkakabawas sa pagitan ng "pabilisin sa limitadong gawain" at "totoong pagbabago ng kakayahan ng AI".

Huling hinihingi ang OpenAI.

Sa July, inilabas ng OpenAI: ang kanilang GPT-5.6 Sol ay nag-rewrite ng GPU kernel sa production environment gamit ang Codex, na nagbawas ng 20% sa end-to-end inference cost; ito rin ay nag-run ng higit sa isang daan na architecture experiments sa kanilang sariling speculative decoding model, na nagpataas ng token generation efficiency ng higit sa 15%.

OpenAI ay nagpahayag ng isang espesyal na "RSI Index" para sa pagtataya ng kakayahang mag-improve sa sarili, kahit sa unang pagkakataon sa kanilang mga materyales.

Isang pagsasara ba ang mabilis nang magsimula?

Nakasaad ng maingat ang OpenAI sa kanilang system card: ang GPT-5.6 Sol ay hindi pa nakamit ang kanilang sariling tukoy na antas na “High” para sa self-improvement; kaya niyang lutasin ang ilang tunay na mga problema sa pag-aaral, ngunit hindi pa ito kaya magdisenyo at magpapatupad ng isang buong post-training protocol nang mapagkakatiwalaan.

Tatlong halimbawa na nakasama, malinaw na ang kasalukuyang larawan ng RSI:

Ang paggamit ng AI para sa pag-unlad ng AI ay totoo; ngunit ang totoong RSI—ang pagbuo ng sariling ganap na arkitektura, pagtuturo, at pag-deploy ng mas malakas na tagapagpaganap ng AI—ay may malayong distansya pa sa atin.

Dumating ang kadiliman, kapag naging malakas na AI ang nagiging hacker at biochemical weapon

Gayunpaman, sa likod ng singularity, mayroon ding mga anino.

Sa pagsisikap na ito, ang propesor sa CS mula sa Berkeley, si Dawn Song, na bagong sumali sa seksyon ng “Superintelligence” ng Meta, kasama si Sekhon, ay naglilipat ng pansin sa isang isyu na lahat ay iniiwasan: ang extremong panganib ng AI.

Ang kasunduan ng dalawa ay: Ang pinakamapanganib ay hindi ang pagkakaroon ng biglaang katalinuhan ng modelo, kundi ang pagkakaiba ng bilis ng pag-atake at pagtatanggol.

Kapag may kakayahan ang AI sa RSI, maaari itong magpabuti ng kanser, matulungan ang tao na masuri ang kalawakan, ngunit maaari rin itong maging pinakamatalinghagang sandata laban sa sangkatauhan.

Una sa dimensyon ng网络安全 ay ang "dimensional reduction strike".

Babala ni Dawn Song na sa maikling panahon, ang pag-unlad ng AI ay «magiging mas kapaki-pakinabang sa mga attacker»—isang napakasimbolikong battlefield: sapat na ang isang hacker na makahanap ng isang vulnerability upang makamit ang tagumpay, habang ang mga tagapagtanggol ay kailangang protektahan ang lahat ng posibleng pag-atake.

Magiging mahirap ang mga darating na araw kapag ang mga masasamang attacker ay gumagamit ng matalinong AI agent upang magpo-poison sa mga open-source code repository, at i-scan at pahabain ang mga vulnerabilities na iniwan ng mga human programmer:

Isipin mo kung gaano kahina ang ating umiiral na sistemang pangkaligtasan: ang grid ng enerhiya ng Estados Unidos, ang mga sistemang pangkabuhusan sa buong mundo, ang mga network sa finansya—sa harap ng super AI, maaaring parang gawa sa papel lamang.

Ngunit ang网络安全 ay patuloy na "child's play".

Mas naiisip ni Sekhon ang mga biyolohikal, at ipinakilala niya sa pagpupulong ang isang napakakatakot na skena: malapit na tayong maging isang mundo kung saan "anumang tao, gamit lamang ang natural na wika upang makipag-usap sa isang modelo, ay makakapagdisenyo ng isang patay na virus o protina."

Ibinigay niya na ang hinaharap na lipunan ay kailangang magkaroon ng napakatigat na pagsasagawa, pagmamasid, at pagtatakdang tulad ng pagtatakdang ginagawa sa kasalukuyan sa mga pataba na ginagamit para gawin ang mga pambomba, para sa lahat ng “mga materyales na may kinalaman sa biyolohiya.”

Sa kasalukuyan, sinusubukan ng Google na gamitin ang kanilang teknolohiya sa pagkilala sa nilalaman na ginawa ng AI—ang "SynthID"—sa larangan ng biyolohiya.

Ibig sabihin nito, sa hinaharap, kung may kompanya na mag-synthesize ng DNA sequences para sa mga kumpanya ng gamot, maaaring i-scan ng sistema ang mga sequence na ito upang makita kung may nakatago pang "malignant code" na nilikha ng AI nang lihim at may panganib na patay.

Sa panahong iyon, mas mabilis ba ang pagbuo ng defensive line o ang pag-unlad ng AI?

Mukhang sci-fi ito, ngunit ang mga utak ng Silicon Valley ay nagbigay na ng eksaktong pagbaba ng oras.

Sabi ni Chamath: Sa susunod na 18 buwan, magiging gulo ang mundo.

Ang paghuhusga ni Sekhon: Ang totoong RSI ay "mababawasan nang malaki sa mga susunod na taon."

Ang mga negosyante na si Oriol Vinyals, Vice President for Research sa DeepMind, at si Wojciech Zaremba, co-founder ng OpenAI, ay nagbigay ng partikular na taon: 2027 o 2028.

Sa kasaysayan ng sangkatauhan, wala pang anumang teknolohiya na maaaring magbabago nang husto sa landas ng kabihasnan na may ganitong malapit na pagbaba ng oras.

Sa这一次， ang isang paligsahan laban sa oras ang ipinakita.

Ang pag-invest sa infrastraktura ay umuunlad sa bilis ng hashing power; ang mga chip, kuryente, at data center ay magiging available sa loob ng ilang taon.

Subalit, makakasama ba ang kaukulang kita at RSI sa sasakyan na ito?

Sa gitna ng bakanteng espasyo, baka ba nating makasalubong ang "air hole" na ito?

Ngunit kung saan man si Sekhon, malinaw na direksyon ng 200 bilyong dolyar na taya ni Google: darating ang RSI.

Ang steam engine ay naglikha ng mas mahusay na steam engine, at ang sangkatauhan ay nakarating sa Industrial Revolution.

Ngayon, ang AI ay naghahanda na lumikha ng mas mahusay na AI, at nagpapalaya sa aming henerasyon sa isang hindi kilalang hangganan.

Anuman ang iyong paghahanda, hindi matitigil ang malakas na data center, hindi matitigil ang sariling pag-unlad ng AI.

Ang count-down ay nagsimula na, handa ka na ba para makaharap sa singularity?

Mga sanggunian:

https://www.theinformation.com/newsletters/ai-agenda/google-deepmind-exec-says-unprecedented-capex-actually-bet-rsi?rc=epv9gi

https://x.com/kimmonismus/status/2084257726599716882

Nakawit mula sa WeChat public account na “Xin Zhi Yuan”, may-akda: ASI Revelation; editor: Yuan Yu Aeneas