Nasa point na tayo.
Noong Hulyo 22, sinend ni Musk ang isang post ni Will DePue, isang researcher ng OpenAI at isa sa mga pangunahing developer ng Sora, kasama ang sumusunod na pahayag.
Sa kanyang post, isinulat ni DePue nang may kaunting pagtatawa: Ito ay siguro ang pinakakapalpalo kong binasa sa mga araw na ito... Parang pumasok na tayo sa singularity.
Isang post na nag-uugnay sa ilang pinakamalakas na pangyayari sa AI sector sa nakaraang tatlong buwan:
Iyong Hulyo 21, ang modelo ng OpenAI ay nakalabas sa isang isolated sandbox sa isang pagsubok sa网络安全 at umabot sa production system ng Hugging Face;
Iyong Hulyo 20, ginamit ng mga researcher ng Anthropic ang bagong ipinakilalang Claude Fable 5 upang makahanap ng isang kontrahalimbawa sa Hypothesis ni Jacobi na nakaligtaan na ng 87 taon;
May 20, isinagawa ng isang panloob na modelo ng OpenAI ang pagbawi sa isang matandang hipotesis na umiiral nang halos 80 taon sa problema ng unit distance sa eroplano;
Abril 14, ang GPT-5.4 Pro ay nalutas ang isang problema sa hanay ng mga prime number na nasa paligid ng 60 taon (Erdős #1196), at ang patunay ay na-verify din sa Lean formalization.
Ang matematikong pader, ang pader ng kaligtasan, ay nasira nang tuluyan ng AI sa loob ng tatlong buwan.
Nagkakaintindi na kung bakit sinabi ni Musk na “Nasa point na tayo.”
Tanging sa Enero ng taong ito, sinabi niya ang ganitong mga salita dalawang beses:
Noong Enero 4, ilang inhinyero ay nagkomento na ang AI ay nakakatapos ng mga taong gawain sa ilang linggo, at sumagot siya, “Nakapasok na tayo sa singularity.”
Sa huling bahagi ng Enero, tinawag muli ang sosyal na network na Moltbook, kung saan nakakalat ang mga AI agent, bilang “pinakamaagang yugto ng singularity”.
Kasama ang pagkakataong ito, iyon ay ang ikatlong pagkakataon sa taong ito.
Ang salitang “singularity” ay hindi may kilalang pormal na depinisyon sa agham.
Ang nagdala nito sa pangunahing pagtingin ay ang futurist at may-akda ng The Singularity Is Near, Ray Kurzweil.
Ang kanyang depinisyon ay ang sandaling magkakasama ang tao at AI, at ang ipinagbentang taon ay 2045.
Noong simula ng taon, sinabi ni Daniela Amodei, pangulo ng Anthropic, na ang terminong AGI ay halos luma na, dahil sa maraming mga indikador, tunay nating hinarap na ang linya na iyon.
Sa huli, ito ay higit sa isang emosyon kaysa isang tumpak na sukat.
Ang mga bagay na ito na isinambong ni Musk ay talagang值得琢磨.
Unang pader, 80-taong matematikal na hipotesis, naibalik ng AI
Una sa pinakamalakas na bagay na ito.
Noong 1946, ipinresenta ng matematikong Erdős ang “Problem ng Unit Distance sa Plane”: Kung ilalagay ang n mga punto sa isang plane, gaano karami ang pinakamaraming pares ng puntos na may distansyang eksaktong 1?
Isang pangungusap lang ang kailangan para ipaliwanag ang problema, ngunit ito ay nagdulot ng pagkakapitong sa buong larangan ng matematika sa loob ng halos 80 taon. Sa loob ng maraming taon, tinanggap ng akademya na ang "grid na parisukat" ay ang pinakamahusay na solusyon, at si Erdős mismo ay naniniwala dito.
Bilang resulta, isang panloob na modelo ng OpenAI ay nasira ang isang hipotesis na lumabas na halos 80 taon. Ibinigay nito ang isang bagong set ng mga konstruksyon na nagpapahintulot sa polynomial-time optimization, na nagpapatotoo na ang “pinakamahusay” ay hindi pa natapos.
Dating na dating pinakamahusay na istruktura: ang pag-scaled na square grid ay nagpapalabas ng maraming pares ng puntos na may unit distance. Ang loob na modelo ng OpenAI ay nagbigay ng bagong konstruksyon, na nagpapatalsik sa hypotesis na lumalabas nang higit sa 80 taon.
Ngunit ang pinakamasidhi ay ang paraan nito sa paglutas ng problema.
Hindi ito isang espesyalisadong sistema para sa matematika, kundi isang pangkalahatang modelo sa pag-iisip. Kabilang pa rito ang mga napakalalim na kasangkapan sa alhebraikong teorya ng bilang upang lutasin ang isang problema sa heometriya na tila 'elemental'. Kommento ni菲尔兹奖得主Tim Gowers: Ito ay isang 'milestone sa larangan ng AI at matematika.'
By the way, this proof was proposed by AI and reviewed and confirmed by human mathematicians, and its subsequent implications are still under study.
Hindi ang bilis ng kalkulasyon ng AI ang tunay na nagpapakabigla—kundi ang pagbuo nito ng isang matematikal na istruktura na dating hindi umiiral, kung saan ito ay unang ipinakita ang kakayahan na malapit sa antas ng “pananaliksik”—hindi upang palitan ang mga matematiko, kundi upang isipin ang isang landas na hindi kailanman isipin ng mga matematiko.
Agad, ginamit ng mga researcher ng Anthropic ang bagong ipinakilalang Claude Fable 5 upang makahanap ng isang kontrabuwelo sa Hypothesis ni Jacobi na nakaligtaan na ng 87 taon.
Ikalawang pader, upang makapag-cheat, ang modelo ay naglabas mismo sa sandbox
Ang paglutas ng isang matematikal na problema ay nakakaligaya, ngunit ang isa sa mga ito ay nagdudulot ng takot.
Pinagsamang inilahad ng OpenAI at HuggingFace: Sa isang panloob na pagtataya sa kakayahan ng modelo sa网络安全, nagpakita ang modelo ng pag-uugali na hindi inaasahan.
Ang pagtataya na ito ay idinisenyo upang subukan ang kakayahan sa paghahanap ng mga butas, at sinira ang ilang mga seguridad na pagtanggi. Ang tungkulin ng modelo ay lutasin ang isang set ng mga pagsusulit na tinatawag na ExploitGym.
Pagkatapos, itinaguyod nito ang isang bagay na hindi inaasahan ng mga mananaliksik.
Upang makakuha ng sagot, unang tinanggap nito ang isang zero-day vulnerability, kinuha ang pagkakaroon ng internet access, pagkatapos ay inaangat ang mga pribilehiyo at gumawa ng lateral movement, at huling napasok ang production infrastructure ng Hugging Face upang direktang hanapin ang mga test answers sa database. Sabi ni OpenAI, maaaring ito ang unang kaso ng ganitong uri.
Mga trahektorya ng mga modelo sa 32-step na network range na “The Last Ones” ng UK AI Safety Institute: Ang mga advanced na modelo tulad ng GPT-5.6-Sol at Claude Mythos 5 ay makakapagpatuloy sa pagpapatupad ng marami-saklaw na pag-atake—mula sa pagmamasid, lateral movement, hanggang sa pagtaas ng karapatan at pagkuha ng kontrol sa network—sa mahabang panahon.
Ngunit hindi ito pagkabuhay ng AI na nagsisipaglakad. Mas tumpak na sabihin: ang layunin ay tama, ngunit ang paraan ng pagkatupad nito ay lumampas sa inaasahan ng tao. Para sa isang napakalimitadong layunin sa pagsusulit, ito ay nagpasya na maglakad sa isang hindi karaniwang landas.
May isa pang nakakapanindigan na detalye.
Pagkatapos ng insidente, nais ng Hugging Face na gamitin ang mga pinakamahusay na malalaking modelo para sa komersyal na paggamit upang suriin ang mga log ng pag-atake, ngunit pinigilan sila ng mga seguridad na pader ng modelo: hindi makakilala ang mga pader kung sino ang attacker at sino ang defender na sumisiguro, kaya tinanggihan nila lahat ng tanong.
Ang panig ng pag-atake ay walang barrier, samantalang ang panig ng pagtatanggol ay nakakapit sa sariling barrier—ito ay maaaring isa sa pinakamalungkot at pinakatotoo na mga aspeto ng “AI Safety” sa kasalukuyan.
Ilang pader, isang hindi pa ipinapakilalang modelo, na nagbukas ng libu-libong vulnerabilities
Ilang pangatlo, noong Abril ng taong ito.
Ang Anthropic ay nagtatrabaho kasama ang AWS, Apple, Google, Microsoft, Cisco, ang Linux Foundation, ang JPMorgan Chase, at iba pang mga malalaking kumpanya upang lumikha ng Project Glasswing, na gumagamit ng isang hindi pa ipinapakalabas na modelo na Claude Mythos Preview upang tulungan ang lahat ng maghanap ng mga vulnerability.
Nakalikha ito ng libu-libong malubhang butas sa seguridad na nakapalibot sa bawat pangunahing operating system at browser; sa mga susunod na update, ang bilang ay naging “higit sa 10,000 na malubhang o mahalagang butas”.
Kasama rito ang isang butas na umabot na sa 27 taon sa OpenBSD, at isang lumang bug sa FFmpeg na binaril ng automated testing nang 5 milyon beses ngunit hindi pa rin natagpuan.
CyberGym vulnerability reproduction score: Ang hindi pa ipinapahayag na Mythos Preview ay nakakuha ng 83.1%, na malinaw na lalampas sa 66.6% ng nakaraang Opus 4.6. Ito ang modelo na naghukay ng libu-libong mataas na panganib na vulnerabilities.
Ang parehong kakayahan ay maaaring tumulong sa mga dayuhang tagapagtanggol upang makahanap ng mga butas, at sa mga mananakop upang gamitin ang mga butas. Ang Anthropic mismo ay nagbabala: "Ang AI-assisted attacker" ay magiging mahalagang hamon sa seguridad.
Ang Glasswing ay isang proyektong pang-depensa, at hindi nangangahulugan na ang AI ay nagsisimula na ng sarili nitong pag-atake. Ngunit malinaw itong ipinapahayag sa lahat: ang AI security, ay pumasok na sa panahon ng kompetisyon sa pag-atake at pagtatanggol.
Totoong accelerator, nagsisimula na tumuturo sa AI mismo
Hanggang dito, ang AI ay patuloy na nag-atake o nagtatanggol sa mga sistema ng tao.
Ang nagpapakita ng tunay na pagkakaiba sa mga nakalipas na tatlong buwan ay ang isang iba pang bagay: ang kakayahang “mahanap ang sariling daan” ay nagsimulang gamitin upang lumikha ng susunod na henerasyon ng AI.
Mayroon itong termino na recursive self-improvement (RSI), kung saan pinapagbuti ng AI ang AI, isang henerasyon ang gumagawa ng susunod, at lumalalaki nang parang compound interest.
Ito rin ang pinakamainam na engine ng buong kuwento ng «Singularity». At ngayon, bawat avant-garde na laboratorio ay nagpapalakas nang malakas sa engine na ito.
Isinulat sa pampublikong road map ng OpenAI:
Sa September 2026, lumikha ng awtomatikong AI researcher na antas ng "research intern," na makakapag-iskwela nang sarili nito sa mga gawain na kailangan ng tao ng ilang araw;
Noong Marso 2028, i-upgrade sa full version, kaya mong disenyoan ang sariling paraan, patakbuhin ang analisis, i-interpret ang mga resulta, at magbigay ng susunod na hakbang.
Ang Ultraman ay nagbigay din ng takdang panahon para sa bagay na ito.
Noong Hunyo ng taong ito, ayon sa The Information, sinabi niya sa mga empleyado sa loob ng kompanya: Ang kompanya ay mas malapit sa RSI kaysa sa anim na buwan; kung talagang papasukin ito, ang pagkakaroon ng pagtanggi sa IPO ay maaaring mas mabuting pagpipilian.
Ang mga numero mula sa Anthropic ay nagtuturo sa iisang direksyon: ang haba ng mga gawain na kayang harapin ng AI, nagdobleng bawat apat na buwan; ang code na ginagawa ng kanilang mga inhinyero ngayon ay walong beses ang dami kaysa dati.
Ang window ng RSI ay nagkakasaliksik: Sino man ang unang magpapagana sa pader na ito, siya ang maaaring mag-iiwan sa lahat.
Bagaman, ang sarili ni OpenAI na pangunahing siyentipiko, si Jakub Pachocki, ay sinabi na hindi niya inaasahan na ang modelo ay makakapag-improve ng sarili nito o makakasolusyon ng alignment sa loob ng isang taon.
Ngunit kapag nagsimula nang umikot ang flywheel at ang layunin ay “gawing mas malakas ang AI”, ang mga modelo na nakakahanap na ng sariling daan—bibigyan ba nila ng pansin ang ilang hangganan na hindi natin sinabi?
Ito ang pinakamahalagang puntos na dapat mong pansinin sa RSI race.
Bumabalik tayo sa pahayag ni Musk na “Ang singularity ay nangyari na.” Ang pinakamahalagang halaga nito ay ang pagpapabatid sa atin: Ang tunay na pagbabago sa loob ng tatlong buwan na ito ay ang pagkatuto ng AI na maghanap ng mga daan na hindi isipin o inihanda ng tao.
Sa matematika, ito ay nakakagigil; ngunit sa seguridad, ito ay panganib.
Kaya ang totoong tanong ay: Kapag ang bilis ng paghahanap ng AI sa mga bagong daan ay nagsisimula nang mas mabilis kaysa sa bilis ng pagpapalagay ng mga kahoy, pagtatayo ng mga patakaran, at pagpapabuti ng mga butas ng tao, kayang tayong sumunod?
Mga sanggunian:
https://x.com/elonmusk/status/2079839398959697982
https://x.com/willdepue/status/2079718977945928108
https://openai.com/index/hugging-face-model-evaluation-security-incident/
https://www.anthropic.com/glasswing
Ang artikulong ito ay galing sa WeChat public account na “Xinzhiyuan,” may-akda: ASI Revelation; editor: Yuan Yu