Ang susunod na financial crisis ay maaaring hindi gawa ng tao, kundi ng AI?
Isang malakas na pambobomba sa huling panahon—ang bagong modelo ni Anthropic, ang pangunahing AI, ang Mythos, ay nagpabigla sa buong Wall Street.
01
Sa araw ng paglalabas ng Mythos model, isang napakakakaibang pangyayari ang nangyari:
Ang Secretary of the Treasury ng Estados Unidos, Bessent, at ang Chairman ng Federal Reserve, Powell, ay nagpapahinga sa lahat ng kanilang karaniwang agenda at nagpulong nang may-akda ang lahat ng pangunahing CEO ng mga banko sa Wall Street sa Department of Treasury para sa isang pribadong pag-uusap.
Ang Secretary of the Treasury ng Estados Unidos, Scott Bessent (kaliwa), at ang Pangulo ng Federal Reserve, Jerome Powell (kanan)
Ang mga kalahok ay kasama ang CEO ng Citigroup na si Jane Fraser, ang CEO ng Goldman Sachs na si David Solomon, at ang CEO ng Morgan Stanley na si Ted Pick, kasama ang iba pang mga tagapagpaganap ng mga pangunahing puntos sa sistema ng pampublikong pondo ng Amerika.
Alam ninyo, ang huling beses na ginamit ng Federal Reserve at Department of Treasury ang ganitong antas ng emergency summons ay maaaring noong panahon ng pagsagip sa panahon ng global financial crisis noong 2008.
At sa pagkakataong ito, ang kanilang layunin ay hindi ang “pagkolekta ng pera para iligtas ang merkado,” kundi ang pagpapalintas sa mga banko na ang pinakabagong AI model na Mythos, bagaman bago lang ito ipinakilala, ay maaaring magdulot ng mas malaking sistemikong panganib kaysa sa mga mortgage na may panganib noong nakaraan.
Ang personal na pagpresenta ni Powell ay nagpapadala ng isang napakalakas na signal sa labas:
Hindi na ito isang diskusyon sa teknikal na aspeto, kundi isang pinakamataas na paksa na may kinalaman sa financial stability at kahit sa pambansang kaligtasan.
Ngunit hindi ito kahit anong pagiging alerto ng United States lamang; ang pagkabalisa ng merkado ay agad na umabot sa magkabilang panig ng Atlantic. Halos nangyari nang magkasabay, ang Bank of England at ang Financial Conduct Authority (FCA) ay agad na nagsimula ng emergency consultation kasama ang National Cyber Security Centre (NCSC).
Ang Bangko ng Canada ay nagkakaroon rin ng hiwalay na pagpupulong sa mga lokal na bangko at mga institusyong pinansyal para sa pinakamataas na antas ng pagpapahayag ng panganib.
Ang serye ng mga aksyon ng mga sentral na banko ng US, UK, at Canada sa loob ng 10 araw ay walang katulad sa kasaysayan ng regulasyon sa AI.
02
Gaano kalakas ang Mythos?
Sinasabi ng Anthropic na may kakayahang hindi pangkaraniwan ang Mythos upang makahanap ng nakatagong mga butas sa software na ginagamit ng mga global na banko, grid ng kuryente at mga ahensya ng gobyerno.
Ang CEO ng OpenAI, Sam Altman, ay nagkukumpara sa Mythos sa “pagsabog ng mga bomba habang tinatawag ang mga bunker na may halagang $100 milyon.”
Sa simpleng salita, ito ay nakakakilala at nakakagamit ng mga bug sa lahat ng pangunahing operating system at lahat ng pangunahing web browser, at makakapag-atake ng malubhang pinsala sa sistema nang walang tulong ng tao.
Sa loob ng ilang linggo ng panloob na pagsubok, natuklasan ng Mythos nang sarili nito ang “mga libo-libo” ng zero-day vulnerabilities. Nakatukoy din ito sa isang lumang vulnerability na nakatago sa OpenBSD system, na kilala sa kanyang mataas na seguridad, na nakatago na sa loob ng 27 taon.
Sambil noon, natuklasan nito ang isang nakatagong bug na nag-iisa nang 16 taon sa isang iba pang tool na nagpaproseso ng video—ang bug na ito, kahit na ang mga pinakamataas na automated testing tool ay nag-run ng maraming milyon beses, ay patuloy na nagsisilbing parang mga taong humipo sa elepante nang walang kamalayan.
Noong nakaraan, ang pinakamahusay na mga team ng human hackers ay nakakahanap ng higit sa 100 na uri ng mga malubhang butas sa isang taon. Ang output ng Mythos ay diretso na 10 hanggang 100 beses na higit sa pinakamahusay na human team, at nakakapagpabilis ng pagbuo ng exploit mula sa “mga linggo” patungo sa “mga oras”.
Karaniwan, ang “firewall” ng mga finansyal na institusyon ay ang pinakamatibay na pagsisilid sa buong mundo, na may mga eksperto sa seguridad na pinakamataas sa mundo na nagtatayo ng paritang pangkaligtasan.
Ngunit ang Mythos ay nagpapakita ng isang asimetrikal na lakas ng pagkawala na ginagawa ang mga "firewall" sa pananalapi na mukhang walang kakayahang tumigil.
Nagdudulot ito ng dalawang makapagpapahamak na tanong:
Una, gagamitin ba ng mga masasamang tao ang Mythos upang sirain ang financial system? Ligtas pa rin ba ang aming pera sa aming bank account sa hinaharap?
Ikalawa, ang mga katulad na modelo sa hinaharap ay maaaring “ipagamit bilang sandata” ng ilang bansa, tulad ng pag-atake sa mga institusyon at negosyo ng kaaway?
Mga isipin, takot.
Ngayon ay takot na rin ang developer na Anthropic, at siniguro ang pagsasahayag: Ang Mythos ay hindi magiging available sa publiko, kundi magiging para sa ilang mga institusyon lamang para sa pagsubok.
03
Ang pagbabago ng panahon ay mabilis na hindi kayang tugunan.
Si Tan Shaoyou, researcher ng Zhigu Trend, ay naniniwala na ang pag-unlad ng AI ay nagbuo ng isang pagkakahati-hati na higit pa sa anumang imahinasyon—hindi lamang isang pagkakaiba sa pag-unawa, kundi malaking pagkakaiba sa kapangyarihan.
Kapag ang karaniwang tao ay nagpapakita pa rin ng DouBao at DeepSeek bilang mga chatbot, ang mga malalaking modelo na kinokontrol ng mga pinakamahusay na AI team sa buong mundo ay sapat na upang baguhin ang mga pundasyon ng financial system.
Isang recent na ulat ng Morgan Stanley ay nagpapakita na ang AI ay may isang pangunahing pagkakaiba kumpara sa mga nakaraang teknolohikal na rebolusyon: ang bilis.
Nakamit ng tao ang Industrial Revolution sa loob ng animnapu taon, ang Internet sa loob ng tatlumpu taon, samantalang ang ChatGPT ay nakamit ang isang milyong gumagamit sa loob ng dalawang buwan lamang. Ang kurba ng pagkalat ng teknolohiya, sobrang malalim at nakakapagod.
Ang problema ay ang malaking pagkakaiba sa pagitan ng pag-unlad ng teknolohiya at ang bilis ng paglabas ng mga batas sa regulasyon, mga mekanismo ng pagtatanggol ng lipunan at korporasyon, at edukasyon at pagsasanay ng mga tao.
Tulad ng inamin ni Kevin Hassett, pangulo ng National Economic Council, sa isang interbyu:
Hindi pa handa ang White House o kahit anumang antas ng gobyerno sa ganitong paglago ng mga pagpapabuti.
Ginamit ni Solomon, CEO ng Goldman Sachs, ang "matinding pagiging alerto" upang ilarawan ang banta na ito, dahil ang kasalukuyang hangganan ng depensa ay naging mula sa "patuloy na pagpapalakas ng firewall" hanggang sa "kailangan gamitin ang pinakamalakas na AI upang labanan ang pinakamalakas na AI".
Ibig sabihin nito, ang pagkakaiba sa bilis ng teknolohikal na pag-unlad at pag-aadaptasyon ng lipunan ay napalawak hanggang sa kasaysayang limitasyon. Ang mga friction ay magiging mas malakas kaysa kailanman.
Tulad ng sinabi ni Musk: "Sa susunod na 3-7 taon, maaaring mahirapan ang karaniwang tao."
Para sa pagtugon, kailangan ng karaniwang tao na magtataguyod ng pananaw sa buhay na pag-aaral. Ang kakayahang patuloy na tukuyin at itanong ang mga kumplikadong tanong ang pinakamalaking parirala sa panahon ng AI.
Sambil noon, ang AI ay maaaring palitan ang iyong kasanayan, ngunit hindi maaaring palitan ang iyong ari-arian. Mas mahalaga na buuin ang istruktura ng kita na hindi nakasalalay sa “pagbebenta ng oras”.
Nakuha mula sa WeChat public account na “Zhi Gu Trend”, may-akda: Bu Yu