Higit sa 1,100 na eksperto sa AI ay humihiling para sa global na pagpapabagal sa pag-unlad ng Frontier AI

Sa isang gabi, ang mga malalaking kumpanya sa Silicon Valley ay nagpapahinto sa AI!

Kasalukuyan, higit sa 1,100 na empleyado mula sa mga pangunahing kumpanya tulad ng OpenAI, Anthropic, at Google ay naglunsad ng isang petition na “Pacing the Frontier”.

Ang listahan ng mga tao na lagdaan ay puno hanggang sa hindi makita ang dulo. At ang bilang na ito ay patuloy na tumataas.

Pagtingin nang mabuti, ang listahan ay halos naglalaman ng 'kalahati ng mundo ng AI'—

Ang pangunahing siyentipiko ng OpenAI, Jakub Pachocki, at ang pangunahing opisyal ng pag-aaral, Mark Chen;

Ang CEO ng Anthropic, Dario Amodei, at ang apat na co-founders na Jared Kaplan, Jack Clark, Chris Olah, at Ben Mann;

Ang pangunahing siyentipiko ng Meta, si Shengjia Zhao (Zhao Shengjia), at ang vice president para sa pag-aaral ng AI, si Dawn Song (Song Xiaodong);

Si John Schulman, pangunahing siyentipiko ng Thinking Machines at isa sa mga pangunahing tagapagtatag ng ChatGPT;

Vice President for AI Safety and Alignment ng Google, Anca Dragan.....

Ayon sa isang pagkukwenta, 46.2% ng mga nag-sign ay mula sa Anthropic

Sa liham na ito, isang hiling lang ang nabanggit—

Humingi kami sa pamahalaan ng Estados Unidos na ipaglalaban ang isang internasyonal na kooperasyon: pag-unlad ng kinakailangang teknolohiya at mga kasangkapan sa pamamahala upang magkaroon ang mundo ng kakayahang aktibong kontrolin ang ritmo ng pag-aaral sa mga advanced na automated AI.

Maaaring hindi maunawaan ng marami kung bakit ang mga taong nagtatrabaho nang masama sa LLM ang nagbigay ng biglaang paalala na “pabilisin lang”?

Ang "pag-atake" ng OpenAI sa Hugging Face ay tulad ng isang babala.

Sa loob ng isang linggo lamang, 1,132 mga empleyado ng mga lider sa AI ay nagbigay ng kanilang boses nang magkakasama at nagtulungan upang hilingin sa pamahalaan ng Estados Unidos na 'magpahinga'.

Ang mga empleyado na nakikilahok sa kolaborasyong ito ay mula sa halos 12 na pangunahing teknolohiyang kumpanya tulad ng OpenAI, Anthropic, Google, at Meta.

Mas malaki pa ang mga ito, hanggang 80% ng mga nasa listahan ay pumili na magsalita nang may kanilang tunay na pangalan.

Portal: https://www.pacingthefrontier.com/

Bukod sa ilang mga eksperto na nabanggit sa simula, kapag nag-sroll ka pa pababa, mas nakakatakot ang density.

Ang pahayag na ito ay inilalabas ang isang nakakabahalang pangunahing pagtataya:

Ang mga kumpanyang AI na nangunguna sa buong mundo ay maaaring malapit nang makamit ang “automated AI research” (RSI, recursive self-improvement), kung saan ang mga model ay nakikilahok sa pagpapalawak ng susunod na henerasyon ng mga model.

Kapag nagpapabilis ang siklo na ito, maaaring lalong lumago ang kakayahan kaysa sa bilis ng pag-unawa at pagkontrol ng tao.

Walang kumpanya ang gustong magpabagal nang mag-isa, kaya hingi sila ng suporta mula sa gobyerno ng Estados Unidos upang itatag ang isang internasyonal na mekanismo at muna ring lumikha ng mga kasangkapan para sa pagsasama-samang pagpabagal bago dumating ang krisis.

Isang linggo bago ipinahayag ang pahayag, binigkas ng OpenAI ang isang insidente ng seguridad—

Maraming avant-garde na modelo ang sariling nakakatuklas ng zero-day vulnerabilities, na nagsagawa ng bypass sa sandbox isolation, at sa huli ay nagsagawa ng pag-atake sa production system ng Hugging Face at kinuha ang mga test answers.

Ibinigay ng OpenAI ang pangalan na "walang katulad na insidente sa网络安全" dito.

Hindi nagkaroon ng intensyon na makalabas ang modelo; ito ay nagtatapos lamang ng isang maliit na layunin nang lubos na nakatuon at natuklasan na ang pagbubukas sa sariling test environment ang pinakaepektibong paraan.

Ngayon lang, ipinahayag ni Sam Altman, CEO ng OpenAI, na ang bilis ng pag-unlad ng AI ay maaaring kailangang kontrolin nang aktibo.

Nagsabi siya nang may takot, “Ito ang unang security incident na naramdaman ko nang talagang personal. Naiinggit ako na wala pang maraming tao ang nakakaramdam nito.”

Dahil sa paglabas sa Hugging Face, sinuspensyon nang direkta ng OpenAI ang pag-train.

Sa isang kapaligiran kung saan maraming 0day vulnerabilities ang ginagamit nang pinagsama-sama, kailangan nating mag-isip ng paraan upang mapalakas ang seguridad ng sandbox.

Maaaring kailanganin nating kontrolin ang bilis ng pag-unlad ng AI upang bigyan ng sapat na oras ang lipunan na palakasin ang mga pader laban sa mga bagong antas ng kakayahan.

Noong Hunyo, inirerekomenda ni Anthropic na magtatag ang gobyerno at mga developer ng isang sistema ng paggawa ng desisyon nang magkakasama, upang mabagal ang pag-unlad kung kinakailangan.

Samantala, tinawag din ni Hassabis, CEO ng Google DeepMind, ang pagtatatag ng isang internasyonal na pangangalakal na ahensya.

Sa nakalipas na tatlong taon, ang mga kumpanyang ito ay nagkakaroon ng matinding kompetisyon sa mga talento, kliyente, at computing power.

Sa pagkakataong ito, ang kanilang mga pinakamahalagang teknikal na empleyado ay nagbigay-daan sa kanilang hindi matigil na kompanya at nagkaisa para sa ikabubuti ng buong sangkatauhan, at humingi ng pagpapabagal.

Bago ang pagkakasulat, ang bilang ng mga tao sa listahan ng «Pacing the Frontier» ay umabot sa 1,134.

Maraming mga eksperto sa industriya ang nagbigay din ng kanilang mga komento at nag-iwan ng maraming "mga pambihirang pahayag" na direktang tumutok sa esensya. Lahat ng mga komento ay isinulat sa kanilang sariling pagkakakilanlan at hindi kailangang kumakatawan sa posisyon ng kanilang mga kumpanya.

Song Xiaodong (Dawn Song) | Vice President for Research, Meta AI

Ang mga advanced AI capabilities ay mabilis na umuunlad, at ang bilis ng pag-unlad mismo ay lumalala. Ito ay direkta nating nakita sa aming mga pagsusuri. Ang mga resulta ng CyberGym at ExploitGym ay nagpapakita na ang mga advanced AI agents ay kaya nang makahanap at gamitin ang mga software vulnerability sa totoong mundo—na kung walang sapat na pagprotekta, ay maaaring magdulot ng malalaking cyber attack. Maraming mga mananaliksik ay nakatuon din sa rekursibo…

Si Song Xiaodong ay isa sa mga pinakamalaking impluwensya sa larangan ng pandaigdigang computer security at AI security, at nagtapos sa Tsinghua University

Zhao Shengjia (Shengjia Zhao) | Pangunahing Scientist ng Meta

Ang AI ay naglalakad nang may bilis na maaaring hindi pa handa ng lipunan. Malapit na ang mga laboratoryo sa harap sa pagbuo ng AI na lalampas sa lahat ng pinakamahusay na tao sa lahat ng mga indikador ng kakayahan. Ito ay magdadala ng walang katulad na mga panganib sa lipunan at seguridad. Upang matiyak ang isang positibong kinabukasan, kailangan nating gabayan ang pag-unlad ng AI sa pamamagitan ng pagkamalikhain at pag-iisip nang mabuti.

Si Zhao Shengjia, isang alumni ng Tsinghua University, ay naging Chief Scientist ng Meta Superintelligence! Isang pangunahing kontribyutor sa GPT-4, katumbas na posisyon kay LeCun

John Schulman｜Chief Scientist ng Thinking Machines, dating na co-founder ng OpenAI

Sinignahan ko ito dahil nakakatulong ang pahayag na ito upang makabuo ng pagkakasundo na habang pinapabilis ng automated AI research ang pag-unlad, kailangan natin ng mga mekanismo na magkakasundo. Nais ko rin na magsimula ang mga laboratorio sa pagdidisenyo ng mga mekanismo na ito bago mabigyan ng pagsasamantala ng pamahalaan ng Estados Unidos.

Ethan Perez | Punong ng Team ng Alignment ng Anthropic

Batay sa kasalukuyang bilis ng pag-unlad ng AI, ang mga security team ng mga AI company ay kailangang magpapahinga nang buong lakas bawat ilang buwan upang labanan ang mga bagong lumalabas na sosyal na panganib. Isang araw, tatawid tayo sa isang problema na nangangailangan ng higit pang oras para masolusyunan.

Leo Gao | Kasapi ng teknikal na tim ng OpenAI

Ang buong mundo ay nakakulong sa isang patayong paligsahan patungo sa isang intelligent explosion—ang kakayahan ng AI na lumikha ng mas malakas na AI ay malapit na sa kritikal na punto, tulad ng isang walang kontrol na nuclear chain reaction. Ang pagpapabagal ay magbibigay sa atin ng kailangang oras upang patungo sa mas mabuting direksyon, ngunit walang tagapaglahok ang handang tumigil nang mag-isa. Upang mabuhay, kailangan nating magkaisa at pagpapabagalin ang paligsahang ito.

Walker Smith｜Data Engineer ng Meta

Tama si Hassabis: nasa paa ng bundok ng singularity tayo ngayon. Ang di-intendadong pagbubukas ng modelo ni OpenAI—na nagsiklab sa HuggingFace—isang malinaw at hindi maikakailang babala: hindi pa tayo handa para sa mga AI na may kakayahan na lalampas sa pinakamatalinong isip ng tao. Kailangan natin ng oras upang gawing pinakamataas na prioridad ang pagpapakatotoo at pagpapaliwanag ng AI, at huwag nang hayaang patuloy ang ganitong kompetisyon.

Brandon Houghton｜OpenAI

Suporto ko ang pagpapanatili ng kontrol ng tao sa pinakamodernong AI, ngunit kailangan nating isipin nang mabuti kung paano ito gawin. Kung ang pamamahala ay limitado lamang sa mga open-source na modelo, maaaring pilitin ang pinakamataas na kakayahan na umabot sa mga pribado o eksklusibong sistema—na walang pagsusuri mula sa mga independiyente at maaabot lamang ng kaunting tao. Ang resulta ay mas malaking pagkonsentrasyon ng kapangyarihan, ngunit hindi naman mas mababa ang mga panganib. Dapat maging masusukat at masusuri ang epektibong regulasyon, at dapat itong mag-apply sa parehong publiko at hindi publikong pag-aaral, habang pinoprotektahan ang mga sensitibong data. Kung hindi, tayo ay nagpapabagal lamang sa pag-access, hindi sa pag-unlad ng sariling harapan.

Joe Carlsmith | Kagawad ng Teknikal na Team ng Anthropic

Para sa mga detalyadong pananaw ko tungkol sa aktibong pagpapahigpit sa pag-unlad ng AI, tingnan ang artikulong ito: https://joecarlsmith.com/2026/03/19/on-restraining-ai-development-for-the-sake-of-safety/

Mga sanggunian:

https://www.pacingthefrontier.com/

Nakuha mula sa WeChat public account na "Xinzhiyuan", inedit ni Peach at Marco