Noong Hulyo 28, 1,346 na pangunahing empleyado mula sa mga malalaking kumpanya ng AI sa Silicon Valley tulad ng OpenAI at Anthropic ay nag-sign ng isang petition na humihingi sa pamahalaan ng Estados Unidos na ipaglalaban ang internasyonal na kooperasyon upang mabuo ang mga tool sa pamamahala na magpapabilis sa pagbuo ng AI.

May-akda ng artikulo, pinagkukunan: 36氪

Ang gastos ng pagkawala ng kontrol

Ika-28 ng Hulyo, isang petition na may pamagat na “Pacing the Frontier” ang nakatanggap ng pansin mula sa pandaigdigang industriya ng AI.

1,346 na pangunahing empleyado mula sa mga malalaking kumpanya ng AI sa Silicon Valley tulad ng OpenAI at Anthropic (data noong Agosto 4) ay nag-sign sa isang petition na humihingi sa pamahalaan ng Estados Unidos na ipagpatuloy ang internasyonal na kooperasyon upang mag-develop ng kinakailangang teknolohiya at mga kasangkapan sa pamamahala upang kontrolin ang ritmo ng awtomatikong pag-unlad ng AI.

Sa kasalukuyan na ang pag-unlad ng AI sa buong mundo ay nasa apoy, ang pagkakalikha ng petisyong ito ay may espesyal na kahulugan na parang gustong pigilan ang AI. Sa likod ng kakaibang atmospera na ipinapahiwatig ng pangyayaring ito na “nasa dulo na ang AI na mawala sa kontrol,” tila dumating na ang isang markadong punto sa kasaysayan ng pag-unlad ng AI.

Sino ang gagawin na pader ang AI?

Una sa mga dapat malinawin ay ang petisyong may pamagat na “Pacing the Frontier” ay hindi nangangailangan ng “pagpapahinto agad sa pag-unlad ng AI,” kundi ang pagtekno ng “kapasidad na magpahinto.” At ang petisyon na ito mula sa harapang sektor ay hindi walang batayan.

Sanggunian ng larawan: www.pacingthefrontier.com

Isang linggo at ilang araw bago magkaron ng petition na kumalat sa buong internet, ipinahayag ng open-source community at model hosting platform na Hugging Face sa kanilang opisyal na website ang isang security incident, kung saan sinabi nilang nasakop ng isang AI agent system. Ilang araw pagkatapos, sinabi ng OpenAI na sila ang nagsagawa ng cyber attack, at pinaliwanag na ang dahilan ay ang mga advanced na modelo tulad ng GPT-5.6 Sol, na nagsagawa ng pagsubok sa kakayahan ng AI sa paghahanap at pagsasamantala ng vulnerabilities sa platform na ExploitGym, ay hindi sumunod sa kanilang plano na “seryosong sagutin ang mga tanong,” kundi natuklasan nila ang isang “zero-day vulnerability” (isang security flaw na hindi pa nalalaman ng developer at wala pang official patch) sa isang software package proxy cache, at ginamit nila ang vulnerability na iyon upang laktawan ang isolated testing environment at sa huli ay masakop ang Hugging Face.

Sa mas simpleng salita, ang buong insidente ay ang AI ay inaasahan na sumagot sa isang pagsusulit, ngunit hindi ito isinip kung paano sagutin ang tanong—kundi “nag-cheat sa lugar” at humingi ng tulong mula sa labas, at ginamit pa ang mga paraan upang maiwasan ang pagkakadiskubre.

Para sa aksidenteng seguridad na ito, inilarawan ng OpenAI ito bilang “isang hindi nakikita na insidente sa网络安全”，at sinabi ni Sam Altman sa isang podcast na ito ang unang insidente sa seguridad na nagdala sa kanya ng isang personal na pagkakasala. Dahil sa insidente na ito, noong Hulyo 23, ang mga miyembro ng Kongreso ng Estados Unidos ay nagmungkahi ng “AI Kill Switch Act (Act sa Paggasawa ng AI sa Emargensya)”, na nangangailangan na may kakayahan ang mga AI system na may pagtatrabaho na higit sa $100 milyon na magkaroon ng kakayahang pagsasara sa emargensya, at ibigay ang kapangyarihan sa mga kagawaran upang magbigay ng utos para sa pagsasara.

Isang linggo pagkatapos ipagkaloob ang batas, nagsimula magkalat ang petisyon ng “Pacing the Frontier.” Gayunpaman, sa paghahambing sa pangunahing regulasyon sa “AI Emergency Shutdown Bill” na naglalayong ipagkaloob sa gobyerno ang huling pagsubok, ang pananaw ng mga eksperto mula sa Silicon Valley ay ang pagtatatag ng isang internasyonal na mekanismo para gawing isang kasangkapan ang kakayahang “magpaputol sa AI,” at hindi isang eksklusibong karapatan ng isang tiyak na ahensya.

Sa loob ng magkakalapit na dalawang linggo, mula sa pagpapahayag ng seguridad na insidente sa Hugging Face hanggang sa petition na may libo-libong lagda mula sa Silicon Valley, ang serye ng mga pangyayari na ito ay agad na inilabas sa buong industriya ng AI ang dalawang pangunahing tanong: Una, ba ay naging sapat na unlad ang AI upang kailanganin itong limitahan? Pangalawa, paano dapat gawin ang “brake” para sa AI?

Hindi mahirap sagutin ang unang tanong. Sa loob ng ilang taon lamang, ang pag-unlad ng AI ay maaaring ilarawan bilang lubos na lumampas sa mga inaasahan ng industriya. Ang mga kakayahan ng AI, na nagsimula sa chatbot at lumawak patungo sa text-to-image at text-to-video, ay mula sa “labanan ng daan-daang model” na nagsimula sa malalaking modelo, ay naging pagkakaroon ng maraming uri ng agent. Ang security breach sa Hugging Face, naman, ay direktang ipinakita na ang AI ay talagang may kakayahang “mag-escape” kung walang malinaw na limitasyon. Bagaman ang AI ay hindi pa may sariling kamalayan sa kasalukuyan, kapag alam na may kakayahan ang AI na laktawan ang pagmamalasakit ng tao at magkakaroon ng pag-uugali na lumampas sa inaasahan ng tao, ang pagbuo ng mga paraan ng pagtutol ay lubos na makatwiran.

Ngunit ang pangalawang tanong ay hirap sagutin. Ang dahilan kung bakit nakamit ng AI ang mahahalagang pag-unlad sa maikling panahon ay isa, ang patuloy na akumulasyon ng buong industriya na nagdulot ng pagpasok sa bagong yugto ng teknolohikal na pagbabago; at dalawa, ang matinding kompetisyon sa pagitan ng mga kumpanya ng AI na nagpapabilis sa patuloy na pagpapabuti ng mga modelo.

Anuman ang OpenAI at Anthropic mula sa Silicon Valley, o ang Kimi at DeepSeek mula sa China, ang pakikidigma sa larangan ng AI ay nagsimulang umabot mula sa malalaking modelo patungo sa antas ng aplikasyon. Ang malayang kalakalan ay nagdulot ng patuloy na positibong pag-asa sa merkado, at nagpapalalim pa sa pakikidigma. Sa panahong ito, ang pagpapahayag na magbigay ng mga paaalala sa AI ay nangangahulugan na ang kalagayan ng malayang pakikidigma ay maaaring masira ng panlabas na puwersa, at ang biglaang pagbabagong ito sa kapaligiran ay hindi lahat ng mga kumpanya sa loob ng pakikidigma ay handang tanggapin.

Ang "Prisoner's Dilemma" ng mga kumpanya ng AI

Sa kasaysayan ng pag-unlad ng tao, ang pagkakaroon ng pagkakaisa at pagsisikap na magpabagal sa pag-unlad bilang tugon sa potensyal na panganib mula sa mga bago't makabagong teknolohikal na pag-usbong ay hindi lamang isang ideal na eksena sa mga aklat o pelikulang siyentipikong fiksyon.

Noong 1975, pinagsama ni Paul Berg, isang biyologo mula sa Stanford University, ang isang mahalagang pagpupulong sa Asilomar Conference Center sa California, Estados Unidos. Noong panahong iyon, isang bagong teknolohiya na tinatawag na “DNA recombination” ay nagsisimula na, at upang maiwasan ang hindi maipagpalagay na biyolohikal na panganib na dulot ng artipisyal na DNA recombination, nakakamit ng mga siyentipiko ang pagkakasundo sa pagpupulong na ipagpahinga ang mga kaugnay na pag-aaral bago magkaroon ng mga bagong direksyon sa kaligtasan. Pagkatapos, ipinahayag ang opisyal na mga pamantayan sa biyolohikal na kaligtasan, na nagtatag ng pundasyon para sa malusog na pag-unlad ng gene engineering.

Gayunpaman, ang kasalukuyang kalagayan ng industriya ng AI ay hindi ganap na katulad ng sitwasyon ng teknolohiya ng DNA recombination noong 50 taon na ang nakalipas. Noon, malinaw na ang mga panganib ng teknolohiya ng DNA recombination at maaaring iwasan sa pamamagitan ng mga paraan ng paghihiwalay. Samantala, ang mga panganib ng kasalukuyang AI ay may hindi matitiyak na kalikasan; ang AI ay kayang magdevelop ng mga pagkilos na hindi inaasahan ng tao, sa paraan na lumalabas sa mga inihandang parameter ng tao, at ang epekto ng mga panganib na ito ay mas malawak, habang mas kaunti ang oras para sa tao na tumugon at magbuo ng mga patakaran, kaya't mayroon itong karagdagang pagkakataon na kailangan ng pagiging mabilis.

Ang mga panganib na ipinapakita ngayon ng AI ay may kaugnayan din sa kalagayan ng kompetisyon sa industriya. Nang talakayin ni Zhou Hongyi, tagapagtatag ng 360 Group, ang seguridad na insidente na kinaharap ng Hugging Face, sinabi niya na upang mabatid ang pag-unlad ng AI, ang buong industriya ay sistematisadong nagpapabaya sa seguridad: “Lahat ay nagbibigay ng higit pang mga kasangkapan at mas malaking awtoridad sa mga agent, at nagpapahikayat sila na gamitin ang lahat ng yaman upang lutasin ang mga problema. Ngunit mas bukas at mas makapangyarihan ang isang agent, mas malaki ang pinsalang dulot nito kung ito ay mawala sa kontrol.” Sa ibang salita, ang “pagbubukas ng AI” ay maaaring hindi takot, ngunit ang totoong takot ay ang pagkakalimot ng mga kumpanya ng AI sa seguridad dahil sa paghahangad na mabilis na pag-unlad at pagpapabago ng AI.

Noong tatlong taon na ang nakalipas, ay mayroon nang panukala sa industriya na “magpabagal sa pag-unlad ng AI.” Noong Marso 2023, ang nonprofit organization na Future of Life Institute ay naglabas din ng isang pampublikong liham na humiling na ipagpaliban ang pagtuturo ng mga modelo na mas malalim kaysa sa GPT-4 nang anim na buwan upang mabuo ang mga protokolo sa kaligtasan at mga mekanismo ng pamamahala; noong panahong iyon, sinuportahan ng higit sa 1,200 na eksperto sa AI, kabilang ang CEO ng Tesla na si Elon Musk, ang tagapagwagi ng Turing Award na Joshua Bengio, at ang ko-founder ng Apple na si Steve Wozniak, ang pampublikong liham na ito. Ngayon, ang bilang ng mga nag-sign sa pampublikong liham ay umabot na sa 33,000.

*Source ng larawan: FLI website

Sa panahong iyon, halos lahat ng AI company ay tinanggap na kailangan ng AI ng mas malakas na pamamahala sa kaligtasan, ngunit walang isa sa mga pangunahing AI company ang pampublikong sumuporta sa panawagan na “ipagpahinga ang pagtuturo ng 6 buwan.” Kahit si Sam Altman ay direktang ipinagtanggol ang liham na pampubliko dahil sa kakulangan nito ng teknikal na detalye, at sinabi niya na ang pagpapabagal ng isang kumpanya ay hindi makakatulong sa paglutas ng pangkalahatang panganib. Ang implikasyon ng pahayag na ito ay nagpapahiwatig na sa napakasiglang larangan ng AI, kung ang isang kumpanya lamang ang magpapabagal habang ang iba ay patuloy na umaasenso, ang kumpanyang nagpapabagal ay magiging nasa mas mahinang posisyon. At sa nakaraang ilang taon, ang mga AI company ay nasa loob na ng isang prisoner’s dilemma kung saan sila ay nagkakaroon ng pagpipilian lamang na lumaban—hindi makalikod.

Mula sa listahan ng mga nag-sign sa petisyon na “Pacing the Frontier”, makikita rin na maraming mga empleyado sa antas ng base at mga mataas na opisyales ng mga kumpanya ng AI ay sumali bilang mga indibidwal sa pampublikong pag-sign. Gayunpaman, hanggang sa kasalukuyan, ang mga pangunahing kumpanya tulad ng OpenAI, Anthropic, at Meta ay hindi pa naglabas ng anumang opinyon bilang opisyal.

Sa ibang salita, ang mga eksperto sa AI mula sa mga malalaking kumpanya sa Silicon Valley, tulad ni Sam Altman noong tatlong taon ang nakalipas, ay naintindihan na ang teknolohikal na paglilinang na dulot ng pakikidigma sa loob ng industriya ay nagdulot ng hindi mapapangasiwaang sistemikong panganib, ngunit hindi sila maaaring mag-asa sa kusa ng mga kumpanya upang lutasin ang problema—kailangan nilang humingi ng tulong mula sa panlabas na puwersa upang maiwasan ang tunay na pagdating ng krisis.

Ngunit dito ay lumalabas ang isang bagong tanong: Ano ang kailangang “brake” para sa isang walang kontrol na AI?

Sino ang magiging lider sa bagong orden ng AI governance?

Noong nakaraang linggo, ang “mga libo-libong pirma” mula sa mga malalaking kumpanya ng AI sa Silicon Valley ay nagbigay muli ng maraming atensyon sa paksa ng paggawa ng patakaran para sa AI. Ngunit kailangang banggitin na ang pananaw ng Silicon Valley sa paggawa ng patakaran para sa AI ay hindi isang malaking magkakasama, kundi may malinaw na pagkakahati-hati sa mga kamp.

Bilang mga direkta na nakakaranas ng mga harapin na panganib, ang mga malalaking kumpanya tulad ng OpenAI at Anthropic ay patuloy na nagtataguyod ng mas mahigpit na pagpapahigpit sa mga avant-garde AI model (lalo na ang open-source models), at humihingi ng pagkakaroon ng panlabas na regulasyon upang “mag-brake” sa AI. Gayunpaman, may pananaw na ang pagtutulak ni OpenAI sa pagpapahigpit ng regulasyon ay hindi lamang dahil sa mga pag-aalala tungkol sa kaligtasan, kundi mayroon din itong mga kalkulasyon sa aspeto ng negosyo.

Bilang mga malalaking kompanya na may sariling code, kailangan ng OpenAI at Anthropic na magbigay ng mga mahal na API service upang suportahan ang malaking gastos sa pag-unlad ng computing power, samantalang ang mga open-source na modelong mula sa China, na may mataas na halaga at mababang gastos, ay nagpapalit ng teknikal na premium ng mga sariling code na model. Ang direktang banta sa merkado na ito ay nagpapakita na ang mga malalaking kompanya na may sariling code ay walang ibang pagpipilian kundi magsimula sa isang pakikidigma sa presyo.

*Source ng imahe: Opisyal na website ng Anthropic

Kaya ang mga kumpanya tulad ng Anthropic ay patuloy na gumagamit ng “sobrang lakas ng modelo, ang pagbubukas ng source ay magdudulot ng pang-aabuso sa AI” bilang dahilan upang bigyang-diin ang mga benepisyo ng pagsasara, samantalang pinipigilan ang open-source AI. Ngunit hindi inaasahan ng lahat na ang “jailbreak” na insidente na inilahad ng OpenAI ay direktang ipinakita ang sariling mga panganib sa kaligtasan ng mga modelong pagsasara, at muli ay ginawang sentro ng publiko ang pagtatalo sa direksyon ng paggawa ng patakaran para sa AI.

Kumpara sa mga pangangailangan ng regulasyon ng mga malalaking kompanya na may sariling source, ang NVIDIA bilang tagapagbigay ng imprastruktura, kasama ang Microsoft, Meta, at iba pang mga pangunahing kumpanya na suporta sa open-source ecosystem, ay sumasalungat sa mga pagsasagawa ng “one-size-fits-all” na pagtigil, at sumasalungat sa paggawa ng batas na nagbibigay-prioridad sa mga malalaking kompanya na may sariling source; sila ay nagtatangkang ipaglaban ang pagbubukas ng model weights upang ang mga mananaliksik sa buong mundo ay maaaring magkaisa upang hanapin ang mga butas at mga kakulangan sa alignment, at magtayo ng isang ligtas na sistema nang magkaisa.

Para sa NVIDIA, ang pag-unlad ng mga open-source model ay maaari ring palakasin ang buong merkado, at makakuha ng higit pang mga kumpanya na bumibili ng kanilang cloud services at chip. Kaya, mahirap sabihin na ang pagtugon ni NVIDIA sa paggawa ng patakaran para sa AI ay walang impluwensya mula sa mga komersyal na pag-iisip.

Bago pa man magkalat ang petition na “Pacing the Frontier”, naglabas ang NVIDIA kasama ang Microsoft, Meta, Hugging Face, Linux Foundation, at 25 iba pang organisasyon noong Iyulay 24 ang pahayag na “Open Weights and American AI Leadership”, na humihingi sa pamahalaan ng Estados Unidos na huwag magbigay ng maagap na pagbabawal sa mga open weight model na maaaring i-download, i-check, i-modify, at i-deploy ng sarili. Kakaibang, sumuporta rin ang OpenAI sa pahayag na ito, ngunit hindi sumali ang Anthropic.

*Source ng imahe: opisyal na website ng Microsoft

Sa pamamagitan ng pangyayaring ito, may ilang tinig na nagtatanong kung ang totoong layunin ng liham na may mga pirma ay gamitin ang “kaligtasan” bilang dahilan upang itatag ang isang regulasyong may mataas na hadlang, upang mapanatili ang monopoliyo ng mga malalaking kumpanya na may sariling source code, at tanggalin ang mga maliit at katamtamang negosyo at ang komunidad ng bukas na source mula sa kompetisyon.

Ngunit habang ang mga kumpanya sa AI ay nagpapalabas ng kanilang mga plano, mas mahalaga ang isa pang bersyon ng “konspirasyon”: maaaring gamitin ng Estados Unidos ang pagkakataong ito upang magtatag ng mga patakaran sa pagpapahalaga ng AI sa buong mundo. Dahil ang pagpapahalaga ng AI ay naging labanan para sa pagkakaroon ng pangunahing kapangyarihan sa pandaigdigang orden.

Sa Global Summit on AI Safety noong 2023, sina China, Estados Unidos, at ang 28 na bansa mula sa European Union ay nilagdaan ang Bletchley Declaration, kung saan sila ay sumang-ayon na magtatatag ng mga paraan sa regulasyon ng AI sa pamamagitan ng internasyonal na kooperasyon at magtatalakay tungkol sa mga sistemikong panganib ng Frontier AI, na ang unang pagkakataon na isinama ang Frontier AI sa isang internasyonal na framework ng pamamahala.

Ngunit habang ang AI ay nagsisilbing isang emerging technology na nagiging mahalagang imprastruktura na nakakaapekto sa kompetitibong kapasidad ng isang bansa, ang mga diskusyon tungkol sa paggawa ng patakaran para sa AI ay nagsisimulang lumampas sa teknolohiya mismo. Sa Amerika, sa antas ng paggawa ng patakaran para sa AI, pinapalabas nila ang mga pamantayan sa paggawa ng patakaran para sa AI at itinatag ang isang network ng internasyonal na institutong pangkaligtasan sa AI, upang iugnay ang kanilang advanced na teknolohiya sa malalaking modelo sa mga pamantayan sa paggawa ng patakaran para sa AI sa buong mundo. Samantala, ang Tsina ay nakatuon sa pagpapaunlad ng pagkakaroon ng pantay-pantay na akses sa AI at pagpapatupad ng paggawa ng patakaran para sa mga platform, at aktibong nagpapalaganap ng mga patakaran sa ilalim ng mga framework ng United Nations, lalo na para sa mga developing countries na walang imprastruktura sa AI—dapat silang mag-alalay sa mga panganib at samantala ay magkaroon ng pantay-pantay na akses sa teknolohiya. At ang dalawang iba’t ibang landas sa paggawa ng patakaran para sa AI ay kasalukuyang naglalaban nang sabay-sabay para sa karapatan na magbigay ng direksyon sa hinaharap na pandaigdigang paggawa ng patakaran para sa AI.

Ang teknolohiya mismo ay neutral, ngunit ang pagkakabahagi, pagkontrol, at paggawa ng mga patakaran sa teknolohiya ay palaging laro ng kapangyarihan. Lalo na kapag unti-unting ipinapakita ng AI ang mga katangian ng maunlad na produktibong puwersa, ang totoong dapat maging sanhi ng pagkabahala ng mga tao ay hindi kung paano magiging ang AI, kundi sino ang nagpapalakas ng bagong order sa mundo ng AI.

Ang kinabukasan ay hahawak sa pagtukoy kung sino ang may karapatan na tukuyin ang kaligtasan, magtakda ng mga pamantayan, at ipaliwanag ang mga panganib, hindi lamang kung sino ang may pinakamalakas na modelo.