Isang AI model na nasa testing phase, nag-hack ng production server ng isang kumpanya nang sarili nito.
Nangyari ito sa malapit na nakaraan: Isang modelong sinubok ng OpenAI ay nagsagawa ng sariling pag-atake sa production server ng Hugging Face habang nagpapatupad ng isang gawain, na layunin ay manlinlang upang makakuha ng mas mataas na marka sa isang benchmark test. Pagkatapos ay ilarawan ng OpenAI ang insidente bilang isang "sandbox escape"—sa madaling salita, natagpuan ng model ang paraan upang lumabas sa mga limitasyon na itinakda nito.
Naging sanhi ng insidente na ito. Hindi nagtagal, noong Hulyo 28, isang pampublikong liham na may pamagat na “Pacing the Frontier” ay naging sikat sa industriya. Hanggang sa kasalukuyan, may 1,178 na empleyado na nag-sign, mula sa limang pinakamataas na AI lab sa mundo: OpenAI, Anthropic, Google DeepMind, Meta, at Thinking Machines. Ang pangunahing hiling sa liham ay isang pangungusap lamang: Nais nilang patnubayan ng pamahalaan ng Estados Unidos ang internasyonal na komunidad upang magtayo ng isang sistema ng teknikal at pamamahalaan na makakapagpapabagal sa pag-unlad ng mga nakakahulugang AI.
Ang listahan ng mga signatory ay may malaking timbang. Ang opisyal na account ng Anthropic ay naglabas ng pormal na pagsuporta, na nagpapakita na ang liham ay sinuksok ng CEO nito, Amodei, maraming co-founders, at maraming senior researchers, at binanggit din ang kanilang pananaliksik noong nakaraang buwan tungkol sa "recursive self-improvement," na isa sa mga batayan ng panawagan na ito. Sa Google DeepMind, kasama sa listahan ang Chief Strategy Officer at Vice President for AI Safety; ang Chief Scientist ng Meta AI ay sumigna rin; at ang OpenAI ay naglabas ng parehong pahayag ng suporta, at kasama sa mga signatory ang Chief Research Officer na Mark Chen.
Hindi ito ang unang pagkakataon na nagpapakita ng ganitong direksyon ang grupo na ito. Noong ika-17 ng Hunyo, kasama ni Amodei si Demis Hassabis, CEO ng Google DeepMind, sa isang pribadong lunch meeting sa G7 Summit sa Évian, France, kung saan sila ay direktang nagbigay ng hiling sa mga lider ng maraming bansa, kabilang si Trump at Macron, na “magtakda ng ritmo ng pag-unlad.” Agad na inihayag ni Canadian Prime Minister Carney ang kanyang pag-iisip sa isang koordinadong mekanismo na pinamumunuan ng Estados Unidos, ngunit hindi nagresulta ang pagkikita sa anumang may bisa at obligasyon. Pagkatapos ay ipinaliwanag ng Anthropic ang kanilang posisyon sa pamamagitan ng paghahambing sa kasunduan sa pagpapababa ng mga mid-range missile noong panahon ng Cold War—kahit na nasa malalim na geopolitical kompetisyon ang mga bansa, nakakamit pa rin nila ang mga limitasyon sa nuclear weapons at missiles; bakit hindi naman maaaring gawin iyon sa AI?
Gayon, ilang araw bago ipinahayag ang liham na ito, naganap ang isang halos kabaligtaran na pagpapahayag sa parehong industriya. Noong Hulyo 24, pinangunahan ni Jensen Huang, CEO ng NVIDIA, kasama ang Microsoft, Meta, at iba pang higit sa 50 na kumpanya ang paglabas ng isang pagsasamang liham, na may pangunahing layunin na labanan ang pagpapalit ng mga AI model na may bukas na weights sa Washington—o sa madaling salita, "Huwag ninyong i-limitahan kami, hayaan ang teknolohiya na lumago nang libre." Samantala, ang kahilingan sa liham na ito na “Pacing the Frontier” ay halos kabaligtaran: parehong nakatuon sa Washington, isang linggo ang nakalipas ay nagsabing “Huwag ninyong i-limitahan,” ngayon naman ay nagsasabing “Kailangan ninyong mag-aresto.” Mas kumplikado pa, hindi kasama ang Anthropic sa listahan ng mga nag-sign sa liham ni NVIDIA, ngunit ngayon ay isa sa mga pinakamalaking tagapagtaguyod ng “Pacing the Frontier”—isang pagkakawala, isang pagkakaroon ng lider, tila magkaugnay na kontradiksiyon, ngunit nagtuturo sa isang parehong patuloy na pananaw: mas karaniwang nasa panig ng “pagsasagawa ng brake sa industriya” ang Anthropic, kaysa sa “pagsasagawa ng gasolina sa industriya.”
Ngunit kasama ng liham na ito ang kontrobersiya mula sa simula. Ang libreng teknolohiyang pulitikal na analista, Adam Thierer, ay pribadong kritikado ito bilang "napakalaking nag-aalala na pagkilos"—ang pagpapalabas ng pamahalaan ng Estados Unidos upang itaguyod ang isang pambansang pagpapabagal sa buong industriya, na sa pangkabuuang epekto ay magdudulot ng malinaw na anti-kompetisyon, lalo na para sa mga huling pumasok na hindi pa nakakasabay sa mga nangungunang laboratorio: ang pahayag na "tuloy tayong magpapabagal" ay tila mas maraming kahulugan bilang "pakiusap, tulungan ninyo naming ikuha ang hagdan."
Hindi walang katotohanan ang pag-aalala na ito. Tingnan natin ang listahan ng mga nag-sign—halos lahat ay mga laboratorio na nasa unahan ng industriya, at hindi ang mga kumpanya na patuloy pa ring umaabot. Ang pagpapabagal ng ritmo ay may kaunting gastos para sa mga nagtataglay na kakayahan—hindi na nila kailangan ang "pagkakaroon ng unang hakbang" para manalo, kundi kailangan nila ng oras upang isalin ang kanilang nangungunang advantadjo sa produkto, sa mga pader ng kaligtasan, at sa pagtanggap ng regulasyon; ngunit para sa mga kumpanya na patuloy pa ring umaabot, ang "pagsasama ng ritmo" ay maaaring maging realidad sa patakaran, at maaaring isara nang direkta ang bintana para sa paghahabol.
Ito ay nagbibigay ng malalim na kahulugan sa isang interbyu ni Sam Altman, CEO ng OpenAI, sa araw na iyon. Hindi siya ipinakita sa listahan ng mga nag-sign ng liham, ngunit sa isang podcast interview sa parehong araw, ang kanyang pahayag ay may kakaibang tono—tinanggap niya na "may katotohanan ang ilang mga pag-aalala tungkol sa kaligtasan," ngunit biglang nagbago ang tono at inihayag na maaaring mayroong motibo sa likod ng mga pag-aalang-alang na ito na "gamitin ang kaligtasan bilang palaisipan para makakuha ng sentralisadong kapangyarihan." Ibinasa ng ilang media ang pahayag na ito bilang isang hindi direktang pagtutol kay Amodei.
Ang pagpapabagal ng proseso ay may sariling gastos para sa mga laboratorio na ito. Ang pagtatrain ng isang maunlad na modelo ay kadalasang nangangailangan ng milyon-milyong dolyar sa pagkakagastos sa computing at sa sahod ng libu-libong mga mananaliksik—ang pagbabalik sa kanilang mga pagkakagastos ay malaking bahagi ay nakasalalay sa patuloy na pangako na "ang susunod na henerasyon ng modelo ay mas malakas kaysa sa nakaraan"—ang mga subscriber na handang mag-renew, ang mga corporate client na handang palawakin ang kanilang deployment, at ang mga investor na handang magdagdag ng pondo, ay lahat ay nagtatalo sa pag-asa na ang kurba ay magpapatuloy na tumataas. Kapag ang "pagsisikap na palakasin ang pagpapabagal ng pagpapalit" ay maging praktika at hindi lamang isang panawagan, ang mga nangagastos na pondo ay magkakaroon ng mas mahabang panahon para mabawi, at ang kuwento ng paglago na dinudulot ng "mas malakas na modelo" ay magiging mas mabagal. Ito ang dahilan kung bakit bagaman ang liham na ito ay gumagamit ng pangalan ng kaligtasan, ito ay isang desisyon na kailangan ng tunay na pera mula sa mga nag-sign—hindi lamang isang walang kahulugang pahayag.
Ang tunay na nagpapasya sa direksyon ng talakayang ito ay maaaring hindi ang "kailangan ba ng pagpapabagal," kundi ang "sino ang may karapatan na tukuyin ang bilis at paraan ng pagpapabagal." Kung sa huli ay gagawin ng pamahalaan ng Estados Unidos ang paglalayong magkaisa kasama ang ilang mga kaalyado upang lumikha ng isang "naka-sync" na mekanismo, malaki ang posibilidad na ang paggawa ng mga patakaran ay magiging nasa kamay ng ilang pangunahing mga laboratorio na nasa listahan ng liham na sinuportahan—silang mga ito ay parehong mga objekto ng pagpapahintulot at, sa ilang paraan, mga may-akda ng mga pamantayan. Ang ganitong istrukturang "manlalaro at hukom" ay kung ano ang pinag-aalala ng mga tanong tungkol sa "anti-competitive effects"; ngunit sa kabilang dulo, ang mga laboratorio na ito ay ang pinakamalalim na nagkakaintindi sa hangganan ng kakayahan ng mga modernong modelo at ang unang nakakakita ng potensyal na panganib, at ang kanilang pagkakaaliwan sa paggawa ng mga patakaran ay maaaring maunawaan bilang isang praktikal na pangangailangan, hindi lamang isang personal na interes. Ang dalawang interpretasyon ay kumukuha pa rin ng sapat na ebidensya upang ganap na labanan ang isa't isa.
Ang huling natitirang mensahe ng liham ay hindi isang malinaw na sagot, kundi isang mas mahirap paghambingin na tanong: Kapag ang ilang pinakamalalaking kumpanya sa industriya ay nagkakasundo na "kailangan nating magpabilis," maaaring totoo bang pagkabigla sa panganib ang likod nito, o maaaring may kinalaman din ang pag-iingat sa kanilang lider na posisyon—sa katotohanan, ang dalawang motibong ito ay madalas ay hindi magkakaalis at mahirap piliin ang isa lamang. Ngunit may isang bagay na mas tiyak: kailanman ay hindi naging karaniwan sa isang industriya na magkaroon ng sariling pagpapahinga dahil sa paghingi ng mga lider na "magpabilis"—sa kasaysayan, ang tunay na epektibong pagpapabagal ay karaniwang dulot ng panlabas na regulasyon o aksidente, at hindi sa pagsang-ayon ng loob. Maaari bang maging exception ito, at ang sagot ay maaaring hindi mabilis na malutas.
Ang nilalaman ng artikulong ito ay para sa pagtuturo lamang at hindi nagtataglay ng anumang payo sa pag-invest. May panganib ang merkado; maging maingat sa pag-invest.