Ang CEO ng Anthropic ay nagmungkahi ng Isang Framework para sa Patakaran sa AI sa Gitna ng Mabilis na Paglago ng Teknolohiya

Kahit recent, ang CEO ng top AI giant na si Anthropic, si Dario Amodei, ay naglabas ng isang malawak na artikulo na naging viral sa buong internet: “Policy in the Age of Artificial Intelligence.” Ang buong artikulo ay nakatuon sa limang polisiyang larangan, at lubos na detalyado ang kanyang obserbasyon at nagbigay ng sistemikong mga rekomendasyon mula sa regulasyon hanggang sa geopolitika.

(Original link:https://darioamodei.com/post/policy-on-the-ai-exponential, ang buong bersyon sa Tsino ay nakadugtong sa dulo ng artikulong ito.)

Dapat pagsisihan, sa loob ng Silicon Valley na puno ng mga nagpapanggap na “babaguhin ang mundo” at nagpapakita lang ng malalaking pangako, si Dario ay isang makabagong pagkakaiba.

Sobrang tapat siya, kahit na may “pagpapalaya sa pamilya” sa pagbubukas ng mga pabalat ng tech industry.

Ginagawang dahil sa maling public relations ng mga taga-industriya ang pag-aalala ng publiko sa AI, ngunit hindi nagpapahintulot si Dario: ang pag-aalala ay dahil sa totoong panganib, hindi ito katanungan ng public relations.

Kanya ring sinasadyang tinanggap ang katotohanan na pinag-iisipan ng mga malalaking teknolohiya: malamang na magdudulot ang AI ng malubhang, matagal na pagkawala ng trabaho, na magpapakapit sa ekonomiya sa extremong estado ng “super growth at super inequality”.

Ngunit kung susundin natin ang solusyon na ibinigay ng “whistleblower” sa harap ng industriya, makikita natin ang isang nakakatototong structural paradox:

Ang may-akda ng responsibilidad na tagapagpaganap, habang nagtatawag para sa pagkakasundo ng industriya, ay nagpapalaganap nang walang kamalayan sa isang walang katulad na paglipat ng kapangyarihan. Ang mga eksperto ng Silicon Valley ay nagpapalit ng mga batas ng lipunan.

Sa harap ng mabilis na pag-unlad ng AI, nag-alala si Dario at inirerekomenda na agad na regulahin ng gobyerno ang AI tulad ng pagregula sa mga eroplano at gamot.

Halimbawa, magtatatag ng isang mekanismo na katulad ng Federal Aviation Administration (FAA), na nangangailangan ng mga avant-garde na modelo na nakakamit ang kakayahan sa computing na dumadaan sa mandatory na pagsusuri sa kaligtasan ng isang third-party, kung hindi ay hindi pinapayagan na ilunsad.

Ang layunin ay walang alinlangan para sa kaligtasan ng tao.

Ngunit batay sa obhetibong batas ng komersyal na evolusyon, ang industriya ng aviation ay naging mataas na konsern ng oligopolyo dahil sa sobrang mataas na gastos sa pagpapatupad.

Kapag talagang “FAAized” ang industriya ng AI, ang mga mataas na bayarin sa pagpapasya, regular na red team testing, at penetration testing, ay diretso nang magiging isang hindi matatalbog na “pader ng paghinga”.

Ang regulasyon, minsan ay ang palisada ng mga lider. Walang kakayahang magbayad ang mga startup at ang komunidad ng open source.

Ang final result ay: Ang mga malalaking kompanya, dahil sa kanilang “malaking pagmamahal” para sa kaligtasan ng buong sangkatauhan, ay obhetibong gumamit ng pampublikong kapangyarihan upang magkaroon ng legal na paglinis, at isulat ang kanilang posisyon bilang mga oligarka sa batas.

Sa mga larangan ng medisina at geopolitika, mayroon ding ganitong subtil na lohika.

Hiniling ni Dario na palawigin ng FDA at iba pang tradisyonal na ahensya ang pagpapahintulot sa pag-unlad ng gamot gamit ang AI, at tanggapin ang AI simulation bilang pagpapalit sa mahabang klinikal na pagsubok. Magandang intensyon, ngunit tiyak na inalis nito ang mga hadlang para sa mga pangunahing AI na kompanya na may pinakamalakas na computing power upang magkaroon ng mas malaking kalamangan sa trilyon-dollar na industriya ng gamot.

Sambil noon, isinip niya ang isang “Alians ng AI sa mga Demokratikong Bansang” na magbabahagi ng mga chip sa loob, at magpapakatotoo sa labas.

Kung itatatag ang aliansyang ito, sino ang magbibigay ng teknolohiya? Sino ang iiwasan? Sino ang kaaway? Sino ang nakikinabang sa buong proseso?

Upang mapanatili ang teknikal na pagkakaiba, ang mga malalaking teknolohiya ay hindi lamang mga tagapagbigay ng teknolohiya, kundi naging natural na tagapagtatag ng mga bagong patakaran sa larong panahon, at maaaring magiging bagong “digital military-industrial complex” na sumasang-ayon sa malalaking pondo para sa depensa.

Kung susuriin natin ang mga nakaraang tanda, ang lahat ng ito ay may nakapaghihiganti na.

Sa kasaysayan, kapag naging sapat na malaki ang isang kumpanya, karaniwang “nag-aakop ng estado o gumagamit ng mga katangian ng quasi-estado.” Binanggit mismo ni Dario sa artikulo ang isang napakatumpak na paghahambing: ang East India Company ng Britain.

Ang East India Company ay nagsimula bilang isang grupo ng mga negosyante na nagtatrabaho sa kalakalan ng mga spicery, ngunit upang protektahan ang kanilang mga rute at pamahalaan ang kanilang malawak na跨国 na interes, sila ay unti-unting nagsimulang mag-recruit ng mga hukbo, itatag ang mga korte, at maglabas ng pera, at sa huli ay naging “quasi-state” na nagrerehistro sa subkontinente.

Ang mga malalaking kompanya sa Silicon Valley ngayon ay sumusunod sa parehong landas.

Kung sa nakaraan ang mga midyum ay ang mga barko at baril, ngayon ay ang computing power.

Isinagawa ni Dario ang isang nakakagulat na hinaharap: kung patuloy na umuunlad nang eksponensyal ang AI, ito ay magiging "isang bansa ng mga genio sa loob ng data center": ang AI ay tulad ng isang koleksyon ng mga genio sa lahat ng larangan, at ang pagkakaroon ng malakas na AI ay tulad ng pagkakaroon ng maraming genio na naglilingkod sa iyo. Kaya kapag mayroong isang hukbong may malakas na AI na nakikibaka laban sa isang hukbong walang AI, ang pagkakaiba ay tulad ng "mga Marine ng Ikalawang Digmaang Pandaigdig na nakikibaka laban sa mga mandirigma ng Gitnang Panahon."

Kapag ang mga malalaking teknolohiyang kumpanya ang may-ari ng mga super teknolohiya na makakapagdulot ng pagkabagsak ng pampublikong pondo, paggawa ng mga biyolohikal na armas, o kahit pagdedesisyon sa global na geopolitikal na kalagayan, ang mga tradisyonal na pampublikong institusyon ay nagsisimulang mahirapan magbigay ng epektibong kontrol.

Ang mga malalaking kompanya ay nagsikap na magtakda ng sariling mga pamantayan sa kaligtasan, subukan ang sariling mga modelo, at kahit mag-isip ng sariling mga plano para sa internasyonal na aliansa.

Hindi ito dahil sila ay isang grupo ng masamang nagtataglay ng pangarap, kundi dahil sa pag-unlad ng teknolohiya hanggang sa ganitong sukat, ang puwang ng kapangyarihan at ang kumplikadong kalikasan ng tao ang nagpilit sa kanila na tumungo sa katulad na landas.

Sa isang panahon kung saan ang computing power ang lahat, ang lakas ng indibidwal ay tila walang hanggang pinipigil.

Dario ay walang awa na inilahad ang katotohanan: ang AI ay hindi lamang nagpapalit ng pisikal na paggawa, kundi ang sariling kognitibong kakayahan ng tao na kanyang pinagmamalaki.

Paano tayo magiging handa kapag ang ating mga natutuhan sa trabaho—ang pag-iisip nang lohikal at pagpaplano ng mga solusyon—ay tila simpleng laro sa harap ng AI, ang “bansa ng lahat ng mga genio”?

Ang solusyon na ibinigay ng mga malalaking kompanya ay ang mga makroekonomikong suporta tulad ng Universal Basic Income (UBI): kahit hindi ka nagtatrabaho, bibigyan ka ng pera ng gobyerno.

Ngunit natapos ang pinggan, sino ang magpapuno sa malaking butas sa puso?

Maaaring tulad ng metapora ni Dario sa artikulo: Kahit na ang mga makina ay nagsakop na sa chess at go, patuloy pa ring isinusuot ng mga tao ang kanilang buhay sa board, at patuloy pa ring pinaparangalan.

Ang makina ay naglalabas ng malamig na "pinakamabuting solusyon," habang ang tao ay hinahanap ang buhay at masigla na "sariling karanasan."

Ang mga katangian na hindi maaaring istandarisa ay magiging pinakakakulang na yaman sa hinaharap.

Sa isang side quest ng The Lord of the Rings, dalawang Hobbit ang nagsubok na mamulat sa Treebeard—isang may kaalaman ngunit mabagal na sentient na Ent—upang ipagtanggol ang kanyang kagubatan laban sa isang hukbong nagsisira ng kagubatan. Ang problema ay ang iba't ibang bilis ng pagkilos ng Treebeard at ng mga Hobbit. Kailangan niya ng isang buong araw para lamang magbati sa isang ibang puno, kaya't halos imposible na gawin siya at ang kanyang mga kasama na magsagawa ng sapat na mabilis na aksyon.

Ang intersection ng artificial intelligence (AI) at sa ating politikal na sistema ay parang ang mga Hobbit at Treebeard. Ang AI ay umuunlad sa isang lightning pace (slang/idiom na nangangahulugan ng sobrang mabilis na pag-unlad)—sa loob ng apat na taon lamang, ang AI models ay naging mula sa halos hindi kayang sumulat ng isang linya ng code, hanggang sa paggawa ng karamihan sa code sa mga pangunahing AI company. Katulad na pag-unlad ay naganap din sa biyolohiya, pisika, matematika, finansya, batas, pagsasalin, at marami pang iba pang larangan. Ang scaling laws ng AI, na nagsasabi na ang pangkalahatang kognitibong kakayahan ay magkakaroon ng exponential na paglago kasabay ng pagtaas ng computing power, ay mayroon nang higit sa sampung taon ng empirikal na ebidensya. Kung magpapatuloy pa ang mga scaling laws na ito ng isang o dalawang taon pa lamang, malamang ay makakamit natin ang aking tinatawag na “Powerful AI,” o “nation ng mga genio sa loob ng data center.”

Kung ihahambing, ang polisiya—lalo na ang paggawa ng batas—ay umuunlad nang napakalubos. Karaniwan ito ay may sapat na dahilan: ang pamahalaan ay may napakalaking kapangyarihan, at ang paghingga ng ganitong kapangyarihan ay karaniwang pinakamabuting gawin. Ngunit ang pagkakaiba sa panahon ay patuloy na napakalungkot: habang maaaring kailanganin ng kongreso ng ilang taon para gumawa ng aksyon, maaaring maging isang tunay na bansa ng mga genio ang AI mula sa isang interesanteng laruan.

Sa mga nakaraang taon, simula nang maging pangunahing teknolohiya sa negosyo ang AI, naranasan namin ang mga nais magtrabaho nang may pananagutan sa isang di-lehitimong sitwasyon. Malinaw nating nakikita ang direksyon ng eksponensyal na paglago: malakas nating inaasahan na sa loob ng ilang taon, magiging isa sa mga makabagong teknolohiya na magbabago nang pangunahin ang buong landscape ng patakaran, tulad ng mga nuclear weapon na nagbago sa geopolitika at ang Industrial Revolution na nagbago nang pangunahin sa bawat ekonomiko at sosyal na isyu. Gayunpaman, para sa mga tao na nakikita lamang kung ano ang kayang gawin ng AI sa kasalukuyan, tila ito ay isang karaniwang teknolohiya—mga katulad ng pinakabagong consumer app o cryptocurrency. Mahirap hikayatin ang karamihan sa mga tagapagpasya at kumpanya na mayroong iba pang makabuluhang aksyon kundi ang laissez-faire. Patotoo naman, totoo na ang malalim na epekto ng AI ay hindi pa nabubuksan, at hindi natin tiyak kung ano ang anyo nito, kaya mahirap magdisenyo ng tamang patakaran kahit may pagkakataon na gawin ito.

Sa ilalim ng mga limitasyon na ito, maraming tagapagtanggol ng kaligtasan (kabilang ang Anthropic) ay nakatuon sa pagpapalakas ng mga patakaran na magpapanatili ng mga opsyon, maghahanda para sa mabilis na tugon sa hinaharap (tee up, slang/idiom na nangangahulugan ng paghahanda o pagbuo ng pundasyon), o magbibigay ng mas malinaw na pag-unawa sa mga bagay na darating (coming down the pike, slang/idiom na nangangahulugan ng mga bagay na darating o lalabas)—tulad ng mga batas tungkol sa transparensya, mga kontrol sa eksport ng chip, at pagkolekta ng datos tungkol sa epekto ng AI sa puwersa ng paggawa. Hindi sapat ang mga ito, ngunit parang ito ang pinakamainam na maaaring gawin ngayon.

Gayunpaman, sa mga nakaraang ilang buwan, ang ebidensya tungkol sa nakakagulat na kapangyarihan ng AI at ang mga panganib nito ay naging hindi maiiwasan. Maaaring ang pinakamakapagpapakita ay ang Claude Mythos Preview, at ang pagkakatuklas na ang mga frontier model ay nagdudulot ng napakatotoong panganib sa cybersecurity, na lumilikha ng posibilidad ng pagkabigo sa sektor ng finansyal, mga kritikal na imprastruktura, at pambansang kaligtasan. Ang Mythos Preview ay nag-iskramble sa pandaigdigang landscape ng cybersecurity. Ngunit ang mas malawak na kahulugan nito ay ang patunay nito na ang mga AI model ay naging mga kasangkapan na may pandaigdigang at pambansang kahalagahan. Ang mga cybersecurity risk na dala ng mga model sa antas ng Mythos ay hindi magiging huling panganib na kailangan nating harapin. Naniniwala ako na maaaring susundan agad ng biolohikal na panganib, at maaaring sumunod agad ang malubhang panganib sa AI autonomy.

Kasalukuyan naming kailangan sa buong mundo na magmula sa isang mabagal at mahinang pampulitikang institusyon upang tugunan ang mga panganib at pagkakataon na magkakaroon ng nakakagulat na bilis ng pagdami mula ngayon. Marami sa mga tagapagpasya ay nagpapakita ng mas bukas na pagtanggap upang gumawa ng aksyon, at nakakainspira ang pagkakita na ang aming mga kapwa ay lumilipat din sa parehong pananaw na aming ipinaglaban sa loob ng mga nakaraang taon (idiom, ibig sabihin ay magbago ng pananaw upang sumang-ayon). Ito ay mabuti, ngunit naiisip ko na ang mga maagang aksyong ito ay kahit isang taon pa ang kalayuan kumpara sa mabilis na pag-unlad ng AI. Sinusubukan ng artikulong ito na mabawasan ang pagkakaiba ito: ipaliwanag kung saan kasalukuyang nasa exponential growth, at ang kolektibong aksyon na kailangan upang tugon sa kasalukuyang mahalagang panahon (idiom, ibig sabihin ay tugon sa kasalukuyang mahalagang hamon).

IwillfocusonfivepersistentpolicyareasrequiringreimaginationintheAIworld:regulationandpublicsafety,macroeconomicandtaxpolicy,scientificinnovation,thebalanceofpowerbetweenstateandsociety,andgeopolitics.IwillprimarilyaddressthemfromaU.S.policyperspective,becauseAnthropicis aU.S.company,butmostoftherecommendationsIproposedarealsoapplicabletootherpartsoftheworld.

Kasama ang artikulong ito, ipapahayag ng Anthropic ang isang proposta ng batas tungkol sa pagsubok sa mga advanced na modelo, at isang patakaran na framework tungkol sa pagkawala ng mga trabaho, at plano naming bigyan ng malaking pondo ang mga ito. Plano naming gawin ang higit pa sa hinaharap, ngunit isasabuhay natin ang mga ito bilang mga unang hakbang na nagpapakita ng aming seryosong pagkakasya.

1. Regulasyon at Publikong Kaligtasan

Ang bawat bagong teknolohiya o produkto ay may sariling makabuluhang at nakakasamang paggamit, kaya nagdudulot ito ng isang dilemma sa pagitan ng inobasyon at kaligtasan. Ang pagregula sa mga produkto ay nagbabawas sa posibilidad na ito'y magdulot ng pinsala at naglalaro ng mahalagang papel sa pagpapabuti ng buhay ng mga tao sa buong mundo, ngunit maaari rin itong direktang mapabawasan ang mga benepisyo nito at indirektang pigilan ang inobasyon. Mayroon ding isang pananaw na Hayekian na nagsasabing ang mga regulador ay karaniwang kulang sa impormasyon na kailangan upang gawin ang tamang desisyon tungkol sa mga kumplikadong ekonomikong pagpapasya, kaya ang regulasyon ay karaniwang hindi epektibo at malala. Isang kaugnay na konsepto ay ang Collingridge dilemma, na nagsasabing ang epekto ng isang teknolohiya ay karaniwang mahirap ipaunawa hanggang sa sobrang huli na mahirap na kontrolin ang mga ito.

Noong 2023-2024, ang mga ito ay naging lalong nakakatangi sa larangan ng AI (idiom, nangangahulugang maging nakakatangi, magdulot ng pansin, o maging takot). Para sa Anthropic, malinaw na ang AI ay maaaring magkaroon ng kakayahang gumawa ng biolohikal na sandata na makapagbanta sa milyon-milyon tao sa hinaharap, o ang hindi tamang pagkilos nito sa ekstremong sitwasyon ay maaaring magbanta sa tao mismo. Hindi gaanong malinaw kung paano eksaktong magkakaroon ng panganib, kung paano pinakamabuting susubukan at mapapabawasan ang mga ito, at kung paano ito magiging epekto sa praktika (idiom, nangangahulugang umunlad o magdulot ng resulta). Kaya, ang paggawa ng batas nang maaga ay may mataas na panganib na maging walang kwenta—naglalikha ng mga kahilingan sa pagpapatupad na walang kwenta o mababang halaga, samantalang nababawasan ang pinakamahalagang pinagmulan ng tunay na panganib (tala 2).

Sa huli, natuklasan namin na ang tamang paraan noong panahong iyon ay ang transparensya. Dapat magpahayag ang mga developer ng AI model ng kanilang mga proseso ng seguridad at mga pagsubok na isinagawa sa kanilang mga model, at ipaalam ang anumang mahalagang pangyayari sa seguridad upang mas mabuting maunawaan ng publiko at ang agham na komunidad ang mga panganib kapag ito ay lumabas. Kapag ang mga panganib ay naging mas malinaw at mas tiyak ang kanilang anyo, maaaring gamitin ang ebidensya mula sa transparensya upang likhain ang matalinong batas na maglalayong direktang harapin ang mga pinakamalaking panganib. Kaya, noong 2025, sinuportahan ni Anthropic ang batas tungkol sa transparensya, tumulong sa pagpasa ng SB 53 sa California, RAISE sa New York, at SB 315 sa Illinois (na ipinasa noong unang bahagi ng 2026), at ipinaglaban ang paglikha ng mga pamantayan sa transparensya sa antas ng pambansang pamahalaan.

Gayunpaman, ang panganib ay naging malinaw na dumating. Nasa oras na tayong lumampas sa transparensya at magpatupad ng mas seryoso at may kakayahang magbigay-saklaw na regulasyon sa AI. Naniniwala ako, sa kasalukuyang yugto ng eksponensyal na paglago, ang pinakamainam na paghahambing ay ang mga kotse, eroplano, o gamot—ang mga ito ay makapangyarihang teknolohiya na kritikal sa modernong ekonomiya, ngunit kung hindi tama ang disenyo o paggamit, may kakayahang magdulot ng malaking bilang ng kamatayan. Kaya naniniwala ako na dapat nating gawing modelo ang mga ahensya tulad ng Federal Aviation Administration (FAA) sa pagbuo ng framework para sa regulasyon ng AI. Ang mga modelong AI sa harap ng pag-unlad ay katulad ng mga eroplano, at dapat silang hilingin na sumailalim sa teknikal na pagsubok at pagsusuri, at kung hindi sila sumusunod sa mataas na pamantayan sa kaligtasan, dapat silang i-block o tarhain bilang banta sa pampublikong kaligtasan. Naaalala ko ang pagkilos ng administrasyon ni Trump na naglalakad patungo sa pagbibigay ng mas malaking papel sa gobyerno sa larangan ng AI, bagaman ang propong ni Anthropic ay nagmumungkahi ng mas malalim na hakbang. Ang aming propona ay naglalaman ng mga sumusunod na elemento:

• Kailangan ng mga modelo na lumampas sa isang tiyak na threshold ng computing power na sumailalim sa isang pagsusuri na ipinapag-utos ng isang kwalipikadong third party upang masukat ang kanilang antas ng panganib sa apat na partikular na larangan: cybersecurity, biolohikal na armas, pagkawala ng kontrol sa AI systems, at posibleng pagpapabilis ng mga automated R&D na nagdudulot ng iba pang mga panganib.
• Kung ang isang modelo ay itinuturing na may hindi tatanggapin na panganib batay sa pagtataya ng isang ikatlong panig, dapat may karapatan ang gobyerno na pigilan o i-deter ang pag-deploy ng modelo. Dapat limitado ang kapangyarihang ito sa apat na tiyak na panganib na nabanggit, at dapat may mga pagsasalba laban sa politikal na pagpapala o arbitrario na desisyon.
• Ang pagtataya ng ikatlong panig ay maaaring gawin ng isang ahensya ng pamahalaan (tulad ng FAA) o isang grupo ng mga pribadong organisasyon na may awtorisasyon at inspeksyon mula sa pamahalaan upang mataya ang modelo batay sa ilang mga pamantayan (isang “regulatory market” na paraan).
• Ang mga kumpanya ng AI na nagpapaunlad ng mga advanced na AI model ay dapat magkaroon ng malakas na mga pamantayan sa seguridad para protektahan ang kanilang model weights, dapat isagawa ang regular na red teaming at penetration testing, at dapat magtrabaho sa gobyerno upang labanan ang mga pangunahing threat actor.
• Dapat agad na i-report ang mga pangyayari sa kaligtasan sa apat na mahahalagang larangan.

Maaaring mangyari ang isang araw, siguro ay mabilis, kung kailan ang pinakamalakas na mga sistema ng AI ay hindi na magkakatulad ng eroplano o kotse, kundi mas katulad ng nuclear material na maaaring gamitin bilang sandata—ito ay isang banta sa sangkatauhan, at hindi lamang “kung ano man” ang banta sa pampublikong kaligtasan, kung kaya’t kailangan nating lumampas sa hakbang na ito. Kung mangyayari ito, maaaring kailanganin nating gamitin ang mas radikal na mga patakaran sa regulasyon kaysa sa mga ito na inilista ko sa itaas (tala 3). Gayunpaman, tulad ng mahirap i-target at i-apply ang mga patakaran na aking inirerekomenda noong 2024, naniniwala ako na hindi tayo dapat magmaliit (idiom, ibig sabihin ay mag-act nang sobra o masyadong maaga). Dapat nating disenyo ang mga patakaran para sa mga panganib na lumalabas ngayon, habang pinapalakas ang pundasyon upang mabilis na mapalakas ang aming tugon kapag lumalabas ang mga bagong panganib.

2. Makroekonomiko at Patakaran sa Buwis

Mahigit sa isang panahon, ang mga gobyerno sa buong mundo ay nakaharap sa hamon kung paano susuportahan ang paglago ng ekonomiya, habang ibinibigay ang mahahalagang serbisyo publiko at pinagsisiguro na ang mga pinakamahihirap ay aalagaan. Isang mahalagang (at pangkabuuang tama) na pagsisimula sa mga debate na ito ay ang paglago ng ekonomiya ay mahina at mahirap maabot—habang ang pagbabawas sa hindi pagkakapantay-pantay ay maaaring magdala ng mahahalagang benepisyo, kailangan itong iimbang sa mga ekonomikong balakid na dulot ng pagpapataas ng buwis o deficit.

Naniniwala akong ang makapangyarihang AI ay maaaring magkagulo sa ipinapalagay na ito. Kung ang AI ay makakakuha ng mas mahusay na kakayahan kaysa sa tao sa paggawa ng karamihan sa mga kognitibong gawain, lohikal na ito ay maaaring magdulot ng napakabilis at malakas na paglago ng ekonomiya sa pamamagitan ng pagpapabilis ng agham, teknolohiya, at pagpapabisa ng operasyon. Ang kakayahan ng AI na bumuo ng mas magandang AI ay maaari ring dagdagan pa ang paglago na ito. Ngunit dahil sa parehong dahilan, ang AI ay maaari ring maging isang mas pangkalahatang ekonomikong palitan sa kakayahan ng tao kaysa sa mga nakaraang teknolohiya, at mabilis ring baguhin ang ekonomiya kaysa sa mga nakaraang teknolohiya. Kaya, may basehan ang paniniwala na ang AI ay maaaring magdulot ng mas malaking pagbabago sa trabaho kaysa sa mga nakaraang teknolohiya, at posibleng mas matagal na pagbabago. Ang panganib na ating haharapin ay ang pagtatapos sa isang mundo kung saan ang mga talaan ng ekonomikong pagpapasya ay nakaputol sa setting ng super paglago at super hindi pagkakapantay-pantay, at posibleng mahirap ilabas mula sa setting na ito. Sa isang mundo na ganito, ang pangunahing hamon ay hindi na ang pagpapalakas ng paglago, kundi ang paghahanap ng paraan kung paano maipapamahagi ang mga benepisyo sa lahat.

Sa mga paksa na pinag-uusapan sa artikulong ito, ang makroekonomiya at patuloy na pagpapalit ng puwersa ng paggawa ay maaaring ang mga paksa na nakakakuha ng pinakamaraming atensyon ng publiko at pinakamaraming maling pag-unawa, kaya nais kong maging lubos na malinaw sa dalawang puntos.

Una, ang patuloy na pagkawala ng mga trabaho ay hindi desiderable at maaaring maging mapanganib, at dapat nating gawin ang lahat ng makakaya upang mabawasan o pigilan ito, hindi paunlarin ito. Binaril ko ang isyu ng pagkawala ng mga trabaho sa mga interbyu at artikulo, dahil gustong-gusto kong bigyan ng pinakamabuting pagkakataon ang mga tagapagpasya at ang pribadong sektor upang makapag-adjust at makapag-respond, hindi dahil gustong-gusto kong maging isang “prohetang apokaliptiko.” Bilang isang kumpanya, laging ginagawa ng Anthropic ang lahat ng makakaya upang makipagtulungan sa mga kliyente upang hanapin ang mga malikhaing bagong aplikasyon at bagong pinagkukunan ng kita na magpapahintulot sa kanila na gawin ang higit pa gamit ang kanilang umiiral na puwersa ng paggawa, hindi lamang tumutok sa pagtitipid sa gastos (na karaniwang nangangahulugan ng pagpapalaya). Habang lumalago ang mga sistema na ito, patuloy naming sinusubukan na isipin ang mga bagong paraan ng interaksyon kung saan ang mga tao na nakikilahok sa pagkakasundo ay maaaring maglalaro ng mas aktibong papel sa loob ng mga sistema ng AI. Sa mas malawak na saklaw, mahalaga na subukan ng buong mundo ang AI sa maraming bagong paraan, dahil ito ang paraan kung saan makikita ng lipunan ang mga bagong potensyal na konfigurasyon ng trabaho. Naniniwala ako na magdadala ang AI ng malaking dami ng mga bagong ekonomikong pagkakataon. Noong una kong inaasahan na magiging posible para sa isang tao na lumikha ng isang kumpanya na may halagang bilyon dolyar, at nakikita natin na ang ilang mga koponan na may kaunting tao lamang ay nakabuo na ng mga negosyo na may kita sa milyon-milyon dolyar. Gayunpaman, dapat nating kilalanin na habang gumagawa tayo ng lahat ng makakaya, malamang pa ring magdulot ang AI sa malubhang patuloy na kawalan ng trabaho—maaaring ito ay isang likas na katangian ng teknolohiya at ng kanyang malawakang pagkopya sa paraan ng pag-iisip ng tao (tala 4).

Sa pangalawa, anumang tugon sa pagkawala ng mga trabaho na dinudulot ng AI ay kailangang tugunan ang pangangailangan para sa ekonomikong seguridad para sa bawat isa, at ang pangangailangan ng mga tao na hanapin ang kahulugan, layunin, at pagkakaroon ng awtonomiya. Mas mahalaga sa huli ang huli, na nakadepende sa mga malalim na tanong tungkol sa kung paano dapat i-organisa ang lipunan, ano ang dapat ipaglaban ng mga tao, at ano ang nagpapakita ng isang magandang buhay. Sa katotohanan, sobrang optimista akong naniniwala na kahit sa isang mundo kung saan ang AI ay mas mahusay kaysa sa lahat ng tao sa lahat ng aspeto, patuloy pa ring makakapag-iiwanan ng may layuning buhay ang mga tao at magtatrabaho upang lumikha ng mga nakakagigilat at magagandang bagay (tala 5). Ngunit ito ay isang problema na kailangang lutasin ng buong lipunan, hindi lamang isang isyu na maaaring lutasin ng patakaran. Ang pinakamalaking papel ng patakaran ay ang pagpapabagal sa bilis ng pagkawala ng trabaho at pagbibigay ng ekonomikong seguridad sa mga posibleng apektado, upang makamit natin ang oras upang gawin ang gawaing ito.

Sa espíritu na ito, ilang mahahalagang pagsisikap sa patakaran na maaaring makatulong ay kasama ang:

• Sukatin at tukuyin. Madali lang na iwasan ang paglalagay ng simpleng pagkolekta at pagsusuri ng datos bilang hindi sapat para sa laki ng problema, ngunit kung hindi natin masukat nang tama ang tunay na nangyayari, mas maliit ang posibilidad na makabuo tayo ng mabuting patakaran. Nagpapatakbo na ang Anthropic ng ekonomikong indeks tungkol sa paano ginagamit ng mga tao ang Claude nang halos isang taon at kalahati, ngunit maaaring makakuha ang pamahalaan ng mga uri ng data na hindi namin makukuha, at maaari nilang palawakin nang malaki ang kanilang ekonomikong estadistika upang mas maingat na tukuyin ang pagkawala ng trabaho dulot ng AI.
• Mga insentibo para sa pagpapalakas ng pagkakaroon ng trabaho. Ang malawakang mga patakaran at insentibo para sa pagpapalakas ng pagkakaroon ng trabaho ay makakatulong na pigilan o bawasan ang pagkawala ng mga trabaho, kabilang ang mga polisiya ng insurance sa sahod (tala 6) na magbibigay ng kompensasyon sa mga tao na kailangang magtrabaho sa mga mababang sahod, mga tax incentive na nagpapalakas sa mga employer na huwag magpapabaya, mga grant para sa pagsasanay ng puwersa ng paggawa, o mga imprastruktura na nagpapabilis sa pagpapares ng employer at empleyado upang mas mabilis na makabawi ang labor market. Bagaman ang detalye kung aling intervention ang pinakamainam ay magiging nakadepende sa uri ng pagpapalitan ng puwersa ng paggawa na dala ng AI, dapat nating tanggapin nang bukas ang gastos at kakulangan sa efisiyensiya ng merkado na dulot ng mga patakaran na ito, lalo na dahil maaaring mapalitan ito ng pagtaas ng produktibidad na dala ng AI.
• Mahabang panahon na makroekonomikong suporta. Kung ang pagpapalit ng puwersa ng paggawa na dinudulot ng AI ay magiging napakalaki sa huli at magpapababa nang permanente sa pangangailangan para sa puwersa ng paggawa, maaaring kailanganin na lumampas sa mga programa ng insentibo lamang at magbigay ng mahabang panahon na suporta sa kita sa malaking bahagi ng puwersa ng paggawa. Maaaring mapagkunan ng pondo ang mga mekanismo tulad ng Universal Basic Income sa pamamagitan ng pagtatasa sa mga kaugnay na kumpanya o pagpapataas ng buwis sa kapital na kita. Ang Universal Capital Account ay nag-aalok ng isa pang kasangkapan. Sa mas malawak na kahulugan, ang mabilis na paglago ng ekonomiya ay dapat na maglikha ng basehan ng buwis para sa karaniwang kaunlaran.

Sa mga pag-aalala tungkol sa ekonomiya ng AI, ang isang karaniwang pagtutok na hindi ko binanggit ay ang mga data center, lalo na ang kanilang kakayahan na pataasin ang mga presyo ng enerhiya. Ang aking pananaw ay dapat magbayad ang mga kumpanya ng AI para sa pagtaas ng mga rate—at nakapagpahayag na ang Anthropic na gawin ito—ngunit naniniwala ako na ang pagkakaaway ng publiko sa mga data center ay karamihan ay isang simbolo o paraan ng paglabas sa mas malawak na pag-aalala sa ekonomiya ng AI. Mahalaga na magkaroon tayo ng direkta at sosyal na talakayan tungkol sa mas malawak na mga isyu sa ekonomiya, at magbigay ng kumbinsiyenteng solusyon para sa kanila, kung hindi man, malamang na ipapakita nila ang kanilang sarili nang indirekta tulad ng nangyari sa isyu ng mga data center.

3. Pagpapabilis sa positibong epekto ng AI

Tulad ng kailangan nating ipaglaban ang balanseng pag-unlad ng pagkakabuo at kaligtasan ng AI mismo, kailangan natin ring ipaglaban ang parehong balanseng pag-unlad sa mga teknolohiya na maaaring mapabilis ng AI (tulad ng biomedisina, enerhiya, o agham ng materyales). Ngunit habang maaaring dala ng AI mismo ang mga bagong hamon na lalong mabilis na lumalabas at kung saan wala tayong karanasan sa pagharap, maaaring makaharap ang iba pang mga larangan na pinabilis ng AI sa isang magkakaibang problema: ang mga sistema ng regulasyon na disenyo para sa mas mabagal na pag-unlad ay hindi handa para harapin ang baha ng mga bagong produkto at pag-unlad na dudulot ng AI. Maaari ring gawing mas ligtas at mas maipagpalagay ang mga teknolohiyang ito sa ilalim ng AI, na magpapabagot sa mga nag-iisip na ipinapanatili ng mga ahensya tulad ng FDA.

Kaya, para sa mga downstream application ng AI—na kabaligtaran ng AI mismo—mas naiisip ko ang pagpapabagal ng mga regulahador (dahil hindi sila kayang harapin ang mabilis na pagbabago) kaysa sa pag-aalala na hindi ito lutasin ang mga mahahalagang panganib. Ang pinakamaliit nating naisin ay ang pagpapabagal ng mga benepisyo ng AI habang lumalalim ang mga panganib nito, kaya mahalaga na agad nating gawin ang aksyon sa isyu na ito.

Ang tanong at solusyon nito ay magkakaroon ng iba’t ibang anyo sa iba’t ibang larangan ng agham, negosyo at teknolohiya, kaya’t tatahakin ko ang isang makabuluhang larangan: ang biomedikal na inobasyon. Ito ay dahil sa posibilidad na ito ang magiging pinakamalaking tulong sa pagpapabuti ng buhay dulot ng AI, at dahil ito ay isang larangan na may napakakomplikadong regulasyon. Hindi natin tiyak kung paano gagawin ng AI ang pagpapabilis sa biomedikal na inobasyon, ngunit tila ito ay magiging posible:

• Lalong mapapabilis ang pagpapasok ng mga kandidatong bagong gamot sa proseso ng regulasyon;
• Dagdagan ang epekto ng bagong gamot at mapabuti ang kanyang kaligtasan dahil sa mas mahusay na pag-optimize, at posibleng mas maunawaan ang mga potensyal na biyolohikal na katangian nito;
• Nabuo ang isang kandidatong gamot para sa mga sakit na dating hindi na-successfully na-tratado;
• Mabilis na lumikha ng mga bagong anyo ng terapiya, tulad ng mga antibody, peptide, at cell therapy na naging mga bagong kategorya ng paggamot sa nakalipas na mga dekada.

Ang ilan sa mga pag-unlad ay magiging natural na magpapabilis sa takdang panahon ng regulasyon nang walang pangangailangan para sa mga struktural na pagbabago. Ang mga gamot na may mas malaking epekto ay maaaring magdulot ng mas maliit at mas mura na mga klinikal na pagsubok, at mag-activate ng mekanismo ng pagsisigla sa pag-apruba. Ngunit ang kasalukuyang sistema ng regulasyon ay disenyo upang magbigay ng mataas na antas ng pagsusuri at maraming yugto ng pagsubok, batay sa palagay na ang mga kandidatong gamot ay karaniwang hindi epektibo, at kahit na epektibo ay karaniwang may mga seriyosong isyu sa kaligtasan. Anuman ang FDA o ang European Medicines Agency (EMA), ang karaniwang panahon para sa isang kandidatong gamot na makapasa sa regulasyong proseso ay 7-8 taon, bahagyang dahil sa mga pesimistiko na palagay na ito. Kung hindi gagawin ang mga reporma, ang AI ay magiging simpleng magdudulot ng pagkabigat o pag-overload sa sistema.

Malinaw na hindi namin gustong baguhin ang mga bagay sa paraan na magdudulot ng isang serye ng snake-oil (slang para sa mga nakakapagpapalito o pekeng gamot) o malawakang insidente sa kalusugan. Ngunit ang ilang relatibong simpleng reporma ay maaaring gawing mas angkop ang FDA, EMA at mga katulad na ahensya sa mabilis na pagpapabilis ng agham na dinudulot ng AI (kung mangyari ito).

Maraming mga hakbang sa klinikal na proseso na dati ay nangangailangan ng mahal at mabagal na eksperimento ay maaari nang matapos nang mabilis sa pamamagitan ng AI simulation o pagsusuri. Dapat ngayon ng mga regulahong ahensya na isipin ang pagbuo ng mga pamantayan kung ano ang kailangan upang tanggapin ang mga paraan na ito. Ibig sabihin nito ay agad silang maaaring ma-adopt kapag nagsisiguro na epektibo sila, sa halip na magdaraan sa isang hindi kinakailangang panahon kung saan patuloy na hinihingi ang karagdagang pagsubok. Maaaring maglalapat ito sa mga sumusunod na larangan:

• AI-based pharmacodynamics and pharmacokinetics (PD/PK) modeling;
• Toxicology predictions to avoid the need for multi-species animal toxicology studies;
• Mas tumpak na pagpili ng dosis upang mabawasan ang pangangailangan para sa malawak na saklaw ng dosis sa pagsusuri;
• Pagpapatotoo ng mga biomarker sa pamamagitan ng pagsusuri ng malalaking dataset;
• Synthetic control group sa clinical trials upang mabawasan ang pangangailangan ng pag-recruit ng karagdagang mga participant;
• Pagbuo ng alternatibong endpoint (na mahalaga lalo na sa pagtanda at mga neurodegenerative na sakit).

Bukod sa mga partikular na halimbawa na ito, dapat din ng mga institusyon na isaalang-alang ang mas makapangyarihan at fleksibleng mekanismo para sa mabilis na pagpapahintulot. Kung tama ang aking paghula tungkol sa AI, mabilis na magkakaroon ng maraming mga interbensyon na biglaang lumabas (idiom, ibig sabihin ay nangyayari nang hindi inaasahan o biglaan) at may napakagandang epekto, at dapat handa ang sistema ng regulasyon na seryosamente isabuhay ang mga ito, hindi naman na may sobrang pagdududa.

Ang pagpapabilis ng biomedisina ay dapat na makapagdulot ng malaking pagdami sa mga benepisyo ng AI, ngunit mahalagang tandaan na maaari itong makatulong din sa pagbawas ng mga panganib ng AI. Ang pagpapabago sa pagpapahintulot sa biomedisina ay maaaring makatulong sa biyolohikal na depensa, at ang mga pag-unlad sa biomedisina na dinadala ng AI ay maaari ring mapabuti ang kalusugan ng isip, na maaaring magkaroon ng epekto sa pagpapanatili ng kapanatagan sa lipunan.

4. Kalayaan ng mga bansa at mamamayan

Kailangan ng bawat sistema ng pamahalaan na harapin ang tanong tungkol sa kapangyarihan ng estado at ang mga limitasyon nito. May legal na, madalas na buhay o kamatayan na interes ang estado sa pagprotekta sa kanyang populasyon laban sa mga banta mula sa loob at labas. Ngunit ang pagbibigay ng sobrang kapangyarihan ay daan patungo sa tiranya. Ang mga modernong demokrasya ay nakamit ang malaking tagumpay sa pagpapanatili ng balanseng ito, ngunit kahit sa pinakamabuting panahon, ang balanseng ito ay nakakalito. Ang pagpapanatili ng balanseng ito ay nangangailangan ng maraming mekanismo sa batas at konstitusyon na itinatag sa loob ng mga siglo—halimbawa, sa Estados Unidos ay ang Unang, Ikaapat, at Ikalimang Aymendamento, ang Posse Comitatus Act, ang FISA, atbp.

Ang AI ay umangat na magpapabagsak sa balanseng ito, samantalang pinapataas nito nang malaki ang antas ng panganib. Ngunit kung tayo ay mabilis na magreact at harapin ang hamon, maaari nating gamitin ang AI upang lumikha ng isang mundo na may mas malakas at mas matatag na pagtatanggol sa kalayaan at mas mabuting pagprotekta sa mga banta kaysa sa anumang panahon na nakaraan.

Ang makapangyarihang AI na nasa kamay ng masasamang tao ay maaaring maging huling kasangkapan ng diktadurya, at ang aming mga umiiral na batas at konstitusyonal na pagprotekta ay hindi pa lubos na handa laban sa banta na ito. Sa pangunahing punto, ang malaking kapakinabangan na dinala ng kaalaman sa kapangyarihan sa mundo, kasama ang mabilis na pag-unlad sa pagpapaunlad ng AI, ay naglikha ng isang perpektong bagyo (perfect storm, idiom na nangangahulugan ng maraming masamang pangyayari na nagkakasama upang lumikha ng napakasamang sitwasyon) para sa iba’t ibang mapanganib na aktor na maaaring walang inaasahang makakuha ng kapangyarihan.

Ang panganib na ito ay maaaring magkaroon ng iba’t ibang espesipikong anyo sa teknolohiya o operasyon, ngunit ang kanilang karaniwang punto ay ang pagkakaroon ng malaking kapangyarihan ng AI nang biglaan, habang tinatapos ang (routing around, slang/figurative, ibig sabihin ay iwasan ang mga hadlang o mekanismo ng demokratikong pagmamalay) mga umiiral na mekanismo ng demokratikong pagmamalay. Ang isang buong awtomatikong hukbong drone na tila isang science fiction ngayon ay maaaring sumunod sa ilegal na utos sa hinaharap at payagan ang gobyerno na i-consolidate ang kanilang kapangyarihan nang iisa; mas malamang na labanan ng mga tao na propesyonal na pinagsanay ang mga ilegal na utos na ito. Ang isang AI na nakatuon sa pagmamasid ay maaaring malawakang analisahin ang mga available na impormasyon at gamitin ito upang masuri ang pinakamalalim na detalye sa buhay ng bawat mamamayan—isang teknolohikal na kakayahan na hindi isinasaalang-alang ng kasalukuyang batas sa sibil na kalayaan. Lahat ng ito ay maaaring mangyari sa napakaliit na panahon o lihim, kaya mahalaga ang aktibong pagpapalakas ng komitment ng mga demokratikong bansa sa kalayaan at sibil na kalayaan.

Ito ay ilang mga ideya sa patakaran na dapat nating isaalang-alang:

• Lumikha ng mga patakaran sa pagkakasalang na maaasahan para sa mga armas na may ganap na awtomatikong pagpapatakbo. Dapat hilingin na ang mga armas na may ganap na awtomatikong pagpapatakbo, lalo na ang anumang autonomous system na nagco-coordinate o nagpapahalaga sa kanila, ay sumagot sa mga patakaran at mekanismo ng pagkakasalang ayon sa konstitusyon (tulad ng mga utos ng korte, batas, at pagkakasalang sa mga mataas na tao na nagmamonitor), at hindi lamang sumunod nang walang pag-iisip sa mga utos. Maaaring ibig sabihin nito na may kontrol ang isang maayos na naitatag na grupo ng pagsusuri sa batas o ang hukuman sa isang “pagsasara ng switch,” o ang sistema mismo ay itinuturo upang hanapin at sumagot sa mga legal na awtoridad sa loob ng kanilang pagsasanay, o pareho.
• Bawal ang paggamit ng awtomatikong armas sa loob ng bansa. Kahit na may legal na batayan ang paggamit ng buong awtomatikong armas para sa pagtatanggol laban sa mga dayuhang kalaban (tulad ng pagsalakay ng Russia sa Ukraine), walang anumang batayan para gamitin ang mga ito sa mga Amerikano. Ang kakayahan ng militar sa mga operasyon sa loob ng bansa ay nasa ilalim na ng ilang pagkakabawas, ngunit sa ideal na sitwasyon, dapat ring bawalan ang paggamit ng mga armas na ito sa pagpapatupad ng batas.
• Iwasan ang pagpapalawak ng pagkolekta ng data/at ng mga broker ng data. Ayon sa kasalukuyang batas, ang data na ibinabahagi ng mga Amerikano sa mga pribadong kumpanya (tulad ng mga provider ng internet) ay maaaring bilhin at gamitin para sa masalimuot na pagsusuri at pagpapatupad ng batas sa loob ng bansa. Ang pagkakaroon ng isang kaluwagan sa pagprotekta sa privacy (loophole, o kung saan ang isang kahinaan sa batas ay ginagamit) ay umiiral bago ang AI, ngunit ang AI ay magpapalaki ng antas ng panganib sa pamamagitan ng paggawa ng malaking pagsusuri ng ganitong uri ng data na mas magkakaroon ng kahulugan at praktikal kaysa dati. Dapat i-secure ang kaluwagang ito.
• Ang pagkakaroon ng publikong karapatan na makakuha ng AI na payo habang nakikibaka sa mga negatibong aksyon ng gobyerno. Bilang isang pangkalahatang prinsipyo, mahalaga na ang anumang indibidwal o organisasyon na naging layunin ng negatibong aksyon ng gobyerno (tulad ng regulasyon o legal na aksyon) ay may pagkakataon na makakuha ng isang AI na kasing lakas o mas malakas kaysa sa AI na pinapayagan ng gobyerno para sa partikular na aksyon. Ito ay magiging paraan upang maiwasan ang hindi patas na kalamangan ng gobyerno na maaaring magdulot ng pagkawala ng legal na karapatan ng mga mamamayan. Maaari itong idagdag o i-interpret bilang isang pagpapalawig ng Administrative Procedure Act, mga proteksyon sa due process, o karapatan sa pagkakaroon ng legal na representasyon ayon sa Sixth Amendment.

Huling hindi bababa sa pagpapansin, sa pagkakamit ng kapangyarihan sa pamamagitan ng AI, ang gobyerno ay hindi ang tanging entidad na dapat nating iwasan. Sa iba’t ibang panahon sa kasaysayan (tulad ng Gilded Age sa Amerika o ang East India Company sa Britain), ang mga kumpanya ay naging sapat na makapangyarihan upang makuha ang kontrol sa bansa o magkaroon ng mga katangian na katulad ng isang estado. Mabilis na magiging sapat na makapangyarihan ang AI upang maging nag-aalala ako na hindi ito maaaring ligtas na ipagkatiwala nang buo sa gobyerno o kumpanya, at kailangan ng mga mekanismo ng pagpapalit ng kapangyarihan para sa bawat isa.

Ang regulasyon ay isang sagot sa kung paano mapipigilan ang mga kumpanya (idiom na nangangahulugan ng pagkontrol o pagpapigil), ngunit mahalaga rin na ang mga kumpanya ng AI ay dapat magkaroon ng higit pang pagkakahati ng kapangyarihan at pagkakasangkot kaysa sa karaniwang pribadong entidad. Ang Long-Term Benefit Trust ng Anthropic (isang independiyenteng pamamahala na naglalayong siguraduhin na sundin ng kumpanya ang misyon nito) ay isang halimbawa ng ganitong istruktura, at dapat patuloy na suriin ng industriya ang mga mekanismo na mas malalim. Mahalaga ang pagkamit ng tamang balanse—upang ang kapangyarihan ng kumpanya at gobyerno ay may makabuluhang pagpapigil.

5. Siguraduhin ang pagiging lider ng mga demokratikong bansa

Ang pagtingin sa mga bagong teknolohiya bilang kasangkapan sa patakaran sa kalakalan sa ilalim ng layuning “ipalaganap ang ating teknikal na stack sa buong mundo” ay naging karaniwang pag-iisip, maaaring nagmula sa karanasan sa nakaraang industriya ng internet at telekomunikasyon. Ngunit nananatili akong matatag na naniniwala na ang AI ay isang mas malalim bagay, na nagpapabago sa buong laruan, at ang lahat ng mga estratehiya sa geopolitika sa hinaharap ay dapat magmula dito—tulad ng mga nuclear weapon, ngunit potensyal na mas malaking epekto.

Kung talagang magiging “bansang genio sa data center” ang AI sa malapit na hinaharap, o anumang katulad nito, malamang na magiging pangunahang pinagkukunan ng militar at ekonomikong kapangyarihan ng anumang bansa. Sa isang virtual na bansa na may 100 milyon na genio, maaaring i-assign ang 10 milyon sa militar na estratehiya, 10 milyon sa paggawa ng drone, 10 milyon sa pag-unlad ng armas, 10 milyon sa pagkolekta at pagsusuri ng impormasyon, 10 milyon sa pag-unlad ng pangkalahatang agham, atbp. Ang isang bansa na may malakas na AI kumpara sa isang bansa na walang AI—o kahit sa isang bansa na 3 taon ang pinaglalaban sa AI—ang pagkakaiba ay maaaring katumbas ng isang rehimen ng US Marine Corps noong World War II kumpara sa isang hukbong medyebal na may espada.

Bukod dito, kung ang makapangyarihang AI ay makakamit ng mas malalim at posibleng permanenteng anyo ng diktaduryang pagpapahinga (tingnan ang Seksyon 4), mas mahalaga na siguraduhin na ang pinakamakapangyarihang bansa sa mundo ay isang demokrasya—o kaya'y mayroong malakas na proteksyon laban sa pagpapahinga na dinudulot ng AI. Ito ay nagpapalalim din sa kahalagahan ng pagbuo ng isang target na estratehiya sa geopolitika.

Dapat hanapin ng mga demokratikong bansa ang pagbuo ng isang pandaigdigang aliansya na nakatuon sa pagbuo ng AI batay sa karaniwang mga halaga, na paulit-ulit na sinusubukang hikayatin ang iba pang mga rehiyon sa mundo upang gawing mas nakakaakit ang pagkakaroon ng kasapi sa aliansya at mas maliit ang kagandahan ng pagiging labas nito. Dapat maging isang maayos na internasyonalisasyon ng mga ideya sa patakaran sa AI na binanggit sa mga seksyon 1 hanggang 4, kasama ang isang pagsisikap na i-lock ang mga kritikal na supply chain na kinakailangan para sa pagbuo ng AI sa pamamagitan ng pagbabahagi nito sa loob ng aliansya at pagtanggi na ibigay ito sa mga dayuhan. Maaaring kasama ang ilang mga prinsipyo at operasyonal na layunin:

Pamamahala sa supply chain ng AI. Dapat magkaroon ng kalayaan ang mga kapanatagan na miyembro na magbahagi ng mga chip at mga kagamitan sa paggawa ng semiconductor (SME) sa isa’t isa, habang nagtutulungan upang pigilan ang mga kalaban na makakuha nito. Ang pagkontrol ng Estados Unidos sa pag-export ng mga advanced na chip at SME patungo sa Tsina ay isa sa pangunahing dahilan kung bakit nananatili ito sa pangkabuuang liderato sa larangan ng AI, at kailangang palawakin, pakinabangan, at ikonekta ang mga patakaran na ito sa iba pang mga bansang may magkatulad na paniniwala. Ang mga pending na batas tulad ng MATCH at OVERWATCH ay isang mabuting simula, at kailangan ng mga kaalyadong demokrasya na isipin ang pagpapakilala ng katulad na mga hakbang.

• Magkakasundo upang tugunan ang mga panganib ng AI. Kung isasagawa ang koordinasyon sa internasyonal, mas epektibo ang mga patakaran na inilarawan sa Seksyon 1 na naglalayong tugunan ang mga panganib sa biolohiya,网络安全, at awtonomiya (habang mas maliit ang bigat sa industriya). Ito ay nangangahulugan na ang mga kumpanya ay makakasunod sa mga kompatibleng pamantayan, at makakamogtang ang mga regulahador ng pagkatuto sa isa’t isa kung paano pinakamahusay na sukatin at bawasan ang mga panganib na ito. Dapat ding magkakasundo nang mas malapit ang mga ahensya ng pagpapatupad at intelihiyensiya upang subaybayan at pigilan ang pang-aabuso, tulad ng pagtatangka ng mga terorista na gamitin ang AI upang lumikha ng mga biolohikal na sandata.
• Ibahagi ang kita mula sa AI. Ang kalakalan at patakaran sa regulasyon ay maaaring gamitin upang mapabilis ang pagkalat ng kita mula sa AI sa loob ng aliansa, at ibahagi ang mga aral mula sa pagpapabilis ng inobasyon. Ang pagkakasundo sa mga paraan ng mabuting pagpapatupad ay makakatulong upang ipaabot ang mga benepisyo ng AI sa mga bansang umuunlad. Halimbawa, ang pagkakaisa sa mga sistema ng pagpapahintulot sa gamot ay makakatulong upang mas mabilis at mas maayos na subukan at aprubahan ang mga gamot na pinapalakas ng AI (tulad ng nabanggit sa Seksyon 3).
• Common defense. The countries in the alliance should cooperate in using AI for self-defense and defending against adversaries' AI. The alliance should collectively ensure adequate production of AI-dominated cyber defense, AI-driven drones, AI-driven manufacturing, secure AI computing power, AI-driven R&D, and AI-driven intelligence gathering sharing.
• Tutol sa paggamit ng AI para sa pagpapadala. Dapat tumolong ang mga miyembro ng aliansya sa mataas-tech, ekstremo, at AI-powered na diktadurya na bineda ko sa The Adolescence of Technology, at dapat silang magkaroon ng katulad na mga pagsisiguro sa seguridad na ilarawan ko sa Seksyon 4 sa itaas.
• Macroeconomic cooperation. Employment or job stability crises, like any other economic crisis, are transnational in nature. Therefore, countries share a common interest in coordinating macroeconomic support and stabilization policies (as described in Section 2) to offset any employment impacts.

Ang layunin ay gawing kahanga-hanga ang pagiging miyembro ng aliansya—at gawing malinaw ang gastos ng pagiging labas sa aliansya. Ang aliansya ay magiging batay sa koordinasyon sa pagitan ng soberanyong bansa, kung saan bawat bansa ay nananatiling may ganap na kontrol sa kanilang sariling mga asunto. Maaari itong maging proseso ng pag-unlad, magsimula sa mga demokratikong bansa na may magkakaparehong ideolohiya (na likas na madaling sumali) at paulit-ulit na tawagan ang mga bansa na hindi gaanong natural na nagkakatugma ngunit handa nang matugunan ang mga pamantayan ng aliansya upang makamtan ang mga malaking benepisyo nito. Sa ideal na kaso, magkakaroon ng pagkakasama ang buong mundo. Ngunit kahit na ito ay hindi posible, ang pagtatatag ng aliansya ay magpapalakas sa posisyon ng mga demokratikong bansa upang pigilan at lalampas sa mga rehimeng nakadepende sa pagpapalala.

Window of opportunity

Ang eksponensyal na pag-unlad ng AI ay nagdala ng pagkakataon at pagbabago na karaniwang walang sapat na paghahanda ang proseso ng paggawa ng patakaran. Ngunit ito ay naglikha rin ng isang natatanging bintana ng pagkakataon. Ang malinaw at totoong ebidensya ng mga panganib ng AI, ang maagang karanasan sa kanyang potensyal na lumikha ng ekonomikong halaga at magdulot ng pagkasira, at ang malakas na tugon ng publiko sa walang hanggang paggamit ng AI ay nag-uugnay upang bumuo ng isang sitwasyon kung saan ang mga tagapagpatakbo ay labis na bukas sa pagkilos na may paningin. Ang mga balahibo at ang kanyang kagubatan ay nagiging gising.

Ang pagtingin sa isang pribadong isyu sa loob ng AI industry ay naging malaking paborito: na kailangan ng AI ng “mas mabuting pagpapakilala.” Tunay kong tinutol ang framework na ito. Ang dahilan kung bakit natatakot ang mga tao sa AI ay dahil tama silang naramdaman na ang mga panganib nito ay totoo, hindi dahil ang mga CEO ng AI ay hindi sapat na “Panglossian” (literary allusion/adjective, referring to blind optimism). Naniniwala ako na bilang isang lider sa AI, ang aking tungkulin ay patuloy na maging transparent tungkol sa mga panganib na ito, at ang pag-aalala ng publiko sa transparensiyang ito ay isang pagpapakita ng demokratikong pagkakasundo sa tamang paraan. Ang pangunahing hamon ay ang pagpapakita ng pag-aalalang ito sa mga konstruktibong solusyon, nang hindi ito maging walang anyong galit at karahasan.

Optimista akong makakahanap ng solusyon, dahil maraming isyu—mula sa paglutas ng kawalan ng trabaho hanggang sa pagsubok bago ang paglabas ng modelo, mula sa pagpapahintulot sa pag-export ng chip hanggang sa paggamit ng enerhiya at iba pang patakaran tungkol sa AI—ay may pangkalahatang atraksyon sa buong politikal na spektrum. May isang hinahangad ngunit realistiko na mundo kung saan ang isang malawak na walang partido na aliansya, na hinikayat ng direkta at malinaw na pag-unawa sa mga hamon na dala ng AI, ay magpapasa ng mga makatwiran at maagap na patakaran nang mas mabilis kaysa sa karaniwan. Mas maaga naming gawin ito, mas maaga naming makikinabang sa mga hindi pangkaraniwang benepisyo ng AI.

Nais kong saluhin si Allan Dafoe, Mariano-Florentino Cuéllar, Richard Fontaine, Buddy Shah, Vas Narasimhan, Matt Yglesias, Nick Beckstead, Jason Matheny, Brad Carson, at maraming mga empleyado ng Anthropic para sa kanilang mga komento at feedback sa draft ng artikulong ito.

Footnote

Sinulat ko ang mga bihirang panganib at panganib ng awtonomiya, kasama ang iba pang mga bagay, sa aking artikulo na “The Adolescence of Technology.” Ang Anthropic Research ay naglabas din ng ilang mga pionerong panloob na datos sa “When AI Builds Itself” tungkol sa posibilidad ng rekursibong sariling pagpapabuti, kung saan ang mga modelo ay kayang bumuo ng mas mahusay na mga modelo nang awtonomo.

Hindi ito teoretikal: Marami nating napansin ito sa aming sariling voluntary governance framework (tulad ng aming Responsible Scaling Policy). Kung isasakripisyo natin ang isang fixed o rigid na listahan ng safety requirements para sa mga hinaharap na AI models, isang napakalaking posibilidad ay ang mga requirement na lumalabas na hindi mahalaga ang magkakaroon ng 95% ng aming compliance effort, habang ang ilang pinakamalaking mapagkukunan ng panganib ay hindi pa natin inaasahan sa listahan. Ang voluntary framework ay maaaring baguhin at i-adjust, ngunit mas mahirap gawin ito sa batas. Ang aking pagtugon sa dilemma na ito ay makikita sa dalawang liham na aking ipinahayag tungkol sa SB 1047, isang batas noong 2024 sa California na naglalayong harapin ang catastrophic risks, kung saan ang aking pananaw ay napakakomplikado dahil sa mga dahilang nabanggit.

Halimbawa, ang tunay na seriyosong biolohikal na panganib ay mas mahirap pamahalaan kaysa sa cyber risk, dahil ang mga attacker ay may malaking kalamangan kumpara sa mga defender, at ang kalalabasan ng kalamidad ay maaaring mas malaki.

Tingnan ang “The Adolescence of Technology” para sa mas detalyadong pagsusuri kung bakit ang lohika na nagdudulot ng mabilis na pagbabalik ng thịk ng puwersa sa paggawa at walang matatag na pagpapalit ng puwersa sa paggawa sa iba pang teknolohiya ay maaaring hindi mag-apply sa AI, lalo na kung bakit ang karaniwang mekanismo ng pag-adapt tulad ng Jevon’s paradox o comparative advantage ay maaaring malalampasan ng bilis ng teknolohiya.

Halimbawa, patuloy pa ring ipinapagkakaloob ng mga tao ang kanilang buhay sa paglalaro ng chess o go, o sa pag-akyat ng mga bundok, at patuloy pa ring binibigyang-pugay dahil sa mga gawain na ito, bagaman mas mabuting gawin ng mga makina ang lahat ng ito.

Ito ay nagbibigay sa mga tao ng karagdagang insentibo upang magpalit at magsimula sa pagtuturo sa bagong antas ng karera, kahit na maaaring makaramdam ng kahirapan sa maikling panahon, kung ang pagkakatulad ng kanilang bagong at lumang sahod ay ipinagbibigay.

Para sa karagdagang impormasyon tungkol sa paksa na ito, tingnan ang “Puberty of Technology”. (Ito ay unang inilathala sa Titanium Media APP, may-akda | Silicon Valley Tech_news, editor | Lin Shen)