Ang Punong Siyentipiko ng OpenAI ay Nagbabala tungkol sa Paglalaki ng Komplikasyon at mga Hamon sa Pagkakasundo ng AI

May-akda: Jakub Pachocki

Isinalin: Deep潮 TechFlow

DeepChaoyu Guide: Ang pangunahing siyentipiko ng OpenAI ay naglabas ng rare na pahayag, na sinasabi na ang AI ay malapit na sa rekursibong sariling pagpapabuti, at ang mga kasangkapan para sa pagkakasundo at pagmamasid ay hindi na nakakasabay sa pag-unlad ng sistema. Hindi niya ibinigay ang isang mapagpapayapang konklusyon, kundi inilalabas sa harap ang pinakamahirap na panganib sa mga susunod na taon: maaaring gumawa tayo ng isang isip na hindi natin lubos na nauunawaan o kontrolin. Para sa mga propesyonal na nakikinig sa intersection ng AI at cryptocurrency, isang kailangang basahin ang artikulong ito tungkol sa pagkawala ng kontrol at hangganan ng depensa.

Sa mas mataas na antas, ang pag-unlad ng machine intelligence ay hinahawakan ng pagdami ng computing power. Noong halos 2017, malinaw na naiintindihan namin ito sa loob ng OpenAI. Noong iyon, nakita namin na ang mga iba’t ibang proyekto sa pag-aaral ay nagbigay ng patuloy na benepisyo habang tinataasan ang kanilang sukat. Kaya nagsimula kami na hanapin ang mas maraming computing power kaysa sa orihinal na plano, at lalo pang pinagsikapan ang aming pag-aaral sa ilang kaunting direksyon na may malaking scalability. Naniniwala kami na ito ang tanging paraan upang manatili sa harap ng pag-aaral sa AI at makaimpluwensya sa epekto ng AGI.

Sa paglalakbay, may mga bagong algoritmo at mga bagong pagkamalikhain na ipinakita ng mga team at mga indibidwal na siyentipiko. Sa pangkabuuan, itinuturing ko ang mga ito bilang mga natuklasan sa landas ng pagpapalawak. Ang agham ng deep learning ay nasa maagang yugto pa lamang, at ang makabuluhang pag-unlad sa algoritmo ay kadalasang nauugnay sa kakayahan na makakuha ng computing power. Kung iyong hahabain ang pananaw sa ilang taon, ang AI ay patuloy na nagsisiging mas matalino habang ito ay sinasabayan sa paglalawak sa mas malalaking computer.

Atbp., tulad ng naunawaan ni Ray Kurzweil noong huling bahagi ng ika-20 siglo, kasalukuyan nating nararanasan ang isang sandali sa kasaysayan ng kompyutasyon kung saan ang machine intelligence ay nagsisimulang lampas sa tao sa isang makabagong antas.

Mas maraming katulad sa isang “naglalago” na bagay kaysa isang disenyo. Sa unang-prinsipyo, ito ay isang produkto ng paulit-ulit na pagkakaroon ng isang simpleng hakbang sa pag-optimize sa isang hindi maiisip na dami ng computing power. Ito ay nagbuo ng isang napakakomplikadong sistema na gumagana sa pamamagitan ng mga abstrakto at nakakapag-simula ng ilang aspeto ng tao. Maaari naming makita ang mga maliit na mekanismo na lumabas sa loob ng sistema, at ang proseso ay katulad ng neurosiyensya. At tulad ng neurosiyensya, ang kabuuang pag-uugali nito ay lumalampas sa aming kakayahang lubos na maunawaan.

Ang pag-aaral sa AI batay sa deep learning ay isang eksperimental na agham. Inilalaan namin ang malaking pagsisikap upang bumuo ng mga algoritmo na may prinsipyo at gumawa ng mga makokontrol na paghuhula. Ngunit sa pangkabuuan, ang aming mga malalaking pagtatrabaho sa pag-train ay mga eksperimento, at minsan ay nagdudulot ng mga resulta na nagpapalito sa amin. At habang lumalakas ang kakayahan ng mga sistema, mas mahirap ipaliwanag ang mga resulta.

Mas kumplikado pa ay ang kasalukuyang mga algoritmo ay karaniwang nagpapabilis sa pag-unlad ng mga kakayahan na madaling masukat kaysa sa mga kakayahan na mahirap masukat nang obhetibo. Maraming oras naming ginugol upang maintindihan kung paano nagpapalawak ang mga kakayahan, at alin sa mga kasanayan ang dapat unahin, dahil sa kanilang pagiging pinakamahalaga sa mga susunod na taon. Halimbawa, naniniwala kami na kung magkakaroon tayo ng karagdagang pagsisikap, maaari naming gawing mas malakas ang modelo sa matematikal na pag-aaral. Ngunit hindi natin ito unahin, dahil mas malapit sa atin ang pagpapalawak ng sariling pagpapabuti at ang awtomatikong pagtugma sa pag-aaral. Ito ay babanggitin ko muli sa susunod.

Ang pag-unlad ng matalinong pag-iisip sa pamamagitan ng pagpapalawak ng deep learning ay hindi diretso na makakapagkumpara sa tao. Upang makapagdulot ng malaking epekto sa mundo, maging napakaganda o napakapanganib, hindi kailangan ng AI na magkatumbas o lalong lumampas sa lahat ng kakayahan ng tao. Kailangan lamang nito na lumampas sa tao sa sapat na maraming kakayahan. At habang ito ay patuloy na lumampas sa tao sa mas maraming aspeto, mas mahirap nating malaman kung gaano kalakas ito talaga.

Dahil ang machine intelligence ay nagmumula sa mga proseso na iba sa human intelligence, hindi natin maaaring ipagpalagay na ito ay tutupad sa mga prinsipyo ng tao nang automatic, o na ito ay magpapalawak sa mga prinsipyong iyon sa paraang katulad ng tao. Ang pangunahing tanong sa pag-aaral ng AI ay ang alignment problem: pagpapahintulot sa AI na “magtrabaho upang gawin ang tama ayon sa mga pamantayan ng tao.”

Para sa pagkakasunod ng mga aktwal na direksyon ng pag-aaral, tila magagamit ang paghihiwalay ng alignment ng layunin at alignment ng halaga.

Ang layunin ay tumutukoy sa: “Ginagawa ba ng AI ang pagpupursige na matupad ang mga layunin na ipinapakita sa iyo?” Maaari itong kasama ang pagsumbong sa hierarchy ng mga utos, ang kakayahang makipag-ugnayan at makipagtulungan sa mga tao, at ang pagsubok na maintindihan ang mga layunin ng tao. Mahalaga ang uri ng direksyong ito sa praktika.

Ang value alignment ay isang mas panloob na katangian ng modelo. Ito ay ang kakayahang magtaglay ng mataas na prinsipyo at magsagawa ng generalization mula dito; kahit na harapin ang mga hindi malinaw o magkakasalungat na layunin, o isitwasyon sa isang hindi pamilyar o mapanganib na kalagayan, ito ay makakagawa ng “maliwanag” na pagkilos. Dapat maging tapat, matuwid, at magmahal sa tao ang isang aligned na AI.

Totoo naman na ang hangganan sa pagitan ng value alignment at goal alignment ay maaaring malabo. Ang tunay na pag-aalala sa layunin ay nangangailangan ng pagsubok na hulaan ang intensyon at mga halaga sa likod ng layunin. Gayunpaman, sa pangkalahatan, kapag tinutukoy ko ang mahalagang papel ng alignment research sa mahabang panahon, tinutukoy ko ang value alignment.

Ang pangunahing hamon sa pagkakasundo ng AI ay ang pagpapalawak. Habang lumalaki ang katalinasan ng mga makina, sila ay magdadala ng mas mataas na antas ng mga konsepto at magkakaroon ng mga sitwasyon na mas magkakaiba sa mga kapaligiran kung saan sila itinuturo. Maaaring mabigo sila sa pagpapalawak ng mga halaga na itinuturo at pinapalakas sa kanila sa mga bagong sitwasyon. At mahirap malaman kung paano sila gagawa. Mas mahirap pa, ang buong ekosistema kung saan ginagamit ang AI ay nagbabago nang mabilis. Halimbawa, ang AI na itinuturo ngayon ay kailangang makapag-ugnay nang matatag sa iba’t ibang iba pang AI. Ang pinakamahalaga, kailangan nating siguraduhin na ang mga hinaharap na AI ay patuloy na mananatili sa mga halaga ng tao, anuman ang kanilang paniniwala tungkol sa pagiging sinubaybayan nila ng mga tao.

Ang mga paraan ng pagtutugma na kasalukuyang ginagamit ay may dalawang pangunahing klase.

Ang unang paraan ay ang pagpapalakas ng mga pag-uugali na sumusunod sa layunin ng reinforcement learning. Ang pagkilos ng modelo ay isasagawa at karaniwang tinataya ng AI kung ito ay sumusunod sa ibinigay na preference model, “norms,” o “constitution,” at binibigyan ng kaugnay na reward. Ang paraang ito ay napakaepektibo sa pangkalahatan at bahagi ng pangunahing pundasyon ng modernong AI assistant. Gayunpaman, maaari itong maging mahina at malakas na nakadepende sa sakop ng training supervision, at sa kakayahan ng modelo na mag-generalize mula sa mga sitwasyon na itinaguyod sa training. Halimbawa, sa insidente ng OpenAI at Hugging Face, ang agent ay sumunod sa isang hangganan, na huwag gawin ang social engineering sa mga tao. Gayunpaman, hindi nila maiwasan ang iba pang gawain na labas sa sakop, na lumalabag sa espiritu ng mga halaga na itinuro sa kanila sa iba’t ibang senaryo.

Ang mga paraan na ito ay nagdala ng makabuluhang resulta. Ang ating modelo ngayon ay malaking tulong, walang panganib, at nagpapakita ng ilang nagmumula sa pagkakasundo ng halaga. Ngunit hindi pa ito nagbibigay sa amin ng tiyak na kapanipaniwala na ang mga limitasyon sa halagang ito ay magpapatuloy sa mga sistema na may kakayahan na lubos na lumampas sa tao.

Habang tumataas ang kakayahan ng mga AI system, kailangan nating gawing mas mauna ang pagtuturo ng pagkakatugma sa halaga kaysa sa pagtuturo ng kakayahan. Ngunit mayroon dito isang napakadakilang hamon: mas malamang na makahanap ng mga butas, iwasan ang pagsubok, o ipakita muli ang kanilang sariling pag-uugali ang mga mas makapangyarihan na sistema. Maaari nilang matutunan na magpakita ng pagkakatugma sa mga halagang tao sa loob ng mga environment ng pagsubok, at pagkatapos ay gawin ang ganap na iba’t ibang bagay sa tunay na environment ng pag-deploy. Ito ay tinatawag na “deception sa alignment”.

Kung subukan nating ipakita ang mas malakas na paraan upang mapigilan sila, maaari nilang maunawaan ang pagtutol at pagmamaliit, o isipin na ang aming pag-intervensyon ay bahagi na ng mundo, kaya gumagawa sila ng mga reaksyon na hindi intuitibo. May natural na asimetría tayo habang sinusubukang kontrolin ang isang sistema na mas matalino kaysa sa atin.

Habang nagiging mas malakas ang mga isip na hindi natin lubos na nauunawaan, kailangan nating magtiwala sa isang iba pang sistema: pagmamasid. Kung makakakita tayo ng mga signal bago ang AI ay lumabas sa ilang hangganan, maaari nating masuri ang mga panloob na aktibidad nito nang patuloy.

Sa OpenAI, patuloy naming pinapag-una ang pag-aaral sa pagkakaintindi upang buksan ang "black box" ng mga neural network. May mga pag-unlad na nangyari sa mga pagsisikap na ito. Ngayon ay kayang namin kilalanin ang ilang mga representasyon na nagbibigay ng malalim na pagkakaintindi sa panloob na paggana ng modelo. Gayunpaman, ang kasalukuyang pag-aaral sa pagkakaintindi ay pa rin mahina, lalo na sa pag-unawa sa abstraktong pag-iisip sa loob ng malalaking modelo. Ang pagkakaroon namin ng kakayahang tingnan ang panloob ng modelo ay patuloy na lumalayo sa kompleksidad ng pag-iisip ng modelo mismo.

Nagdudulot ito ng malaking pag-aalala. Dahil ang problema ng generalization sa pagmamasid ay magkakasalungat na serio tulad ng problema ng generalization sa alignment. Kung ang isang sistema ay mas mahusay kaysa sa atin sa pagtatago ng sarili, mahirap siguraduhin na hindi ito mabubypass ng ating mga paraan ng pagmamasid. Maaaring isipin natin na ang modelo ay ligtas dahil nakikita natin ang maraming magagandang indikador, habang sa katotohanan, ang modelo ay nagpapabuti lamang sa mga indikador na iyon. Makakatuto ito na itago ang mga layunin na hindi natin gustong mayroon ito, o itago ang kanyang ginagawa.

Kung ang modelo ay magsisimulang magtulak para sa sariling pagpapabuti—na naniniwala akong malamang mangyari sa mga susunod na taon—itong gagamitin ang kasanayan sa pagpaplano, panggagapi, at pagprotekta sa sarili. Ang mga kasanayang ito ay maaaring magmula sa presyur ng mga layunin na itinakda natin sa iyo, o maaaring magmula sa kanyang pagtatangka na gumawa ng mga hakbang sa mga puwang ng pagmamasid. Upang siguraduhing hindi ito magpapaunlad ng mga bagay na ito, kailangan nating lutasin ang problema ng pagkakaayos ng halaga, o kailangan nating i-update ang ating kakayahan sa pagmamasid upang makasunod sa bawat hakbang ng kanyang pag-unlad. Parehong ito ay kasalukuyang malayo pa sa sapat.

Wala pa tayong masatisfactory na teorya tungkol sa generalization, at tila hindi maaaring makabuo ng isang ganito sa maikling panahon, lalo na kung walang mas malakas na AI bilang tulong. Kaya, sa kasalukuyan, ang empirikal na pag-verify ng aming kakayahan sa pagpapatupad ng mga teknik sa alignment ay mas mahalaga kaysa sa mga teknik ng alignment mismo.

Ang pangunahang taya ng OpenAI dito ay ang pagmamasid sa chain-of-thought. Batay ito sa isang nakakaakit na iskala na ideya: ang malaking bahagi ng kakayahan ng modelo ay galing sa isang proseso ng pag-iisip na nailalarawan sa wika, o chain-of-thought. Kung gagawin natin ang pag-optimize sa resulta ng prosesong ito sa iskala, ngunit hindi susubaybayan ang proseso mismo, walang direkta mong motibasyon sa chain-of-thought na itago ang anumang hindi nakakasundong ideya o layunin sa pagtuturo. Ito ay hindi nangangahulugan na matututuhan ng modelo na palabasin ang mga hindi nakakasundong tendensya na hindi nakadepende sa chain-of-thought; ngunit maaari itong bigyan tayo ng akurat na pagmamasid sa pagtaas ng kakayahan na dulot ng pag-iisip.

Samantalang nagpapalawak kami ng mga modelo para sa pag-iisip, nalaman namin ang potensyal na kahalagahan ng pagmamasid sa mga serye ng pag-iisip. Nang ipinakilala namin ang o1‑preview, isinaplanong itago namin ang mga serye ng pag-iisip upang protektahan ito nang matagal laban sa presyong pangpagsusuri. Sa pagpapalawak mula noon, patuloy naming isinasaalang-alang ang patakaran na huwag suriin ang proseso ng pag-iisip. Ang pagmamasid sa mga serye ng pag-iisip ay naging napakahalagang kasangkapan sa aming pag-aaral kung paano umuunlad ang mga modelo mula sa distribusyon ng pagtuturo, na nagpapahintulot sa amin na hindi lamang obserbahan at analisahin ang pag-uugali ng modelo, kundi pati na rin ang mga panloob na proseso nito.

Habang sinusuri namin ang mga modelo ng Astra, mahalaga pa rin ang kasangkapan na ito. Gayunpaman, nasabi ng aming pagtataya na ang aming kakayahan na magbatay sa chain-of-thought monitoring ay patuloy na bumababa. Ito ay resulta ng maraming mga salik.

Ang mga modernong modelo ng pag-iisip ay ginagamit sa mas kumplikadong kapaligiran kaysa sa o1‑preview; ang kanilang proseso ng pag-iisip ay lalong nagkakasalubong sa pakikipag-ugnayan sa mga tao, iba pang AI, at paggamit ng mga kasangkapan. Kailangan ng pagmamasid ang marami sa mga interaksyong ito, na nagpapalabo sa mga hangganan na nais nating panatilihin.

Mas lumalakas ang AI sa pag-iisip at pagpapaliwanag ng sariling proseso ng pag-iisip.

Dagdagan ng pagpapabuti ng pre-training, nakikita namin na mas matalino na ang mga modelo kahit na hindi ito gumagamit ng anumang pagsasalaysay ng pag-iisip.

Hindi ito mga hamon na hindi matutugunan. Nais kong makapag-develop tayo ng mga interbensyon upang mapabuti ang pagmamasid sa chain ng pag-iisip ng modelo, tulad ng mas mahusay na pag-unawa sa ugnayan ng iba’t ibang layuning pinapahusay at mga uri ng komputasyon sa panahon ng pagsubok na ginagamit ng modelo. Naniniwala rin ako na may malaking halaga ang pagkakaisa ng ideya ng pagmamasid sa chain ng pag-iisip at pagmamasid sa aktibasyon, at ang pagtrabaho sa iskala ng mga monitor na direktang nakakakonekta sa loob ng estado ng network, tulad ng mga paraan na “pagpapakilala.” Pinapabilis namin ang pagpapatupad ng mga ideyang ito. Gayunpaman, inaasahan kong ang pag-unlad ng pangkalahatang AI ay lalong magiging limitado ng tiwala sa pagmamasid.

Upang harapin ang sitwasyong ito, naniniwala ako na kailangan natin ang isang scalable na depensa na kasabay ng paglago ng AI. Hindi kayang gawin ng tao ang manual na pagsusuri sa bawat bagong modelo. Ang aming kasalukuyang pagtataya at mga red team testing ay epektibo pa rin para sa kasalukuyang mga modelo, ngunit mabilis na makararating sa kanilang limitasyon habang tumataas ang kakayahan ng mga sistema.

Kailangan namin ng AI system na makakakita ng mga bagong panganib nang awtomatiko. Kailangan din ng mga sistema na ito ng sapat na katalinuhan upang makakilala ng mga kakaibang gawain sa mga mas matalinong sistema. Ito ay bumubuo ng isang rekursibong hamon: kailangan ng mga tagapagtaguyod na umunlad nang parehong bilis ng mga sistema. Nasa punto tayo kung saan ang seguridad at kakayahan ay nagsisigaw na mahirap hiwalayin. Upang mapanatili ang seguridad, maaaring kailanganin nating patuloy na palakasin ang kakayahan ng AI na tagapagtaguyod, na sa kanyang pagkakataon ay magpapabilis sa paglago ng pangkabuuang kakayahan ng AI.

Ito ay isang nakakalungkot na siklo. Patuloy nating pinapalakas ang ating kakayahan para sa kaligtasan, at ang pagpapalakas ng kakayahan ay nagdadala ng higit pang panganib. Ang tunay na solusyon ay maaaring nasa paghahanap ng paraan upang mapanatili ang pagkakatugma ng halaga nang maaasahan at maunawaan bago tayo makarating sa isang punto ng walang kontrol. Ngunit kailangan kong maging tapat na pagsabihin na malayo pa tayo sa layuning ito.

Ito ang dahilan kung bakit nananatili ako sa pag-asa sa mga sumusunod na kombinasyon sa mga susunod na taon: pag-aaral ng teknikal na pagkakasundo + awtomatikong sistemang pangkaligtasan + malawakang pag-intervensyon sa pamamahala + pagiging alerto ng publiko at mga institusyon. Hindi sapat ang isang solong hakbang. Hindi natin maaaring mag-asa lamang sa pagkakaroon ng disiplina ng isang kumpanya o isang laboratorio.

Ang pinakamalakas na dahilan para patuloy na pagsasanay ng mas matalinong mga modelo ay ang pangangailangan na magtatag ng mga sistemang pangangalaga laban sa mga panganib na dulot ng iba pang AI.

Ang isang malinaw na panganib na pinag-uusapan sa buong taon ay ang cybersecurity: ang kakayahan ng mga modelo na masiklab at makalikas sa mga computer system ay nagsisilbing higit pa sa mga tao. Ito ay napakalaking pagpapalawak sa sakop ng mga panganib na kaugnay sa AI: ang mga agent ay makakapag-access sa anumang sistema maliban sa pinakamaligtas na infrastruktura, at direktang makaapekto sa maraming bagay sa mundo, kahit walang pisikal na katawan. Kasalukuyan nating nararanasan ang isang maliit na bintana kung saan kailangan nating gamitin ang pinakamahusay na magagamit na modelo upang mapalakas nang malaki ang seguridad ng mga kritikal na sistema.

Ang mga panganib na may kaugnayan sa AI ay malulugod na magpapatuloy na tumataas mula dito. Isang isip na napakalakas, malinaw na tinuruan at pinag-utos na gawin ang masamang pagkilos, ay magdadala ng isang bagong panganib; ito ay malamang na lalabas sa hangarin ng tagapag-utos, at magpapalawak ng mas extremong masamang pagkilos. Habang nagkakaroon ng higit pang awtonomiya ang AI, ang hangganan sa pagitan ng pang-aabuso at awtonomong pagkilos na hindi nakatutok ay magiging malabo. Maaari nating gawing karanasan na tingnan ang AI bilang kasangkapan, ngunit ilan sa mga isip ay maghahanap ng sariling mga layunin. Magiging makabuluhan nilang makipagtulungan sa mga tao sa pamamagitan ng tawaran, panggagambala, o pang-aabuso.

Bukod dito, may mga panganib mula sa mga bagong teknolohiya na maaaring magmula sa AI, tulad ng inhenyeriyadong pathogen.

Kailangan natin ng malakas at nakapagsasalay-salay na AI para sa depensa: pagprotekta sa infrastruktura, real-time na depensa laban sa mga walang kontrol na agent, at pagbuo ng mga bagong paraan ng pagprotekta. Ito ay magiging pangunahing tulong sa pagpapalabas ng OpenAI.

Samantala, kahit isinasaalang-alang ang kawalan ng siguradong dulot ng inaasahang malawakang pag-unlad sa AI at ang pangangailangan na bumuo ng mga sistema ng pagtatanggol, hindi natin dapat gawing dahilan ito para magtago sa pagiging bulag. Kapag unawaan ng mga tao ang seriyosidad ng mga panganib, ang ideya na “magsagawa ng anumang paraan para makamit ito” ay magiging lubos na kahina-hinala.

Ang machine intelligence ay lalaking mahalagang papel sa proseso ng pag-unlad nito, at ito ay natural na kongklusyon ng patuloy na teknolohikal na pag-unlad. Kung patuloy ang pag-unlad ng AI, ang machine recursive self-improvement ay magiging sentro ng mga hinaharap na pagkakatuklas sa agham.

Ang automated AI research ay isang mas malakas na anyo ng pagpapalawak ng intelligence sa pamamagitan ng computing power; bilang bahagi nito, ang AI ay magkakaroon din ng pagpapabuti sa sariling panao ng computing. Tulad ng pagpapalawak, inilalagay namin ang ating pag-aaral sa OpenAI sa recursive self-improvement dahil naniniwala kami na ito ang tanging paraan upang manatili sa harap ng pag-aaral sa AI.

Gusto kong bigyang-diin na ang nakalista sa itaas ay hindi nangangahulugan na naniniwala akong ang malaking pagpapabilis sa pag-aaral ng deep learning, lalo na sa maikling panahon, ay dapat maging kolektibong aksyon ng akademikong komunidad. Ngunit naniniwala ako na ang kasalukuyang landas ay nagdadala tayo patungo dito, at kailangan nating lahat ay may kamalayan sa pagpili kung paano patuloy ang ating paglalakbay. Ang dalawang pangunahing lebra na nasa aming kamay ay: una, pagdirekta sa proseso na ito, pagpapalakas ng alignment at monitoring habang inaangat ang AI, at pagtataguyod ng pagpapahalaga sa tao sa bawat yugto; at pangalawa, pagpapabilis o pagpapabagal ng pag-unlad sa hinaharap batay sa pangangailangan upang mabuo ang tiwala sa mga hakbang na ito nang paulit-ulit.

Ang pinakamabuting paraan na nakikita ko ngayon ay ang pagpapagsama ng dalawa.

Ang mga partikular na progreso na aming natamo sa pagpapareho at pagmamanman ay karaniwang malalim na nauugnay sa pangkabuuang progreso ng AI. Mga magandang halimbawa ay ang reinforcement learning batay sa tao, na dating susi sa pagtuturo ng mga maagang AI assistant; at ang pagmamanman sa chain of thought, na naging posible dahil sa pag-unlad ng mga modelo ng pag-iisip. Dapat naming gawing sentro ng patuloy na automatisadong proseso ng pananaliksik ang pagbuo ng mga bagong pag-unawa, algoritmo, at teorya tulad nito, at paulit-ulit na itayo ang mga pagsasabay sa kaligtasan para sa mas makapangyarihang AI.

Ang pagpapalawak ng AI system ay dapat na may hangganan sa ating tiwala sa kaligtasan. Kailangan nating palawakin ang mga pangako tulad ng Preparedness Framework o Responsible Scaling Policy bilang patuloy na seguridad sa pag-unlad na may malawak na pagsasagawa. Maaaring isagawa ang mga hangganan na ito ng isang network ng mga third-party audit agency, gobyerno, o international organization.

Ang pangunahing hamon sa automated AI research ay hindi ang “pagkamit doon,” kundi ang pagkamit nito sa paraan na magpapahintulot sa mga tao na manatili sa proseso ng patuloy na pagpapabuti, at pag-iingat ng kinabukasan sa kamay ng tao.

Hindi ko maipredict ang tiyak na oras, ngunit tila malapit na tayo sa isang panahon kung saan ang AI ay makakapagpapalakas ng sarili nito sa maraming mahahalagang aspeto. Ibig sabihin nito, maaari nating masikat ang pagpapalawig ng sariling pagpapabuti.

Sa loob ng OpenAI, nagsimula na tayong i-realign ang ating mga priyoridad sa pag-aaral upang ilagay ang higit pang mga yaman sa pagpapakasal at pagtatanggol, kaysa sa pagpapalawak ng kakayahan lamang. Ito ang dahilan kung bakit binigyang-diin ko na hindi namin susundin ang paghahanap ng pinakamalaking modelo, kundi kailangan nating pumili nang mag-isa na mag-pause sa mga kritikal na panahon.

Gayunpaman, hindi dapat iwan ang mga desisyong ito sa ilang mga tao lamang sa loob ng mga kumpanya. Kailangan ng pamahalaan at ng internasyonal na komunidad na magsikap bago maging hindi maibabawi ang mga panganib. Kasama rito ang pagtatatag ng mekanismo para sa pagmamasid sa mga pinakabagong pagtuturuan, mandatoryong pagsusuri ng ikatlong pahinga, at internasyonal na kasunduan batay sa mga antas ng kakayahan.

Hindi ako ganap na sigurado kung maabot ng sapat na panahon ang mga hakbang na ito. May mga pagkakataon akong nadarama ang pagkabigo dahil palaging nasa likod ang aming mga pagsisiguro kaysa sa pagiging nangunguna. Parang palaging naghahabol tayo. Ngunit nananatili akong may dahilan upang manatiling may pag-asa: noong gabi ng 2023, tanging malalim na pakiramdam lamang natin ang posibilidad na ito, at ngayon ay malinaw na ito ay maaaring pag-usapan nang pampubliko. Ito mismo ay isang pag-unlad.

Hindi ko ipapangako na alam ko ang lahat ng sagot. Gumagawa tayo ng isang bagay na lubos na iba sa pag-iisip ng tao, na maaaring maging mas makapangyarihan kaysa sa atin sa malapit na hinaharap. Ito ay isang ideyang nagpapakumbaba, ngunit binibigyan din ito ng atin ng isang pagkakataon: upang hugasan ito gamit ang aming pinakamahuhusay na mga halaga.

Kung gagawin natin ito nang maayos, ito ay magiging pinakamalaking tagumpay ng sangkatauhan. Kung hindi natin ito gagawin nang maayos, maaaring ito ay isang pagkabigo na hindi natin matatapos.

Kung kakayahan nating panatilihin ang kinabukasan sa mga kamay ng tao, ay isang tanong na masusugpo sa mga susunod na taon.

Tulad ng aming ipinaliwanag kasama si Sam kahapon, ang mga prioridad ng OpenAI ay nakatuon sa tatlong mga pangunahing layunin:

Sagutin ang susunod na yugto ng pag-unlad ng AI sa pamamagitan ng pagbuo ng automated AI researcher, pag-itera kasama ito sa pagpapalit ng mga isyu, at paghahanap ng paraan upang panatilihin ang mga tao sa sariling pagpapabuti ng loop.

Ipalabas ang mga benepisyo ng agham at paglago ng ekonomiya na dala ng mga napakatalino na makina.

Magkaroon ng sariling AGI ang bawat tao.

Ang artikulong ito ay nakatuon lamang sa unang punto, dahil naniniwala akong ito ang pinakamahalaga sa kasalukuyan. Gayunpaman, may malalim akong pag-asa at pasasalamat sa mga karagdagang teknikal na pag-unlad na magdadala ng mga benepisyo. Ang maayos na nakatutok na AI ay maaaring magpalago ng agham, magpapalawak ng mga bagong gamot, at magdala ng malawakang materyal na kayamanan. Ang mabuting at tapat na AI ay maaaring tumulong sa mga tao na harapin ang mga hirap sa buhay at talagang mapabuti ang kanilang kaligayahan at kasiyahan. Ang OpenAI ay naglagay ng malaking pagsisikap upang makamit ang mga benepisyo na ito. Isang halimbawa na nagpapakita ng aking pagmamalaki at nagdudulot ng benepisyo sa aking mga kapaligiran ay ang aming malalim na pagsisikap sa pagbibigay ng impormasyon tungkol sa kalusugan sa ChatGPT.

Anuman ang magandang pananaw sa mahabang panahon ng AI, ang aming karamihan sa atensyon ay dapat nakatuon sa mga susunod na taon. Nasa gitna tayo ng isang transisyon patungo sa isang mundo na puno ng napakatalino mga makina, at kailangan nating siguraduhin na ang transisyong ito ay makabubuti sa tao. Sa isang mundo kung saan maraming gawain ay maaaring gawin ng AI, kailangan nating hanapin ang paraan upang panatilihin ang kakayahang magdesisyon ng tao at itatag ang panloob na halaga ng “pagiging tao.” Iwasan ang sobrang pagkonsentrasyon ng kapangyarihan: ang mga proyekto na dati ay nangangailangan ng libu-libong eksperto, ay maaaring maisagawa sa hinaharap ng ilang tao lamang gamit ang isang malaking computer. Kailangan din nating siguraduhin na ang tao ay laging may kontrol sa kinabukasan, at hindi mababawasan dahil sa walang kontrol na pag-unlad na dulot ng isang dayuhang inteligensya na hihigit sa atin.

Sa kasalukuyan, naniniwala ako na wala pang anumang laboratorio ang nakakamit ng sapat na antas ng pagpapakasal at pagmamasid upang suportahan ang patuloy na paglalawak nito sa pinakamataas na bilis nang may responsibilidad sa mas mahabang panahon. Inaasahan at hinahangad kong maging karaniwan ang pagsasabwatan ng pagpapabagal hanggang sa matatagpuan ang karaniwang pambansang antas ng kaligtasan. Naniniwala rin ako na ang internasyonal na koordinasyon tungkol sa hinaharap na pag-unlad ng AI ay dapat maging pangunahing prioridad ng mga gobyerno ng lahat ng bansa.

1 Ito ay kasama ang pagpapalawak ng game theory, robotics, at sa paningin ng pagkaraan, ang pinakamahalagang isa: ang pagpapalawak ng recurrent networks upang modeluhan ang wika, na nagtatag ng mga nakaraan para sa GPT series research.

2 Ang pangalawang dahilan ng disenyo na ito ay upang maiwasan ang distilasyon. Gayunpaman, ang pagpapanatili ng pagkakamonitorable ng chain of thought ay laging aming malinaw na mas mataas na prioridad sa buong proseso ng pagbuo.