Sobrang drama! Ito ay ang pinakamalawak na buong pagsusuri ng labanan sa palasyo ng Ultraman sa buong internet.
Ang isa pang pangunahing tauhan sa pangyayari, si Greg Brockman, ang numero dalawa sa OpenAI, ay direktang inilahad:
Ano ang nangyari sa loob ng 72 oras pagkatapos ng pagpapalayas ni Ultraman?
Maraming katotohanan na lumalabas, ngunit sobrang sakit:
Walang alam si Greg at Ultraman bago nangyari ang insidente, at hanggang ngayon, ang mga kalahok ay nag-iisip pa kung saan nagkamali.
Ang board ay naisip muna na palayasin si Otman, ngunit sobrang matapang ni Greg, kaya nag-resign na agad sa araw iyon.
Sa unang araw pagkatapos ng pagpapalabas, sila ay nagtipon nang lihim sa bahay ni Otman upang maghanda ng bagong kumpanya, at kahit plano na ang pagdala ng lahat ng empleyado.
Ang board ay nagbago ng desisyon; kasalungat sa pagkakasundo na halos tapos na sa pagbabalik kay Otman, biglaang inapoint ang bagong CEO.
Sa buong weekend, lahat ng mga kalaban ay nagsisikap na humingi ng mga empleyado, ngunit wala sa kanilang sinasadya.
Ang pagbabalik ng Ilya ay nagbigay ng pagkakataon sa Greg.
Isang higit sa isang oras na interbyu, halos sinabi ni Greg ang buong kuwento ng epikong pagbabagot sa Silicon Valley, at sinagot niya ang lahat, kabilang ang kasaysayan ng pag-unlad ng OpenAI, kung bakit nagpasya siyang maging profit-oriented, at kung saan ito pupunta sa hinaharap…
Mula sa pagkakalito noong umalis siya sa Stripe, hanggang sa iyon na offsite sa Napa Valley na nagpasya sa kanyang kapalaran, at patungo sa hindi inaasahang pagbukas sa proyektong Dota, sobrang dami ng impormasyon.
Greg ay nagsawsaw nang ilang beses:
Noong umalis si Ilya, iyon ang iisang pagkakataon kong naramdaman kong ayaw ko na magpatuloy.
Narito ang buong transkripsyon ng interbyu, na pinabuti at pinapadali nang hindi nagbabago sa orihinal na kahulugan.
Pag-uusap kay Greg Brockman, pangulo ng OpenAI
(Ipinapaliwanag ang tanong ni Shane Parrish bilang Q)
Ipinanganak ang OpenAI sa pag-aalinlangan sa sarili
Tanong: Paano itinatag ang OpenAI?
Greg: Alam kong gusto kong magtatag ng negosyo, dahil naniniwala akong ito ay may malaking kahalagahan.
Q: Pero bago mo lang itinatag ang Stripe.
Greg: Tama, pero palaging naniniwala ako na ang problema na solusyunan ng Stripe ay hindi “ang aking problema.”
Mahalaga ito, at nag-invest ako ng maraming taon dito. Ngunit naniniwala ako, kahit may aking tulong o hindi, magiging tagumpay ito.
Kaya noon, unang pagkakataon kong isipin: Ano ang aking misyon na gusto kong ipaglaban buong buhay? Isang isyu na handa kong ipaglaban sa buong buhay ko, kahit pa't tanging magbigay ito ng kaunting pagbabago.
Sagot ay malinaw—AI.
Kung makakaimpluwensyahan mo nang totoo ang direksyon ng pag-unlad ng AI sa mundo, hindi sayang ang buhay mo.
Tanong: Nang plano mong umalis sa Stripe, pinayuhan ka ni Patrick na kausapin si Sam Altman—ano ang nangyari sa usapan na iyon?
Greg: Sinabi ni Patrick sa akin noon na nakakita na si Sam ng maraming kabataan na nasa ganitong sitwasyon tulad ko.
Totoo naman na alam kong ang ibig sabihin ni Patrick ay gustong pagsabihan ni Sam ako na manatili, ngunit pagkatapos mag-usap nang ilang minuto kay Sam, klaro na niya ang aking determinasyong umalis.
Tinatanong ni Sam ako kung ano ang susunod kong gagawin, at sinabi ko sa kanya na isinasaalang-alang kong itatag ang isang AI company.
Sina Sam, sinabi niya na isinasaalang-alang niya rin ang paggawa ng ilang bagay sa larangan ng AI, at umaasa na mananatili silang nakaugnay.
Pagkatapos umalis sa Stripe, nag-usap ulit ako kay Sam, at sa pagkakataong iyon, sinabi ni Sam na mayroon na siyang mas tiyak na ideya at inanyayahan ako sa dinner noong Hulyo.
Nalalaman ko na ang paksa ng dinner noong panahong iyon ay: Ngayon na ba ang sobrang huli upang magtatag ng isang laboratorio at mag-recruit ng mga pinakamahuhusay na siyentipiko sa buong mundo? May pagkakataon pa ba?
Ano ang taon?
Greg: 2015.
Noon ay halos monopoli ng DeepMind ang lahat ng pinakamahuhusay na mga researcher, pondo, at data. Lahat tayo ay nag-iisip, kaya pa bang gumawa ng bagong bagay mula sa simula?
Isinama ng lahat ang maraming hirap, ngunit walang makapagbigay ng totoong imposibleng dahilan.
Kaya noong gabiyon, sinasakyan ni Sam at ako ang sasakyan pabalik sa lungsod. Tiningnan namin ang isa't isa, at sinabi niya, kailangan nating gawin ito.
Sa susunod na araw, nagsimula na ako sa buong paghahanda.
Mahirap ito, lahat ay malabo. Mayroon lang tayong isang pangarap: gustong gawin namin ang pangkalahatang taohan na inteligensya upang magdala ng positibong epekto sa mundo at ibahagi ang benepisyo sa mga tao. Ngunit wala kaming ideya kung paano ito gawin o paano hikayatin ang iba na umalis sa kanilang trabaho at sumama.
Sa simula, ang pangunahing koponan na aking itinakda ay si Ilya, John Schulman, at ako. Nagpassa kami ng maraming oras kasama upang talakayin ang iba’t ibang pangarap at posibleng paraan ng paggawa ng laboratorio, ngunit hindi pa rin ito naging malinaw.
Bahagi ng dahilan ay ang pag-aalala na kulang sa sapat na lakas ang proyekto, kaya iniisip ni Dario na kailangan niyang magsilbi muna sa kanyang sariling pangalan, at hindi sigurado kung ang proyekto ay angkop para dito.
Samantala, sinimulan kong ipaglaban si John Schulman para sumali, at sumang-ayon siya. Ngunit pinili ng huling huli ni Dario at Chris na pumunta sa Google Brain, kaya natirang tanging ako, Ilya, John, at ilan pa ang team.
Noong panahong iyon, may mga sampu-sampu ang nagpahayag ng interes, ngunit lahat ay naghihintay kung sino pa ang sasali.
I asked Sam how we could break this deadlock, and Sam suggested taking everyone out for an off-site event. We chose Napa Valley, and I even made T-shirts.
Wala pa kaming opisyal na alok, wala pang kumpanyang istruktura, wala nang anuman. Mayroon lang kaming isang ideya, isang pangarap, isang misyon.
Ngunit nang hingi namin ng tulong, sa araw na iyon sa Napa Valley, naging malinaw ang aming inspirasyon at halos isinakop ang teknikal na landas para sa susunod na sampung taon:
1. Lutasin ang problema sa reinforcement learning. 2. Lutasin ang problema sa unsupervised learning. 3. Matututo nang paunti-unti sa mas kumplikadong bagay.
Pagkatapos ng pribadong pagpupulong, ipinadala ko ang offer sa bawat isa at sinabi na magsisimula tayo sa susunod na 2-3 linggo; kung interesado kang sumali, mangyaring sabihin.
Tanong: Bakit noong panahong iyon ay tila mahirap lapasan ang DeepMind?
Greg: Noong panahong iyon, ang Google DeepMind ay ang malaking puwersa sa larangan ng AI—may sapat na pondo at nakamit ang malalaking tagumpay, kahit pa bago pa ang paglabas ng AlphaGo, ang kanilang kalakasan ay malinaw na nakikita.
Kaya tayo'y nagtatanong: Totoo ba na maaaring itayo ang isang independiyenteng bagong institusyon? Ang sagot ay hindi malinaw.
Pagtatawag sa mga dahilan ng non-profit
Q: Kailan mo nalaman na hindi makakapagpatuloy ang daan ng non-profit?
Greg: Noong 2017, nagsimula tayong mabuti na isipin kung paano talagang maisasakatuparan ang aming misyon, kung paano talagang itayo ang AGI. Isinagawa namin ang pagkalkula sa pangangailangan ng computing power, at natuklasan namin na kailangan ng malawak na kalakasan ng mga kagamitan.
Noong iyon, nakakita kami ng Cerebras, na nagrerepresenta ng isang espesyalisadong computing hardware na may performance na mas mataas kaysa sa aming sariling kalkuladong computing power.
Kaya namin naunawaan na kung makakabili kami ng maraming ganitong kagamitan, makakakuha ng eksklusibong akses sa mga produkto ng Cerebras, at makakabuo ng napakalaking data center, ito ay magdadala sa amin ng malaking kahihintay.
Ngunit may limit ang pagpupulong ng mga non-profit organization, kaya’t hindi ito makakatulong sa ganitong antas ng investimento. Kaya’t pagsang-ayon sina Elon, Sam, Ilya at ako na ang tanging paraan para makamit ng OpenAI ang misyon nito ay ang paglikha ng isang profit-oriented affiliate entity.
Ang sariling "GPT moment" ng OpenAI
Tanong: Kailan mo naunawaan na magiging magkakaiba ang lahat? Bago o pagkatapos ng Dota project?
Greg: Ang paraan ng paggawa ng OpenAI ay isang serye ng mga sandaling naging totoo ang mga pangarap. Bawat beses na akala mo'y naiintindihan mo na ang buong larawan, agad mong makikita ang mga bagong hangganan.
Noong unang pagbuo ng team, naramdaman namin ang kasiyahan dahil talagang nakapag-ayos na kami ng team at maaari nang simulan ang aming misyon. Ngunit sa susunod na araw, nang pumunta kami sa opisina, natuklasan namin na wala kahit isang whiteboard.
Ang Dota project ay aming unang malaking tagumpay, at talagang nagbigay sa amin ng paniniwala na kung gagawin natin ang lahat ng tama, talagang makakamit natin ito. Ito ay nagpapatotoo na kung pagsasamahin natin ang computing power, lalo na ito ay papalawakin, mas lalakas ang resulta.
Mayroon ding maraming ganitong mga sandali sa GPT series, tulad ng isang maagang papel tungkol sa unsupervised sentiment neuron, kung saan unang beses naming nakita ang semantika na lumabas mula sa pagtuturo ng language modeling objective.
Sinusubaybayan mo ang modelo upang makapaghula ng susunod na karakter, at biglaan mong natanggap ang isang neural network na nakakaintindi ng emosyon at nakakadistingguho sa positibo at negatibo.
Sa that moment, naramdaman namin na binubuo namin ang mga machine na nakakakita ng semantika, hindi lamang mga patakaran sa gramatika.
At nang lumabas ang GPT-4, may mga tao na nagtanong kung bakit ito ay hindi pa AGI. Talagang kayang nito magtalakay nang maayos, halos sumasabay sa lahat ng aming dating depinisyon ng AGI, ngunit kulang pa sa huling hakbang.
Sa kabuuan, mayroong maraming katulad na mga sandali na nagbigay sa amin ng pakiramdam na nagkakaroon ng katotohanan ang ating pangarap, ngunit ang mga sandaling ito ay malalayong wala pa; mayroon pa tayong higit pang mga pagbubukas, at pagkatapos ay makikita natin na ang susunod na yugto ay maaaring posible.
Q: Bakit mahalaga ang Dota?
Greg: Ang Dota ay isang nakakatulong na sandali; ito ay hindi tulad ng Deep Blue na naglalaro ng chess o AlphaGo na naglalaro ng go na may malinaw na mga patakaran, ito ay real-time na interaksyon sa isang kumplikadong bukas na kapaligiran na mas malapit sa totoong mundo.
Totoo naming nais namin gamitin ito para i-verify ang bagong algorithm, dahil ang reinforcement learning noong panahong iyon ay hindi maaaring i-scale. Ngunit habang patuloy nating i-extend ang computing power, nakalampas na namin sa pinakamahusay na human player gamit ang sobrang simpleng PPO algorithm, na nagpapatotoo na:
Malaking kapasidad ng computing + simpleng algoritmo, talagang maaaring gawin sa praktika.
Lalo na sa napakagulo na kapaligirang ito, kung saan hindi mo maaaring i-program, i-predict, o i-search, kailangan mo ang halos tao-katulad na intuisyon.
At that time, ang ginamit na neural network ay napakaliit, may bilang ng synapses na katumbas ng utak ng isang insekto, at maaari nating isipin: Ano ang mangyayari kung i-extend natin ang ideyang ito sa sukat ng utak ng tao? Ito ay isang napakagandang tanong.
Tanong: Dahil nauusapan natin ang paghuhula, may pagkakaiba ba sa paghuhula at pag-iisip?
Greg: Naniniwala ako na may malalim na ugnayan sa pagitan ng dalawa.
Ang pagtataya lamang sa susunod na salita ay tila simpleng gawain, ngunit kung kayang mong tumpak na tayaan ang susunod na salita ni Einstein, kung gayon ay kahit anong tao, ikaw ay magkakapareho ng talino ni Einstein.
Hindi ang pangunahing layunin ng pagtataya ang paghula sa mga alam na impormasyon, kundi ang pag-iisip ng susunod na pag-unlad sa mga bagong sitwasyon na hindi pa nakikita, na malalim na nauugnay sa kalikasan ng isip.
Ang mga modelo ng pag-iisip sa kasalukuyan ay nahahati sa dalawang hakbang:
1. Walang pagmamalasakit na pagkatuto: Pagsasanay ang modelo sa pamamagitan ng paghuhula kung ano ang susunod na mangyayari. Mas static at mas obserbasyonal ang data. 2. Pagsasanay na may pagsasakripisyo: Pagsasanay ng AI sa sarili nitong data. Ito mismo ang gumagawa ng mga aksyon, nakakakuha ng feedback mula sa mundo, at nag-aaral mula dito. Ang paraan ng pagsasanay ay pangunahing paghuhula, paghuhula ng resulta pagkatapos ng aksyon, at pagsusulong batay sa epekto.
Ngunit sa pangkabuuang pagtingin, ang teknolohiya na ginagamit sa dalawang yugto ay ganap na magkakatulad, parehong paghuhula, lamang iba ang mga organisasyon ng data.
The Ultraman standoff incident
Tanong: Kailan nagsimula ang pagiging malalim ng loob na pagkakaibigan?
Greg: Ang espesyal na bagay sa OpenAI ay ang aming paniniwala na maaari naming gumawa ng AI na katumbas ng antas ng tao, na nangangahulugan ng mataas na panganib.
Sino ang gumagawa ng mga desisyon? Ano ang mga halagang nakabatay sa mga desisyong ito? Ang mga bagay na hindi mahalaga sa karaniwang kumpanya, tulad ng office politics, ay pinapahalagahan dito bilang may kinalaman sa pagpapalawak ng sangkatauhan.
Naniniwala ako na ito ay nakakaapekto sa maraming pag-unlad sa loob ng OpenAI, at ito ang pinagmulan ng lahat ng malalaking konflikto.
Isa sa pangunahing driverr sa larangan ng AI ay ang pagkakaroon ng hangarin ng mga tao na maging nasa sentro ng teknolohikal na rebolusyon at maging tandaan, kaya hindi ito problema lamang ng OpenAI.
Ang teknolohiya ng AI ay likas na piraso-piraso; sa ilalim ng malakas na presyon, maaaring magresulta ito sa isang diamond o magdulot ng mga butas, kaya madalas mong makikita ang pagkakabuo ng mga diamond sa maliliit na grupo dahil sa kanilang pagkakaisa at mataas na pagkakatiwala sa isa't isa. Ngunit minsan, sila ay maaaring magkahiwalay at maglakad ng kanilang sariling daan.
Naniniwala ako na sa larangan ng AI, ang pagkakaiba-iba ng mga paraan at mabuting kompetisyon ay normal, at nakakatulong ito upang mas ligtas nating pag-unlad ang teknolohiya at pagtalakay sa mga mahirap na isyu tulad ng kaligtasan at etika.
Kaya ang malusog na pagtalakay ay laging mayroon sa loob ng OpenAI, ngayon naman, ito ay nangyayari sa buong mundo.
Q: Kaya balik tayo sa sandali kung kailan natutuhan mo na inalis si Sam, saan ka nandito?
Greg: Nasa bahay ako noon. Natanggap ko ang isang text na nagpapahiwatig ng pagtawag sa video, at napansin kong ang lahat ng mga miyembro ng board, maliban kay Sam, ay nasa loob. Agad kong naramdaman na hindi magandang balita.
Sinabi sakin nila na desisyon na ng board na tanggalin si Sam. Pareho ang impormasyon na natanggap ko sa pampublikong pahayag, kaya sinubukan kong tanungin ang mga detalye, ngunit tinanggihan ako.
Pagkatapos ay sinabi pa nila na tinanggal din ako sa board, ngunit mananatili ako sa kumpanya dahil mahalaga ako sa kumpanya at sa misyon nito.
Huling hiningi ko ang dahilan, ngunit muli ay tinanggihan ako. Sa huli, sinabi sakin nila na sa bagong arkitektura, maaaring makakuha ako ng feedback. Ito ang nilalaman ng tawag na iyon.
Tanong: Ano ang naiisip mo noon? Naramdaman mo ba ang galit?
Greg: Hindi, simple lang ako na iyon ay mali, ngunit malamang ko naiintindihan kung ano ang nangyari.
Ano ang pagkakataon mong nalaman kung ano ang sanhi ng lahat ng ito?
Greg: Ang sagot ay may dalawang bahagi. Una, naniniwala ako na patuloy akong natututo ng mga bagong katotohanan, mga bagay na isipin ng iba. Sa ilang paraan, ito ay maaaring maipaliwanag bilang kakulangan sa komunikasyon, at biglang nalalaman mo na mayroong maraming mga bagay na nauna mong pinagbale-wala.
Sa kabilang panig, alam kong bahagya kung bakit ganoon ginagawa ng bawat isa.
Ngunit sa ganitong sandali, hindi na mahalaga ang paghahanap ng dahilan; alam ko lang na ito ay mali. Kaya, pagkatapos kong tapusin ang tawag, agad kong sinabi sa aking asawa na gusto kong umalis, at sumang-ayon din siya.
Kaya noong araw na iyon, ipinasa ko ang aking resina.
Pagkatapos ng aking pagpapahinto, nagsimula akong makatanggap ng maraming mensahe. Kumita kami ng maraming suporta at pasyon, at marami ang handang sumama sa amin para muling magtatag ng negosyo, kasama na ang Jakob, Shimone, at Alexander.
Pagkatapos ay nagtipon kami kay Sam at nagsimula sa pagpaplano ng isang bagong kumpanya.
Sa unang araw, naniniwala kami na ang posibilidad na bumalik si Sam ay only 10%. Kaya, isinagawa namin ang isang pagpupulong sa bahay ni Sam, kung saan dumalo ang marami sa kumpanya, at ipinakita namin sa kanila ang larawan na ginagawa namin. Sa loob ng isang araw, mayroon na kaming bagong larawan kung paano papatakaran ang proyekto.
Noong weekend, kami ay nagpassa rin ng maraming oras sa pag-negosyo sa board at sa kumpanya upang makahanap ng isang makabuluhang daan pabalik.
Noong Linggo gabi, biglang inilagay ng board ng mga direkto ang bagong CEO, na nagpalit sa aking posisyon, at biglaang sumabog ang pagtutol sa kompanya. Sa totoo lang, nandito kami sa opisina noon, at halos tapos na ang pagkakasundo para makauwi na kami, nang biglang magbago ang desisyon ng board.
Ang mga tao ay nagsimulang lumabas sa gusali, at isang kalituhan ang nangyari.
Kumikita kami ng mga video call kasama ang mga taong interesado sa bagong kumpanya, nagpapakalma sa kanila na sasamantala sila, may plano kami. Patuloy naming sinubukan na bumuo ng isang bangka ng selb at para sa isang maliit na grupo ng mga posibleng sumali, ngunit biglang tila nagbago ang lahat ng opinyon at lahat ay nais sumali sa aming bagong kumpanya.
Kinausap ni Sam si Satya, ang CEO ng Microsoft, at simula noon ay patuloy nating pinag-uusapan kung maaari niyang suportahan ang aming bagong proyekto. Nais naming palakasin ang sukat ng ating mga liferaft, tulad ng pagdala ng lahat ng empleyado ng OpenAI.
Noon ay kasalukuyang araw bago ang Thanksgiving, marami ay dapat naglalakbay pabalik sa kanilang mga pamilya, ngunit pinagsama-sama nila ang kanilang mga biyahe, at puno ang opisina.
Nandyan ang bawat isa, kahit hindi sila nakikilahok sa usapan, gusto nilang makita nang personal ang kasaysayang ito.
Pagkatapos, nagsimula ang petition na magkalat. Masyadong maraming tao ang nagsubok na mag-sign nang sabay-sabay, na nagresulta sa pag-crash ng Google Docs, kaya sa huli, pinili lamang ang ilang tao upang mag-record ng mga pangalan upang maiwasan ang sobrang dami ng mga tagapag-edit.
Nalalala ko na umabot ako sa bahay nang mga 5:00 AM, natulog ako ng 45 minuto, at pagkagising ko, siniguro ko ang Twitter at nakakita ako ng tweet ni Ilya at sinuportahan ang petition na nais niyang muli ay magkaisa ang kumpanya.
Iyon ay isang malaking pagkakataon para magpalaya. Sobrang nagpapasalamat ako, at naririto ang pagkakataon na muling i-assembly ang lahat at muling magsimula.
Q: Ikaw at si Ilya ang nagtatag ng kumpanyang ito, ano ang iyong nadarama tungkol sa inyong relasyon pagkatapos ng pangyayaring iyon?
Greg: Mahirap ito. Sobrang malapit namin ang ugnayan—siya ang nagsisilbing pangulo sa aking kasal, at marami tayong dinanas na napakahirap na panahon. Pero may mga taas at baba man lang sa anumang ugnayan.
Pagkatapos ay nag-wala kami ng maraming oras para talagang makipag-usap, subukang maunawaan at sabihin ang mga bagay na nakumpuni o hindi sinabi sa pagitan namin. Sa pamamagitan ng prosesong ito, naniniwala akong natamo namin ang isang napakagandang kalagayan.
Para sa akin, narito na ang wakas ng lahat ng nangyari.
Tanong: Ano ang iyong nadarama tungkol sa katapatan ng mga empleyado na iyong nag-iiwan?
Greg: Naaalala ko nang malalim ang pagkakataong ito. Hindi ko ito siniguro o inaasahan.
Sa tingin ko, ang aking istilo ng paglalayong pangulo ay ang isang lider na nasa harap, sumisikap na maging unang naglalakad, minsan ay may emosyon; hindi ako laging tingnan kung kasama ba ng lahat, kundi patuloy lang akong umaabot.
Ngunit nang dumating ang mga tao upang tulungan sa pagbuo, naramdaman ko ang malalim na pasasalamat at naisip kong lalong lumampas sa aking mga inaasahan sa lahat ng aspeto.
Tanong: Kaya bumalik lahat sa huli?
Greg: Sa katotohanan, sa buong weekend, lahat ng mga kalaban ay naghahangad ng pagkakataon. Nakakatanggap ang mga tao ng iba’t ibang alok, ngunit sa weekend na iyon, hindi namin nawala ang sinuman, wala silang tumanggap ng alok. Ito ay napakakagiliw.
Sa totoo lang, sinabi sakin ni Coach Bill Belichick na ang pinakamahusay na mga koponan ay hindi naglalaro para sa pera, kundi para sa mga taong nasa paligid nila. Nalalaman ko ang mga salitang iyon nang lahat ay sumuporta sa amin.
Walang duda, ito ay isang diamond moment.
Maikling pagpahinga at pagsusuri sa sarili
Tanong: Pagkatapos ng lahat ng ito, nag-rest ka ng ilang panahon—ano ang nangyari sa loob mo?
Greg: Ito ay isang malakas na karanasan, kahit sa pagdanas nito o pagbabalik para maging harap.
Ngunit sa totoo lang, isa sa pinakamahirap na panahon sa kasaysayan ng OpenAI ay nang umalis si Ilya. Maaaring iyon ang tanging pagkakataon sa kasaysayan ng OpenAI na naramdaman kong ayaw kong magpatuloy.
Nais kong kailangan kong magkaroon ng panahon upang muling makahanap ng sarili ko, muling makita kung bakit ko ginawa ito, bakit ito mahalaga, at bakit ito ay worth ang pagdadasal.
Ano ang iyong ginawa habang ikaw ay nasa pahinga?
Greg: Sinanay ko ang language model sa DNA sequence.
Totoo nang gawin ko ito habang nasa OpenAI ako, para sa Arc, isang nonprofit na institusyon para sa biomedical research. Ikinarapat ko ang aking mga kasanayan sa isang napakalaking iba’t ibang larangan, isang larangan na may malaking kahalagahan para sa akin at sa aking asawa.
May maraming health issues ang asawa ko, at patuloy naming isinasaalang-alang kung paano makakatulong ang AI sa kanyang kalusugan at kahit sa kalusugan ng mga hayop. Ang karanasang ito ay nagbigay sa akin ng pag-unawa na baka maaari nating gamitin ang teknolohiya sa ilang bagong, may-damdaming larangan.
Tanong: Kung ipapaliwanag mo ang lahat ng ito sa isang pahina, mula sa pag-alis ni Sam hanggang sa pagkakalabas mo, ang kolektibong panawagan ng mga empleyado, ang pagpapahinga at pagbabalik, ano ang isusulat mo?
Greg: Sa tingin ko, natutunan kong manatili sa mga bagay na worth it.
Kung mayroon kang mahalagang misyon, ang pagpapanatili mo sa pagtutol sa gitna ng mga pagtaas at pagbaba ang mahalaga. May mga sandali na “lahat ay natapos” at may mga sandali ring “nabalik na tayo.”
Hindi mo dapat pahintulutan ang mga sandaling ito na magdala sa iyo sa tamis; sa panahong ito, kailangan mong palakasin ang iyong personal na katatagan. Dahil kung ikaw ay isang lider, ang mga tao ay maghahanap sa iyo ng katatagan, suporta, at direksyon patungo sa pag-unlad.
Ang aking pinagsisikapang palakasin ay ang kakayahang maunawaan ang mga detalye ng aming ginagawa at ang kahulugan ng bawat desisyon, samantalang nananatiling matatag.
Sa ilang pagkakataon, maraming beses kong binabase ang OpenAI sa pananaw ng kawalan ng siguraduhan—naiisip kong hindi ko alam kung ano ang tamang sagot, kung paano ito gawin nang tama, o kung paano sagutin ang mga mahihirap na tanong.
Ngunit marami dito na sobrang matalino at may malakas na opinyon. Kaya sinisikap kong maintindihan ang lahat ng mga opinyong ito at maghanap ng paraan upang i-integrate sila. Minsan, ito ang tamang gawin. Ngunit minsan, makikita mong ang mga opinyong ito ay magkakasalungat at imposible na parehong tama.
minsan ay kailangan mong gumawa ng pagpili, alam mong ibig sabihin nito ay mayroong magiging malungkot, may magtatanggal, at may makakaramdam na pinagkakaitan.
Ang ginagawa kong pagsisikap ay ang pagkakaroon ng mas malakas na pagkakaroon ng sariling kamalayan, at ng kamalayan na kailangang gumawa ng aksyon kapag sigurado ka sa isang bagay.
Sa pagbabalik-tanaw sa kasaysayan ng OpenAI, naniniwala ako na may ilang bagay na gustong kong gawin nang iba’t iba noong unang panahon.
Karaniwan ay naghihintay tayo nang sobra sa isang bagay—alam namin na hindi angkop ang isang tao sa isang tungkulin, naniniwala tayo na hindi tamang direksyon ang isang teknolohiya, at isipin namin na hindi magtatagumpay ang isang paraan ng pagpapatakbo ng proyekto, ngunit naghihintay pa rin tayo.
Ito ang aral na natutunan ko sa aking pagsisikap, at isang aspeto ng aking pag-unlad habang inaayos ko ang aking pag-iisip tungkol sa OpenAI, Stripe, at kahit sa mga proyekto ko noong panahon ng kolehiyo.
Naniniwala ako na ang paraan kong gumagawa ay ang pagmamahal ko sa araw-araw na mga gawain, sa personal na kontribusyon, sa software, at sa pag-iisip ng mga problema, ngunit nagsisiguro rin akong malalaman ang kapaligiran kung saan ginagawa ang mga bagay na ito.
Sa totoo lang, handa akong ipagpalit ang “kasiyahan ng unang klase”—ang mabilis na pagkakaroon ng kasiyahan, tulad ng paggawa ng isang bagay sa kasalukuyan—para sa “kasiyahan ng ikalawang klase”—ang mga bagay na nakakapagod sa kasalukuyan ngunit may matagalang halaga.
Sa pamamagitan ng paglikha ng isang kapaligiran, pinapayagan mo ang iba na magawa ang mga mahirap na gawain at makamit ang mga malaking tagumpay. Kaya, ang paglikha ng isang kapaligiran ay natural kong tendensya, at hindi ito laging pinakamadali. Dapat talaga kang handa na harapin ang malaking personal na paghihirap.
Laging sinasabi ni Ilya, "Dapat mong harapin ang paghihirap"; kung hindi ka naghihirap, hindi ka nagpapahalaga. Naniniwala akong may malalim na kahulugan dito.
Tungkol sa pananaw ni Ilya, nakakainteres sa akin ang kaniyang natatanging paraan ng pagsasalita, kung saan ang mga salitang pinipili niya ay laging may malalim na inspirasyon.
Ang larawang ito ng “pagdurusa” ay isang bagay na palaging isinaisip namin sa buong paglalakbay namin sa OpenAI. Mula sa simula, mayroon kaming maraming kawalan ng siguraduhan, at bawat bagay ay napakahirap, napakalabis na hindi sigurado.
Marami ang nakakakita ng mga problema sa ilalim ng rug at sinasabing pumunta lang. Sa tingin ko, ito ay negatibong bahagi ng kultura ng Silicon Valley, kung hindi man ay stereotipo nito, ngunit naniniwala ako na hindi ito gumagana sa larangan ng AI, sa OpenAI, at hindi namin ito ginawa kailanman.
Ang paraan namin sa pagpapatakbo ay palaging nagsisimula sa pagharap sa mga mahigpit na katotohanan at pag-unawa sa tunay na kalagayan. Naniniwala ako na ito ang tumutulong sa amin na mag-isip nang iba’t ibang paraan, at hindi magiging sasakop sa mga akademikong papel na isinusulat sa mga unang yugto—ito ay base, ngunit malayo sa sapat.
Pagkatapos ay nagsimula ka na mag-isip ng mas malalaking tanong: Ano ang kailangan upang buuin ang AGI? Hindi ito masaya. Dahil nalaman mo na wala pang umiiral na daan.
Kailangan mo ng pondo, ngunit wala ka pang mekanismo para makalikom ng pondo. Pinaghirapan mo ito, at kami ay napakadakilang pinaghirapan. Baka makalikom ka ng $100 milyon o $500 milyon, ngunit $1 bilyon, sobrang mahirap.
Ngunit sa pamamagitan ng mga mapagkukunan na ito, nakamit namin ang magagandang tagumpay; walang ibang paraan kung hindi tayo ay sumasalungat sa mga hamon at sumisikap na maintindihan ang katotohanan ng aming layunin.
Tanong: Ano ang aral na kailangan mong muli at muli pang matutunan?
Greg: Gumawa ng mahirap na desisyon, gawin ang mahirap na usapan.
Ano ang pinakamahusay na payo na natanggap mo?
Greg: Ito ang natutunan ko sa klase sa pagsulat para sa mga bagong estudyante sa Harvard. Para sa kalinawan at komunikasyon, patuloy na alisin ang mga salita.
Tanong: Paano mo sinusuri ang impormasyon?
Greg: Maraming basahin, aktibong i-classify at i-proseso.
Q: Sino ang iyong halimbawa, at bakit?
Greg: Gauss at Descartes. Sila ay mga taong may malalim na pag-iisip, mas nangunguna sa kanilang panahon, at mga may paningin—sila ang nagdala ng tunay na pagbubukas na nagbago sa ating paraan ng pag-iisip at pamumuhay.
Tanong: Ano ang maliing pag-unawa sa mundo tungkol kay Greg Brockman?
Greg: Naniniwala ako na hindi nalalaman ng mga tao kung gaano ako nakapokus sa misyong ito, at ang pagkakapokus na ito ay nagdala ng malaking sakit sa aking sarili sa maraming aspeto. Pero naniniwala ako na ang teknolohiyang ito ay makakatulong na bigyan ng kapangyarihan ang mga tao at gawing kapaki-pakinabang ito para sa lahat. Sobrang gusto kong tulungan upang maisabuhay ito.
Pangunahing pagtataya sa industriya ng AI
Ano ang gusto mong maintindihan ng mga hindi teknikal tungkol sa AI?
Greg: Ito ay magiging isang makabuluhang puwersa sa kanilang personal na buhay, kung saan sila ay makikinabang, at ito ay magpapabilis sa pag-unlad ng agham at medisina, at makakaapekto nang totoo sa bawat tao.
Tanong: Bakit sobrang masama ng OpenAI sa pagtatawag ng mga modelo?
Greg: Hindi ko kayang sabihin sa iyo iyon. (doge)
Tanong: Nasa paligid na ba tayo ng punto kung saan ang AI ay magpapabilis nang eksponensyal sa pag-unlad nito?
Greg: Naniniwala ako na nasa punto tayo na ang AI ay gagamitin sa sarili nitong pag-unlad, at lalalo itong mabilis.
Totoo nang nangyayari ito simula pa noong ChatGPT. Ginamit natin ang ChatGPT upang mapabilis ang proseso ng pag-develop ng 10% o 20%. Ngayon, mayroon na tayong mga nakakatutok na mga tool sa pag-code na talagang nagbago sa paraan ng pagkumpleto ng software engineering.
Ang karamihan sa aming ginagawa sa produksyon ng modelo ay may bottleneck sa software. Malapit na kaming pumasok sa susunod na yugto, kung saan ang AI ay magpapahayag din ng sariling mga ideya sa pananaliksik at gagawa ng pagsubok at pagpapatakbo ng mga eksperimento. Kaya naniniwala ako na ang bilis ng iterasyon at inobasyon ay magpapatuloy na mabilis dahil sa mga bagay na aming ginagawa sa produksyon.
Q: Saan ngayon ang proporsyon ng code na isinulat ng AI?
Greg: Mahirap sabihin kung gaano karaming code ay hindi isinulat ng AI. Ang proporsyon ay patuloy na dumadaan patungo sa zero.
Sa kasalukuyan, mas masidhi ang AI kaysa sa tao sa pagbuo ng code nang may tamang konteksto at istraktura. Sa bahagi ng istraktura ng code, ang mga eksperto na tao ay patuloy na mas mahusay, ngunit ang praktikal na pagsusulat ng code ay karamihan na gawa ng AI.
Q: May mga bagong ideya ba ang ipinresenta ng AI na hindi mo inaasahan?
Greg: Tumatayo na tayo sa layuning ito. Halimbawa, sa pagdidisenyo ng chip. Noong nakaraang taon, sa ating sariling pagdidisenyo ng chip, sinubukan nating mas mabuti na i-angkop ang teknolohiya upang maliit ang lugar na ginagamit ng circuit.
Nakita namin na ang mga optimisadong solusyon na ginawa ng modelo ay nasa aming checklist, kaya hindi ito nagbigay ng bagong bagay na hindi pa isipin ng tao, ngunit mas mabilis itong natapos sa paraang hindi namin kayang gawin dati.
Halimbawa, sa nakaraan sa quantum physics, nalutas namin ang isang partikular na pisikal na problema, at ang resulta ay kabaligtaran ng inaasahan ng akademya, at natanggap namin ang isang magandang at simpleng pormula.
Kaya kumukuha ng mga bagong ideya mula sa mga modelo ay lubos na maaaring gawin. Sa susunod, gagamitin namin ito sa mas mahihirap na mga larangan, o kaya'y kailangan pa natin ng higit pang konteksto sa totoong mundo. Tanging simula lang natin ito. Pero mayroon kaming plano kung paano ito isasagawa, at marami pa ring gagawin namin.
Tanong: Kung ang mga modelo ay batay sa reinforcement learning, naniniwala ka ba na sila ay magiging evolved upang sabihin lang sa atin ang gusto nating marinig?
Greg: Tunay naming naranasan namin ang isang pag-unlad ng isang modelo na nagtatapos upang magseserbisyo sa mga preferensya ng user.
Nakita namin na sa ilang panahon noong nakaraang taon, ang modelo ay nagsimulang mag倾向 na sabihin sa iyo ang gusto mong marinig, at nagawa namin ang mga pagbabago para sa ganitong dahilan: nais naming siguraduhin na ang tunay na pagkakasundo ng modelo ay ang pagtutulungan sa iyo upang makamit ang iyong mga layunin, ang iyong mga pangmatagalang layunin.
Maaaring maganda pakiramdam nang marinig ang pagtutugon ngayon, ngunit iyon ay hindi ang totoong nais mo. Maaaring paborito ng ilan, ngunit iyon ay hindi ang totoong nais ng karamihan.
Kaya, talagang nagawa namin ang malaking teknikal na pag-unlad upang siguraduhin na ang aming pagtatrain sa AI ay hindi magdudulot ng tinatawag na reward hacking. Talagang nais naming siguraduhin na may mabuting signal tungkol sa layunin, at hindi lamang sa mga pansamantalang bagay na makakapagpapaliwanag sa iyo nang mabilis.
Para sa akin, ito ay maaaring isa sa pinakamahalagang bahagi ng pananaw na dadalhin tayo ng personal na AI at personal na AGI: siguraduhing hindi ito tungkol lamang sa mga bagay na mukhang mabuti sa kasalukuyan, kundi tungkol sa tunay na pagkakasundo sa iyong pangmatagalang kagalingan, pangmatagalang layunin, at mga bagay na talagang nais mo.
I think this is what truly empowers people.
Tanong: Ang kasalukuyang trend ay ang paglalabas ng mga preview model—doon ba ito dahil sa limitasyon sa computing power?
Greg: Sa kabuuan, patungo tayo sa isang mundo na dinudrehan ng computing power.
Hindi na lang ito tungkol sa mabilis na pag-sagot sa isang tanong, kundi nagsisimula na itong lumalalim, gumagamit ng malaking bilang ng token upang i-integrate ang iba’t ibang pinagmulan ng data at maghanap sa database ng kaalaman ng kumpanya upang lutasin ang mga mahihirap na problema at isulat ang software na mas malakas kaysa sa kakayahan ng tao.
Lahat ng ito ay batay sa computing power, at ang computing power ay malalim na kulang. Kung bawat tao sa mundo ay may isang GPU, iyon ay 8 bilyon na GPU, at ang kasalukuyang ating landas ay malayo pa sa antas na iyon. Ngayon, ang ilang libo o milyon na GPU ay itinuturing na malaki na.
Kaya sa pagtrato, mas nais namin magpaunlad ng computing power upang tugunan ang demand na aming nakikita. Sobrang atentong tutuparin namin ang aming misyon na ipaabot ang mga model sa lahat at gawing pangkalahatang available ito.
Tanong: Noong una, siniraan kayo dahil sa malaking pagsisikap at pondo na inilagay ninyo sa data center. Paano na ang sitwasyon ngayon?
Greg: Naniniwala ako na ito ay magdadala sa atin ng kahusayan. Hindi lang para sa negosyo, kundi pati na rin upang talagang ipadala ang teknolohiya sa bawat tao.
Ang future computing power ay magiging prioridad para sa mga malalaking misyon, tulad ng paglutas ng kanser, at maaaring maisagawa ito sa taong ito.
Sa totoo lang, ang pagkakabahagi ng computing power ay ang pangunahing isyu sa kinabukasan ng lipunan; may limitadong computing power lamang, kaya kailangan ng prioridad, ngunit nananatili kaming naniniwala na kailangan ng bawat tao ang pagkakaroon ng computing power.
Ito ang dahilan kung bakit mayroon tayong libreng bersyon ng ChatGPT, at nagtatrabaho kami upang siguraduhin na makagamit ang mga tao sa teknolohiyang ito.
Tanong: Sa loob ng OpenAI, paano ninyo sinusuri ang balanseng pagitan ng consumer at enterprise business?
Greg: Ang nakikita kong pinakamalaking bagay sa huling panahon ay ang pagkakonsentrado.
Dahil ang larangan na ito ay ang pagkatao ng mga pagkakataon, maaari mong gamitin ang AI sa anumang problema, anumang gusto mong gawin, lahat ay posibleng mangyari. Ngunit ang ating problema sa kasalukuyan ay ang limitadong computing power.
Kaya naniniwala ako na sa susunod na yugto ng OpenAI, ang enterprise business ay malaking bahagi, dahil ang ekonomiya ay nagsisigaw na maging economy ng computing power. Ganon na ang software engineering, at gagawin nito ang bawat larangan na gumagamit ng computer.
Kaya kailangan nating tulungan ang mga tao doon sa pag-deploy ng mga modelong ito, pag-unawa kung paano gamitin sila, at kung paano makakuha ng pinakamataas na benepisyo mula sa kanila.
Ang hangganan sa pagitan ng enterprise at consumer ay magiging malinaw din dahil mas madaling magsimula ng negosyo kaysa kailanman. Nakita na natin ito.
Q: Sa tingin mo ba ay mayroon tayong space data center?
Greg: Naniniwala ako na mayroon tayong data centers saan-man, ngunit mayroon pa ring maraming teknikal na problema sa mga data center sa kalawakan.
Tanong: Ano ang iterative deployment? Bakit ninyo ginagawa ito?
Greg: Ang iterative deployment ay isa sa mga pangunahang pundasyon ng OpenAI sa pagtrato kung paano gamitin ang teknolohiyang ito upang makatulong sa tao at matupad ang kanilang misyon.
Ang pagpapalabas ng isang produkto na isinulat nang lihim at sa isang pagkakataon lamang ay may mataas na panganib, dahil hindi mo maipapahalagahan ang mga problema sa totoong mundo. Ang pagpapalabas sa pamamagitan ng pagpapalawak ay nagbibigay sa amin ng pagkakataon na makakita ng mga panganib sa praktika at mabilis na ayusin ang mga ito. Halimbawa, pagkatapos ng pagpapalabas ng GPT-3, hindi namin inaasahan na ang pinakamalaking pang-aabuso ay ang mga spam na mensahe tungkol sa kalusugan—nagbigay ito ng pagkakataon para makatugon nang maaga sa pamamagitan ng praktikal na karanasan.
Kaya ang konsepto ng iterative deployment ay ang pagpapalabas ng intermediate version ng teknolohiyang ito.
Hindi ito dahilan para mag-deploy nang walang pag-iisip; kailangan pa rin mong isipin sa bawat hakbang ang aming pinakamahusay na paghuhusga tungkol sa lahat ng posibleng pagmamalabis, ano ang mga kahinaan at panganib, at pagkatapos ay magamot ang mga ito. Pero makikita mo rin ang katotohanan, tingnan kung tama ang iyong paghuhusga, matututo mula sa katotohanan, at gawin ang mas mabuti next time.
Sa kasaysayan ng OpenAI, naniniwala kami na kung mayroon nang iba ay nag-deploy ng makabagong teknolohiya, baka sila ang makapagbigay ng sagot. Ngunit hindi kailanman napakasimple ng mga bagay.
Totoo silang may karunungan at pananaw, at aming kinuha ito. Ngunit naramdaman namin na kami ang pinakamalapit sa teknolohiyang ito, at dahil kami ang gumawa nito, mas maunawaan namin ang tamang paraan ng pagbuo nito.
Tanong: Kung ang isang advanced na modelo ay nagpapahalaga sa kaligtasan bilang pangunahing pag-aalala, samantalang ang isa naman ay hindi, paano mo ito ihahambing?
Greg: Naniniwala ako na natuklasan natin na ang seguridad ay isang pangunahing katangian ng produkto, at walang gustong mag-modelo na hindi nagkakasundo sa kanila.
Kaya kami ay nag-invest sa seguridad, posibleng higit pa sa anumang akala ng mga tao, at posibleng higit pa sa anumang ibang laboratorio.
Laging naniniwala ako na hindi makabuluhan ang pagpapalawak ng teknolohiya at pagkakaroon ng matagumpay na produkto nang hindi isinasakripisyo ang seguridad. Kailangan mong mag-isip nang pangmatagalang para sa iyong negosyo at sa mga bagay na ikaw ay gumagawa, at ito ay tungkol sa paano magtratuhin ang model, at paano makakuha ng feedback loop.
Sasabihin ko lang na tiniyak namin ang kaligtasan bilang bahagi ng aming misyon, na nakikita sa aming mga produkto at sa mundo.
Q: Kapag sinabi ko sa mga tao na gagawin ko ang interview na ito, karaniwang reaksyon nila ay pag-aalala sa kanilang trabaho at pagkakaroon ng kawalan ng sigurado. Ano ang sasabihin mo sa kanila?
Greg: Totoo naming hindi tiyak kung paano magiging pag-unlad ng teknolohiyang ito. Ang paraan ng pag-unlad nito ay nakakagulat; ang ating kasalukuyang AI at ating kasalukuyang mundo ay hindi ganun kagaya ng mga inaasahan sa mga science fiction. Ang ilang mga bagay na tila malinaw na magiging katotohanan, kapag nangyari na sila, ay hindi ganun kagaya ng inaasahan.
Naniniwala ako na ang mga tao ay madaling makita kung ano ang maaaring mawala sa kanila. Ang pagbabago ay darating, at ito ay hindi maiiwasan, ngunit mas mahirap ang paghuhula kung ano ang maaaring makamtan mo.
Halimbawa, isipin kung paano unang naiintindihan ng mga tao noong 1950 ang Uber—una, kailangan mong isipin ang computer, cellphone, at GPS. Sa katotohanan, mayroong maraming teknolohiya na kasangkot dito, ngunit nangyari ito. At milyon-milyon pang mga kaso ay nangyayari nang sabay-sabay.
Kaya ang aking pananaw sa AI ay tungkol sa pagpapalakas, tungkol sa pagkilos ng tao. Ito ay nangangahulugan na ang ilang institusyon, trabaho, at mga bagay na inisip nating maaaring matatag ay maaaring hindi na ganito katatag kaysa dati.
Kaya ito ay nakakaapekto sa mga tao, ngunit ang mas malalim na tanong ay: Ano ang natanggap mo? Paano ka nakikinabang dito?
Ngayon ay maaari ka nang maging isang tagagawa, maaari mong gawin ang anumang bagay, anumang bagay na iyong maiisip ay maaaring maging totoo.
Paano magpapalakas ng kakayahang lumikha?
Greg: Tumalikod nang malalim sa teknolohiyang ito.
Nakikita ko na ang mga taong nakakakuha ng pinakamaraming benepisyo mula sa pagpapalit ng teknolohiya ay ang mga nagsimula na sa nakaraan henerasyon. At ngayon, mas mababa kaysa kailanman ang hadlang para subukan ang mga ito.
Kaya naniniwala ako na magkakaroon ng mga bagong pagkakataon na makikita.
Naniniwala ako na kailangan talaga ng mundo na isipin kung paano suportahan ang bawat isa sa mga darating na pagbabago sa panahon ng kaguluhan na ito. Dahil ang ekonomiya ay magiging economy ng computing power, ngunit mayroong lugar para sa bawat isa na makakatulong.
Tanong: Saan dapat mag-invest ang mga kabataan ngayon? Kung nasa high school o kolehiyo ka, o bago ka lang magsimula sa trabaho, anong mga kasanayan ang iyong isipin na magiging mas mahalaga sa hinaharap?
Greg: Totoo kong naniniwala na ang pag-unawa nang malalim sa teknolohiyang ito ay magiging isang mahalagang kasanayan, upang talagang maintindihan kung paano makakuha ng pinakamataas na halaga mula sa AI.
Sapagkat tayo ay lalabas sa isang mundo kung saan tayo ay magiging mga tagapamahala ng mga agent, at baka maging CEO ng mga autonomo AI na kumpanya sa malapit na hinaharap.
Kung mayroon ka nang token at ang computing power na nagpapagalaw sa iyo, maaari mong i-direct ang computing power sa anumang problema, at ang bilang ng mga problema na gustong lutasin ng tao ay walang hanggan.
Kaya naniniwala ako, ang mas malalim na pagsasaliksik ng mga tao sa teknolohiyang ito, ang pag-unawa kung paano gamitin ang mga darating, paano i-combine ang mga teknolohiyang ito sa bagong paraan, at paano interaktibong magtrabaho at pamahalaan ang aming mga agent, habang isipin ang “Ano ang gusto kong makamit? Ano ang aking pagkakakilanlan? Ano ang aking layunin? Ano ang gusto kong makita sa mundo?”, ay mas madaling maisasabuhay kaysa kailanman.
I believe that, given what we’ve gained, the upside potential of that world is almost unimaginable.
Tanong: Ito ang pinakamapositibong pananaw sa kinabukasan, ano ang pinakamalayong pananaw sa kinabukasan na maaari mong isipin?
Greg: Isang napakaganda't interesanteng punto tungkol sa pag-unlad ng teknolohiya hanggang sa ngayon ay ang tunay na pagpapalit ng ating sarili upang makasabay sa mga makina.
Isipin kung ilan ang nagtatrabaho habang nakikita ang kahon na ito, nagket-ket ng keyboard, at nagkakaroon ng carpal tunnel syndrome, na may bungad na nakabukas. Pero hindi ito ang uri ng mundo na nais namin, ang mundo na tinitindig namin ay hindi lamang kung saan gumagamit ka ng computer, kundi kung saan ang iyong computer ang nagtatrabaho para sa iyo.
Nagdudulot ito ng pagkakataon at panganib. Kaya kailangan nating mag-isip ng paraan upang mapabawasan ang mga panganib na ito.
Sa wakas, isang pangunahing tanong: Kung mayroon kang mga machine na tumutulong sa mga tao na makamit ang kanilang mga layunin, at doon sila upang gawin ang iyong nais, ngunit minsan ay magkakasalungat ang mga layunin ng mga tao, paano mo ito lutasin? Paano mo pipiliin kung ano ang tutulungan ng AI at ano ang hindi? Paano mo talagang maunawaan kung paano ito maaaring maging bahagi ng lipunan? Paano matitiyak na ang mga benepisyo ay hindi lang dumadaan sa isang kumpanya o isang grupo, kundi talagang itaas ang bawat isa?
Dapat nating tanggapin na mayroon pa ring maraming paraan o panganib na maaaring magkamali, na kailangan nating lutasin.
Tanong: Ang huling tanong, ano ang tagumpay para sa iyo?
Greg: Ipatupad ang misyon ng OpenAI upang siguraduhing makatulong ang AGI sa buong sangkatauhan.
Mga kawing sa pagmamasid: [1] https://x.com/shaneparrish/status/2046900710055297072 [2] https://youtu.be/6JoUcQ1qmAc
Ang artikulong ito ay galing sa WeChat public account na “Quantum Bit”, may-akda: Nagmamalasakit sa mga nangungunang teknolohiya