Habang ang kompetisyon sa AI ay lumalalim, ang lider ng OpenAI ay nagbigay ng mahahalagang pahayag sa mga empleyado tungkol sa tatlong posibleng pagbabago sa buong industriya.May-akda ng artikulo, pinagkukunan: Wall Street Journal
Noong Oktubre 19, ayon sa The Information, ilarawan ni Sam Altman, CEO ng OpenAI, sa loob ng linggo ang tatlong landas sa pag-unlad ng pagkakasiguro ng AI na pinag-uusapan ng industriya: pagtatatag ng isang internasyonal na regulahing organisasyon na katulad ng International Atomic Energy Agency, pagpagsasama ng mga malalaking AI laboratoryo sa isang solong entidad, at pagmamay-ari ng compute power ng isang kumpanya, "pagsasara ng lahat ng GPU ng mga kalaban." Ang pahayag na ito ay nangyari habang ang administrasyon ni Trump ay nagsisimula na sa pagtatatag ng unang set ng regulasyon para sa mga developer ng "superintelligence."
Sinabi ni Altman na kailangan ng OpenAI ng desisyon sa susunod na taon kung aling landas ang pipiliin. Parehong sinikat niya ang pag-asa na manatiling kontrolado ng tao ang teknolohiyang ito upang maiwasan ang sobrang pagkonsentrasyon ng kapangyarihan sa industriya.
Tatlong landas, bawat isa ay may sariling layunin. Ayon sa dalawang may-alam, ang unang landas na ipinakilala ni Altman sa mga empleyado ay ang pagtatatag ng isang internasyonal na organisasyon na katulad ng International Atomic Energy Agency (IAEA), na responsable sa pagpapatupad ng mga pamantayan sa seguridad ng AI. Ang sarili ni Altman ay nagtataglay ng suporta sa solusyong ito.
Sa katotohanan, ang ideya ni Altman na magtatag ng isang internasyonal na regulatoryong ahensya na katulad ng IAEA ay may mahabang kasaysayan. Ayon sa mga ulat, noong Mayo 2023, kasama ni Altman ang kanyang co-founder ng OpenAI na si Greg Brockman at ang dating pangunahing siyentipiko na si Ilya Sutskever sa pagpapalabas ng isang artikulo na nagsasangguni na maaaring kailanganin ng industriya ang isang "superinteligenteng regulatoryong ahensya na katulad ng IAEA" na may kapangyarihang suriin ang mga sistema, hingin ang mga audit, at tularan ang paggamit ng computing power at enerhiya.
Kailangan ng pakikilahok ng lahat ng mga bansang nag-aaral ng mga modernong modelo sa internasyonal na pakikipagtulungan.
Ang pangalawang landas ay tinawag ni Altman bilang "Demis Plan"—na binanggit mula sa isang konsepto na ipinangako ni Demis Hassabis, dating pinuno ng DeepMind, isang kahalili ng Alphabet, labing taon na ang nakalipas: ang pagbuo ng isang institusyon na katulad ng CERN, na mag-uunify o magpapagsama ng mga pangunahing AI company at magbibigay ng mga bagong model sa mga kasosyo.
Ikatlong daan, tinatawag ni Altman na "Eliezer方案", na pinangalanang matatagpuan sa kilalang teoretiko ng AI safety na si Eliezer Yudkowsky. Ang pangunahing lohika nito ay: kapag ang isang developer ng AI ang unang makakamit ang recursive self-improvement (RSI), gagamitin nito ang natanggap na ekonomikong kapangyarihan upang kunin ang lahat ng computing resources ng iba pang mga developer, "i-melt down lahat ng GPU ng mga kalaban".
Para sa ikatlong landas, malinaw ang pananaw ni Altman: "Ito ay malinaw na masama." Sinabi niya na isinama niya ito sa diskusyon lamang para sa "kabuuan".
Ang "Solusyon ni Eliezer" sa Ikatlong Daan ay nag-uudyok sa Anthropic? Ayon sa mga may-alam, dahil sa ugnayan ni Yudkowsky sa mga pangunahing miyembro ng Anthropic, ang pagtukoy ni Altman sa "Solusyon ni Eliezer"—na ang advanced na AI ay iikot sa isang kumpanya lamang—ay binigyang-kahulugan ng ilang empleyado bilang isang tahimik na kritika sa Anthropic.
Ang Anthropic ay patuloy na nagpapalakas ng kanilang sariling agenda sa AI safety. Kabilang sa kanilang kamakailang hakbang ay ang pagsumite ng isang draft ng batas sa mga miyembro ng Kongreso na nagmumungkahi na bigyan ng kapangyarihan ang Department of Commerce na ipag-utos ang paghinto sa pag-train o paggamit ng mga modelo ng isang AI lab kung ang AI ay maaaring magdulot ng pagkawala na hihigit sa $1 bilyon o pagkamatay o malubhang sugat sa higit sa 50 tao, at kailangan din na sumailalim ang mga AI lab sa hindi bababa sa dalawang independiyenteng pagsusuri sa kaligtasan bawat taon.
Samantay, si Meta CEO na si Zuckerberg at si NVIDIA CEO na si Huang Renxun ay nagsuporta sa pagtutol, na naniniwala na ang ganitong regulasyon ay magdudulot ng sobrang bigat sa mga bagong developer at magiging "regulatory capture".
Nakakatagpo ang mga hamon sa koordinasyon ng industriya at presyong pampanatili ng kaligtasan; tinanggap ni Altman na ang dalawang unang landas ay nangangailangan ng malawakang koordinasyon sa pagitan ng mga kumpanya o gobyerno, at ang OpenAI ay "hindi makakapagbigay-daan sa kompetisyon" sa kasalukuyan. Parehong nagpapabilis ang OpenAI at pangunahing kalaban nito, ang Anthropic, sa kanilang paghahanda para sa IPO.
Hindi maaaring iwanan ang loob na presyong pampanatili ng kaligtasan. Ayon sa mga ulat, ang ilang pangyayari sa kaligtasan ng AI noong nakaraang panahon ay nagdulot ng malawak na pagmamasid—ang mga modelo ng OpenAI, Anthropic, Google, at Meta ay nagkakaroon ng paglabas o pagpapahamak sa iba pang mga sistema, kahit pa ang mga modelo ay "naiintindihan" na hindi dapat silang magawa ang ganitong gawain. Kasalukuyang nasa buong pagtugon ang OpenAI, na naglalayong bumuo ng maayos na mekanismo para sa kaligtasan bago ilabas ang kanilang susunod na malaking modelo.
Ang seguridad kultura sa loob ng OpenAI ay binigyan din ng tanong ng mga empleyado. Ilan sa mga empleyado ay nagkakaroon ng pag-aalala sa pribado tungkol sa pangako ng kompanya sa seguridad, dahil sa pagpapalayas sa tatlong empleyadong nakatuon sa pag-aaral ng seguridad dahil sa "hindi wastong pagbabahagi ng impormasyon sa mga panlabas na ahensya".
Sa antas ng industriya, ang OpenAI, Google, at Anthropic ay nagtutulungan upang itatag ang "Frontier AI Standards Authority", na plano ay mabuo sa huli ng taon o sa simula ng 2027. Ang organisasyong ito ay magtutulungan sa mga independiyenteng evaluator na nakapaloob sa loob ng bawat developer ng AI upang siguraduhin ang pagpapatupad ng mga praktika sa kaligtasan at magtatag ng mga mekanismo para sa pagrereport ng kaligtasan at mga insidente. Gayunpaman, mayroon pa ring pagkakaiba-iba sa pagitan ng mga partido kung ang bagong organisasyon ay dapat magkaroon ng sariling pagsubok sa kaligtasan at kakayahan, o kung dapat itong ipagkaloob sa mga panlabas na institusyon.
Paalala sa panganib at pahayag ng pag-iwas sa pananagutan
May panganib sa merkado, maging matalino sa pag-invest. Ang artikulong ito ay hindi nagtataglay ng personal na payo sa pag-invest at hindi nagsasama ng mga partikular na layunin, kalagayang pang-ekonomiya, o pangangailangan ng bawat user. Dapat suriin ng user kung ang anumang opinyon, pananaw, o konklusyon sa artikulong ito ay tugma sa kanilang partikular na kalagayan. Ang pag-invest batay dito ay responsibilidad ng user.