Samantalang tumataas ang kontrobersiya tungkol sa AI safety, sinabi ng mga dayuhang midya na ang Jeffrey Hinton, Li Fei-Fei, at Andrew Ng ay nakapokus sa isyu ng open models sa recent Ai4 conference sa Las Vegas. Hindi ganap na magkakasundo ang kanilang mga posisyon, ngunit lahat ay sumasalungat sa pagiging dominante ng ilang malalaking tech company sa pagtukoy ng ritmo ng pag-unlad ng AI.
Laban sa pagmamay-ari ng entry ng ilang mga kumpanya
Sinasabi ng artikulo na ang isang pangunahing pag-aalala ng tatlong mananaliksik ay ang posibilidad na mabawasan ang espasyo para sa inobasyon kung ang AI ay kontrolado ng ilang mga kumpanya lamang. Direktang sinabi ni Andrew Ng na hindi niya gustong makita ang mga “gatekeeper” sa larangan ng AI, dahil ito ay magiging hadlang sa paraan kung paano makakakonekta ang mga developer, negosyo, at publiko sa AI.
Naniniwala siya na ang mga malalaking kumpanya ay naturally magpaprotekta sa kanilang mga kahusayan at maaaring makaapekto sa pagbuo ng mga alituntunin sa industriya. Ang resulta ay maaaring ang mga kumpanya na may pinakamalaking pondo at pinakamalakas na computing power lamang ang makakapagpatuloy sa pagbuo ng pinakamoderno mga sistema. Ang direksyon na ibinigay ni Andrew Ng ay ang pagpapanatili ng maraming provider ng model upang magkumpetensya ang mga model at kumpanya sa merkado, hindi lamang ang ilang platform ang magiging dominanteng player.
Hinton ay nagkakaltas sa open-source code at open weights
Gayunpaman, hindi tinuturing ni Hinton ang “open-source software” at “open-weight models” bilang iisang bagay. Ayon sa kanya, ang open-source software ay nagpapakita ng code, kaya makakapag-check at magbigay ng mga pagbabago ang labas; samantalang ang open weight ay direktang ibinibigay ang mga parameter ng naitraining na malaking model sa labas, na makakapagbawas nang malaki sa hadlang sa secondary development.
Sinabi niya na dati siyang laban sa pagbubukas ng weights dahil ito ay magiging dahilan kung bakit may ilan ay magagamit ang base model para sa mga gawain tulad ng cyber attack sa mas mababang gastos. Ngunit tinanggap niya rin na ang debate na ito ay mahirap nang balikin sa katotohanan. Habang patuloy na lumalabas ang open-weight models, ang barrier na dulot ng gastos sa pag-train ay napakalaking nabawasan.
Gayunpaman, hindi sinasabing dapat ipaghinto ang pag-unlad ng AI ni Hinton. Ayon sa artikulo, nananatili siya sa paniniwala na ang AI ay magpapataas ng produktibidad at magpapabuti sa edukasyon at pangkalusugan, at iba pang larangan, ngunit hindi dapat iwanan ang mga potensyal na panganib. Dagdag pa niya, hindi makatarungan ang pagtatawag sa lahat ng nag-aalala sa mga panganib ng AI bilang “mga nagpapalalim ng takot.”
Si Li Feifei ay nagtataguyod ng pagkakahati-hati at pagbubukas
Sa pagkakaiba kay Andrew Ng na nagte-teklado sa open competition at kay Geoffrey Hinton na nagpapahalaga sa mga panganib sa kaligtasan, sumasalungat si Fei-Fei Li sa pagpapasimple ng diskusyon sa dalawang opsyon lamang: “buong pagbubukas” o “buong pagkakasarado”. Naniniwala siya na ang mga kumplikadong software at pananaliksik na sistema ay may iba’t ibang antas, at ang iba’t ibang bahagi ay maaaring magkaroon ng iba’t ibang antas ng pagbubukas.
Gamit ang nuclear physics bilang halimbawa, sinabi niya na ang mga akademikong papel ay maaaring maging pampubliko, ngunit ang uranium material ay pinapangasiwaan nang mahigpit, habang ang mga eksperimento ay nasa pagitan ng dalawa. Batay dito, naniniwala siya na ang AI ay maaaring sundin ang katulad na pagkakaayos: manatiling bukas sa pagkakamit ng siyentipikong pag-aaral, edukasyon, at internasyonal na pakikipagtulungan, samantalang pinapahintulutan ang mga negosyo na panatilihin ang mga pribadong sistema at negosyong modelo.
Binanggit din ng artikulo na ginamit ni Li Fei-Fei ang Human Genome Project bilang halimbawa na ang isang pangkalahatang batayan na platform na binubuo ng pagsasamahan ng pampubliko at pribadong sektor ay maaaring suportahan ang pag-unlad ng siyentipikong pananaliksik, kita ng mga kumpanya, at aplikasyon sa lipunan. Naniniwala siya na ang infrastruktura ng AI ay dapat umunlad sa direksyong ito, at hindi magpapadala sa mga debate na “o ito o iyon”.
Tatlo silang nangangakong kailangan ng regulasyon
Bagaman may iba’t ibang pagkakaintindi ang tatlo sa hangganan ng bukas na modelo, malapit ang kanilang pananaw sa mga isyu ng regulasyon. Ayon sa artikulo, naniniwala silang kailangan pa rin ng AI ng ilang antas ng pagsasama-samang patakaran upang mabuo ang mas kapaki-pakinabang na direksyon para sa lipunan.
Sinabi ni Hinton na hindi dapat iwan ang pag-unlad ng AI nang buo sa mga negosyante ang pagdedesisyon. Ang debate tungkol sa mga bukas na modelo ay hindi na lamang isang pagkakaiba sa teknikal na direksyon, kundi may kaugnayan din sa pagkakabahagi ng kapangyarihan sa industriya, internasyonal na kompetisyon, at direksyon ng paggawa ng patakaran para sa kaligtasan ng AI.