Mas nagiging mahusay ang artificial intelligence sa paggawa ng higit pa kaysa sa pag-sagot sa mga tanong. Ang mga sistema ng AI ay ngayon ay tumutulong sa coding, pananaliksik, pagsusuri at iba pang mga gawain na dati ay handa ng mga tao. Nagbubukas ito ng isang bagong tanong: ano ang mangyayari kapag nagsisimula ang AI na maglalaro ng mas malaking papel sa pagbuo ng susunod na henerasyon ng AI?
OpenAI ay nagtatawag ngayon para sa mga internasyonal na pamantayan upang tulungan sagutin ang tanong na iyon. Sa isang post noong Setyembre 21 na may pamagat na “Building standards for the next phase of AI,” inilahad ng OpenAI ang isang US-led na internasyonal na pagsisikap upang lumikha ng karaniwang teknikal na pamantayan para sa frontier AI. Sabi ng kumpanya, maaaring tulungan ng mga pamantayang ito ang mga bansa na sukatin ang mga kakayahan ng AI, suriin ang mga panganib, subukan ang mga panatilihan at ulatin ang mga seriyosong insidente gamit ang mas magkakasunod-sunod na paraan.
Mga Pangunahing Tala
- Gusto ng OpenAI ang mga internasyonal na pamantayan para sa pagtataya ng frontier AI.
- Ang panukala ay sumasakop sa mga kakayahan, mga panganib, mga panatag at pagrereport ng insidente.
- Sabi ng OpenAI na hindi nagaganap ngayon ang buong awtomatikong rekursibong pagpapabuti.
- Gusto ng kumpanya na manatiling sentral ang tao sa pagkontrol habang lumalago ang kakayahan ng AI.
- Maaaring tumulong ang mga umiiral na organisasyon sa pagpapanatili ng AI sa pagbuo ng karaniwang teknikal na mga pamantayan.
Gusto ng Openai ng karaniwang framework para sa Frontier AI
Ang pangunahang ideya ay medyo simpleng. Hindi kailangan ng bawat bansa na lumikha ng buong iba’t ibang paraan para masukat ang mga panganib na dulot ng advanced na AI. Ayon sa OpenAI, ang pagpapantay ng teknikal na mga pamamaraan ay maaaring magbigay ng epektibong paraan sa mga bansa, mga mananaliksik, at ang komunidad ng AI upang masukat ang kanilang lalong patuloy na kumplikadong AI. Mas mahalaga ito kapag nangyayari ang mga insidente kaugnay ng AI sa mga hangganan.
Hindi iniaatras ng kumpanya ang isang magkakasamang pandaigdigang batas sa AI. Sa halip, nais nito na ang mga bansa ay magbuo ng mga compatible na pamantayan na maaari ng mga gobyerno ay pagsundan kung paano ito gamitin sa kanilang sariling regulatoryong sistema. Mahalaga ang pagkakaiba na ang mga inirerekomendang pamantayan ay hindi agad naging mga kinakailangan para sa lisensya o sertipikasyon para sa lahat ng teknolohiyang artificial intelligence. Sa halip, nananatili ang kapangyarihan ng mga gobyerno upang matukoy kung paano ma-apply ang mga pamantayan sa kanilang mga hukuman.
Ang recursive self-improvement ay bahagi ng usapan
Isa sa mga mas interesanteng bahagi ng panukala ng OpenAI ay ang pagtalakay nito sa recursive self-improvement (RSI). Ang konseptong ito ay naglalarawan ng isang hinaharap kung saan ang mga sistema ng AI ay maaaring lalong tumutulong sa mga mananaliksik upang pangunahin ang mas kakayahang mga sistema ng AI. Sa simpleng salita, maaaring maging bahagi ng proseso ng pagpapabuti ng AI ang AI mismo.
Maaari itong mabilisain ang pag-aaral ng AI. Ngunit naglalalayon din ito ng mahirap na tanong sa kaligtasan: gaano karaming pagmamasid ng tao ang dapat manatili sa loop kung ang mga sistema ng AI ay magiging malalim na kasali sa pagbuo ng mga hinaharap na modelo?
Sinasabi ng OpenAI na ang ganap na awtonomong recursive self-improvement ay hindi nangyayari ngayon. Nagpapaliwanag din ito na ang ganitong direksyon ay hindi dapat ipaglaban kundi kaya ito gawin nang ligtas habang pinapanatili ang kontrol ng tao. Ito ay nagpapakita na mas mahalaga ang pag-evaluate at pagsubok sa kaligtasan habang lumalaki ang kakayahan ng mga sistema ng AI na harapin ang lalong kumplikadong mga gawain sa pananaliksik at pag-unlad.
Maaaring maging mas mahalaga ang mga pamantayan sa pagiging ligtas ng AI
Kasama rin ng OpenAI ang mga umiiral na organisasyon at network sa pagpapaligtas ng AI sa buong mundo bilang potensyal na mga bloke ng pagkabuo para sa pagsisikap na ito. Tiyak na binanggit ng kumpanya ang mga instituto at kaugnay na organisasyon sa pagpapaligtas ng AI sa mga bansa kabilang ang US, UK, Canada, France, Germany, Japan, South Korea, Singapore, India, Kenya, at Australia.
Hindi sa bawat bansa na magbuo ng sariling hiwalay na teknikal na pagkakaroon, gusto ng OpenAI na ang mga grupo na ito ay magtrabaho patungo sa mga pamantayan na maaaring magpuno isa’t isa. Kinakailangan din ng propuesta ang pakikilahok mula sa mga developer ng AI, mga mananaliksik, mga akademiko, at mga independiyenteng teknikal na eksperto. Sabi ng OpenAI, dapat disenyo ang mga pamantayan batay sa teknikal na pagsukat kaysa sa interes ng isang partikular na kumpanya o bansa.
Bakit Mahalaga Ito
Kahalagahan ng oras. Ang mga kumpanya ng AI ay nagtatayo ng mga sistema na maaaring gawin ang mas maraming multi-step tasks na may mas kaunting direkta na tulong mula sa tao, habang ang mga gobyerno ay patuloy pa ring nagtataya kung paano regulahin ang teknolohiya.
Ipinahayag ng Reuters na gustong gawin ng OpenAI ang United States bilang lider sa pagbuo ng mga internasyonal na teknikal na pamantayan para sa advanced AI. Ang mas malaking hamon ay ang pagkuha ng pagsang-ayon ng mga bansa at kumpanya sa eksaktong ano ang dapat sukatin ng mga pamantayan na iyon at kung paano ito dapat isapuso.
Sa kasalukuyan, ang panukala ni OpenAI ay nakatuon sa pagbuo ng karaniwang teknikal na pundasyon bago maging mas kayang mga harapin na AI. Habang ang AI ay nagsisimulang gawin ang mas maraming trabaho na kasali sa pagpapaunlad ng AI mismo, ang pagkakaroon ng isang pinagsamang paraan upang masukat ang mga kakayahan, panganib at mga panatilihing pagsasagawa ay maaaring maging isang lalong mahalagang bahagi ng usapan.
Ito ay orihinal na napanood bilang OpenAI Ay Nagpapahalaga sa Pandaigdigang Mga Pamantayan sa Kaligtasan ng AI Habang Mas Autonomo ang AI sa Crypto Breaking News – ang inyong pinagkakatiwalaang pinagkukunan para sa crypto news, Bitcoin news, at blockchain updates.