Ang pinakamataas na opisyales ng mga karapatang pantao ng United Nations ay tumukoy sa Meta, OpenAI at Google habang humingi ng mga nakakabinding pamantayan sa kaligtasan para sa mga advanced na AI system.
Ang pangulo ng mga karapatang pantao ng mga Nagkakaisang Bansa ay naglabas ng bagong babala tungkol sa mga panganib ng walang hangganan na pag-unlad ng artificial intelligence. Ang opisyales ay naglalarawan ang panganib sa kalikasan ng tao bilang totoo, hindi teoretikal, at tumawag para sa mga konkretong pagsisiguro na ilagay sa lugar.
Ayon sa ulat mula sa Cryptopolitan at The Cryptonomist, direkta na binanggit ng opisyales ng UN ang tatlong pinakamakapangyarihang player sa industriya: Meta, OpenAI at Google. Ang pagbanggit sa mga tiyak na kumpanya ay isang pagbabago mula sa mas pangkalahatang babala na karaniwang inilabas ng mga internasyonal na organismo tungkol sa panganib ng AI.
Idinagdag ng pahayag na ito sa patuloy na pagtaas ng pag-aalala mula sa mga pandaigdigang institusyon tungkol sa bilis ng pagpapatupad ng AI. Ang mga gobyerno, mga mananaliksik at mga grupo ng karapatang pantao ay nagpapalitan ng mga talakayan sa nakaraang ilang taon tungkol sa paano regulahin ang mga sistema na kaya magbuo ng teksto, imahe at awtonomong desisyon sa malaking iskala. Ang pakikilahok ng UN ay isinilid nang malinaw ang mga pag-aalala tungkol sa karapatang pantao sa loob ng talakayang ito.
Ang mga tawag para sa mga pagsasalba ay karaniwang nakatuon sa mga isyu tulad ng transparensya sa pagtatrain ng modelo, pagkakamaliwanag para sa mga nakakasakit na output, at mga limitasyon sa autonomous na pagdedesisyon sa sensitibong mga lugar. Hindi pa malinaw mula sa kasalukuyang ulat kung anong mga partikular na mekanismo ang nais ng pangulo ng karapatang pantao ng UN na matanggap, o kung ang tawag ay magiging isang bindinong pandaigdigang patakaran.
Ang pagpapakita ng AI bilang isang panganib sa pagkakaroon ay nagpapalit ng wika na dating ginamit ng ilang mga researcher at eksperto sa AI. Ang ilang mga kilalang developer, kabilang ang ilan sa mga kumpanyang nabanggit sa babala na ito, ay nakapagpahayag na ng mga pangmatagalang pag-aalala tungkol sa kaligtasan na may kaugnayan sa mga advanced na sistema ng AI. Ang pagpasok ng UN sa usaping ito ay nagdadala ng bigat mula sa pananaw ng mga karapatang pantao, hindi lamang mula sa teknikal na pananaw.
Hindi pa nababatid na naglabas ng pormal na tugon ang Meta, OpenAI at Google sa pahayag ng UN sa kasalukuyan. Bawat kumpanya ay dating nagpahayag ng kanilang sariling mga pagsisikap sa kaligtasan at pagkakasundo, bagaman ang sakop at kakayahang ipatupad ng mga pagsisikap na ito ay magkakaiba at nananatiling paksa ng publikong pagtalakay.
Ang interbensyon ay nangyayari habang mayroong mas malawak na internasyonal na pagkilos upang itatag ang mga framework para sa paggawa ng pamamahala sa AI. Ang European Union, ang United States, at ilang iba pang hukuman ay nagtaguyod ng magkakaibang mga pananaw sa regulasyon para sa pagmamahalaga sa AI sa nakaraang mga taon. Ang tawag ng UN para sa mga gabay ay maaaring makaapekto sa paraan kung paano isasama ang mga hiwalay na pambansang at rehiyonal na pagkilos, bagaman ang anumang pagkakasundo ay kailangan ng panahon upang maging katotohanan.
Epekto sa Merkado
Ang direktaong reaksyon ng merkado sa mga pahayag ng UN tungkol sa patakaran sa AI ay karaniwang limitado sa maikling panahon, dahil ang ganitong mga tawag ay karaniwang walang kapangyarihang ipatupad agad. Gayunpaman, ang pagtaas ng retorika tungkol sa kaligtasan ng AI mula sa isang malaking internasyonal na organismo ay maaaring mag-impluwensya sa damdamin ng mga investor tungkol sa mga equities na may kinalaman sa AI at mga token na may kinalaman sa mga proyekto ng AI infrastructure.
Ang mga kumpanya na binanggit sa babala, kabilang ang Meta, mga tagasuporta ng OpenAI, at ang parent na kumpanya ng Google na Alphabet, ay maaaring harapin ang muli pang mga tanong mula sa mga regulador at mga shareholder tungkol sa mga pamamaraan ng pamamahala. Para sa mga cryptocurrency market, ang mga token na kaugnay ng decentralized AI computing o AI-agent platforms ay maaaring makaranas ng mas malaking pagsusuri kung ang mas malawak na regulasyon sa AI ay makakakuha ng momentum, bagaman wala pa ring tiyak na patakaran na nasumpungan.
Ang babala ng UN ay nagpapakita ng paglalawak ng pag-aalala ng mga institusyon tungkol sa direksyon ng pag-unlad ng AI. Kung ito ay magdudulot ng konkretong patakaran ay hindi pa nakikita, ngunit ito ay nagdaragdag ng presyon sa mga pangunahing developer ng AI upang harapin ang mga alalahanin tungkol sa kaligtasan nang pampubliko.
Madaling Tanong
Sino ang nagbigay ng pahayag tungkol sa panganib ng AI sa pagkakaroon ng eksistensya?
Ginawa ng pangulo ng karapatang pantao ng United Nations ang pahayag, ayon sa pag-uulat mula sa Cryptopolitan at The Cryptonomist.
Ano-ano ang mga kumpanya na nabanggit sa babala?
Ang opisyales ng UN ay partikular na binanggit ang Meta, OpenAI at Google bilang mga kumpanya na nagdudulot ng pag-aalala sa konteksto ng panganib ng AI.
Nakapag-proposa ba ang UN ng mga partikular na regulasyon sa AI?
Kasalukuyang ulat ay nagpapahiwatig ng paghingi ng mga seguridad na gabay, ngunit hindi ito detalyado ang mga partikular na obligasyong regulasyon o mga mekanismo ng pagpapatupad.
Paano sumagot ang Meta, OpenAI at Google?
Hindi pa nagkakaroon ng pormal na pagsagot mula sa mga kumpanyang ito sa kasalukuyan.
Nakakaapekto ba ito nang direkta sa mga cryptocurrency market?
Wala pa ring napagkasunduang direkta epekto sa merkado, bagaman ang pagpapalakas ng regulasyon sa AI ay maaaring mag-apekto sa damdamin tungkol sa mga crypto token na may kaugnayan sa AI sa paglipas ng panahon.