Babala ni Sam Altman na dapat mabagal ang pag-unlad ng AI upang tugunan ang mga panganib sa harap

Mga Pangunahing Pagkakataon:

• Ang babala ni Sam Altman ay nagpapalitan ng balita tungkol sa AI patungo sa mas mabagal na pag-unlad at mas malakas na kaligtasan.
• Hinahanda ng OpenAI ang mga kaso ng kaligtasan bago ang mga pagpapatakbo sa pagtatrain na inaasahang magpapalakas ng mga kakayahan.
• Babala ni Altman sa pagkawala ng kontrol ng tao at ang labis na kapangyarihan ng AI na nakikita ng isang nagtataguyod.

Nag-shift ang AI news patungo sa frontier safety pagkatapos ipahayag ni OpenAI CEO na si Sam Altman ang pangangailangan para sa mas mabagal, mas maingat na pagsubaybay sa pag-unlad ng mga model. Binaril niya na maaaring mawala ng kontrol ng sangkatauhan kung mas mabilis ang pag-unlad ng mga kakayahan kaysa sa pagkakasundo at mga sistema ng pagsubaybay.

Kilala rin ni Altman ang malakas na sentralisadong kontrol sa makapangyarihang AI bilang hiwalay na panganib. Suportado ng kanyang pahayag noong Setyembre 14 ang patuloy na pag-unlad, bagaman dapat tanggapin ng mga developer ang karagdagang gastos sa kaligtasan at mas mabagal na pag-unlad.

Altman ay sumuporta sa propuesta ng CEO ng Anthropic na si Dario Amodei na pigilan ang pag-unlad habang pinaglalakasan ng mga siyentipiko ang mga proteksyon sa kaligtasan.

Gayunpaman, ipinaliwanag niya na ang pagpapabilis ay hindi nangangahulugan ng paghinto sa teknolohikal na pag-unlad. Sa halip, dapat tanggapin ng mga laboratorio ang mas mabagal na pag-unlad kapag kailangan ng higit pang oras ang mga pagsusuri sa kaligtasan. Ang mga interbensyong ito ay may mataas na gastos, ngunit ilarawan ni Altman ang mga gastos na ito bilang kinakailangan.

Bukod sa AI news, sinabi ni Altman na ang kompetitibong presyon sa loob ng United States ay hindi dapat magpapaliwanag ng pagiging recklessly sa pag-unlad. Dagdag niya, ang mga kakayahan ng model ay hindi dapat lumampas sa mga sistema ng alignment at monitoring.

Nagpalakas ang pag-unlad, ginagawa nito ang responsable na pag-unlad na mas kailangan para sa bawat frontier laboratory. Sinabi niya na kailangan ng mga Amerikanong kumpanya na bigyan ang publiko ng paniniwala na sila ay magpapalawak ng mga advanced na sistema nang responsable.

Ang mga dating kahalagahan ng kumpanya ay pangunahing tinaya ang mga natapos na modelo bago ang kanilang pampublikong pag-deploy. Kabilang dito ang Responsible Scaling Policies at Preparedness Frameworks na nalikha ng mga frontier laboratories.

Sinabi ni Altman na ang kasalukuyang mga kondisyon sa pag-unlad ay nangangailangan ng mga bagong kasangkapan at mas maagang pagtataya ng kaligtasan. Bilang resulta, hinango ng OpenAI ang ilang mga gawain sa kaligtasan bago ang malalaking pagpapalakas ng kakayahan.

Ngayon ni OpenAI ay binubuo ang mga eksplisitong kaso ng kaligtasan bago ang mga piniling pagpapatakbo ng frontier reinforcement learning. Ginagamit ng kumpanya ang mga ito kapag inaasahan ng mga siyentipiko na magdudulot ang isang pagpapatakbo sa pagtuturo ng malaking pagpapabuti sa kakayahan.

OpenAI ay patuloy na nagpapagawa ng mga gawain sa kaligtasan bago ilabas ang mga natapos na modelo. Ang pagkakasunod-sunod na ito, kaya, ay naglalagay ng mga pagtataya sa parehong mga yugto ng pag-unlad at pag-deploy.

Sinabi ni Altman na dapat magbahagi ang mga kumpanya ng kanilang mga paraan at magpropose ng kanilang sariling prosedurang pangkaligtasan. Suportado niya ang karaniwang mga pamantayan na nakakapaloob sa pagkamali ng modelo, pagmamasid, at kaligtasan.

Maaaring gabayan ng mga pamantayang ito ang mga laboratorio sa pagtataya ng mga palaging mas kaya systems. Kinabigasan din niya ang mga independiyenteng auditor bilang bahagi ng isang patuloy na framework para sa mga panganib sa harap.

Hinikayat ng pinakabagong pahayag tungkol sa AI ang agad na aksyon ng industriya nang hindi maghintay ng batas. Sinabi ni Altman na hindi kailangan ng mga kumpanya ang exemption mula sa antitrust bago ipakilala ang mga panatag na pagsasagawa.

Kasama rin niya ang pagsuporta sa isang pambansang framework na nagtatatag ng magkakasunod na mga kakayahan para sa mga developer sa harap. Gayunpaman, ibinigay niya ang mas malaking papel sa mga gobyerno sa pagkoordinasyon ng mga internasyonal na patakaran sa kaligtasan.

Sinabi ni Altman na dapat muna ang mga laboratorio na ipatupad ang mga proteksyon na available sa loob ng kanilang sariling organisasyon. Maaari pagkatapos ay suportahan ng mga gobyerno ang koordinasyon sa pagitan ng mga bansa upang linangin ang mga advanced na modelo.

Hindi niya sinasabing dapat tapusin ang pag-aaral sa AI o ang pagpapabuti sa mga kakayahan. Sa halip, ipinangako niya ang patuloy na pag-unlad kasama ang mas malakas na pagmamasid at pagsisigla na may pag-iingat.

Nilikha ni Altman ang dalawang paraan kung paano ang advanced AI development ay maaaring magdulot ng matinding pinsala. Una, maaaring mawala ang kontrol ng sangkatauhan kung ang mga kakayahan ay lalampas sa mga available na pagprotekta.

Ikalawa, isang kumpanya, bansa, laboratorio, o indibidwal ay maaaring makamit ang sobrang kontrol sa mga makapangyarihang sistema. Ang pagkonsentrasyong ito ay maaaring bigyan ng kakayahan ang isang aktor na ipagpatuloy ang kanyang pananaw sa mundo sa iba.

Ang babala ay isinama ang teknikal na kontrol at institusyonal na kontrol sa iisang pag-uusap tungkol sa kaligtasan. Sabi ni Altman, nananatiling nakatuon ang OpenAI sa pagpapanatili na ang AI ay maglilingkod sa sangkatauhan.

Ayon sa pinakabagong balita tungkol sa AI, pinagtibay din ng CEO ng OpenAI na kailangang matupad ng bawat frontier laboratory ang responsibilidad na iyon. Kung hindi, maaaring magpatuloy ang mas kayang mga sistema nang walang sapat na pagmamasid o mga karaniwang pamantayan.

Lumabas muna ang post AI News: Sam Altman Says AI Progress Must Slow as Frontier Risks Accelerate sa The Coin Republic.