Ang White House ng Estados Unidos ay nag-uusap sa AI company na Anthropic tungkol sa isang framework para sa pag-e-evaluate ng kaligtasan ng modelo, na layunin ay magtatag ng isang magkakasunod na sistema ng pagkakaroon ng antas para sa mga kahinaan sa kaligtasan ng bagong henerasyon ng AI models, at gamitin ito upang matukoy kung kailangan ng gobyerno na magsagawa ng aksyon. Ito ay nangyari pagkatapos na ang Estados Unidos ay nag-impose ng mga pagtigil sa pag-export sa pinakabagong modelo ng Anthropic dahil sa isang problema sa kaligtasan na itinuturing na “escape”.
Magtatatag ng isang magkakasunod na pamantayan batay sa vulnerability ng "jailbreak"
Ayon sa mga ulat, gagamitin ang framework na ito upang masukat ang seriedad ng mga magkakasunod na pangyayari, na naglalayong tukuyin ang tatlong aspeto: ang antas ng pagbubypass ng mga pagsisikap na protektahan, ang mga kakayahan ng modelo na inilabas, at ang epekto ng vulnerabilities sa totoong buhay.
Kasalukuyan, ang pagkakaiba-iba sa pagkakaisa sa pagitan ng gobyerno at mga negosyo sa mga ganitong isyu ay patuloy na malinaw. Bago ito, may iba’t ibang pagtataya si Dario Amodei, CEO ng Anthropic, at mga opisyales ng gobyerno kung ang mga katangi-tanging butas ay nagtataglay ng malaking panganib sa seguridad. Ipinahayag ng ulat na ang pag-unlad ng AI ay sobrang mabilis, samantalang ang umiiral na sistema ng gobyerno ay hindi pa sapat upang magbigay ng isang magkakasunod na pagtataya sa mga ganitong kontrobersiya.
Patuloy ang negosasyon pagkatapos ng export restrictions
Bago na ang White House ay nag-impose ng mga limitasyon sa pag-export sa Anthropic, ipinagbawal ang pag-access ng mga dayuhang user sa kanilang pinakabagong mga modelo na Fable 5 at Mythos 5. Pagkatapos ay ipinahinto ng kumpanya ang mga serbisyo para sa dalawang modelo na ito.
Ang ulat ay nagbanggit na naging malapit sa pagkabigo ang mga negosasyon sa loob ng Linggo ng nakaraan. Ang dahilan ay ang pagtanggi ni Anthropic na i-offline ang Fable ayon sa hiling ng gobyerno, dahil sa paniniwala nito na ang kaugnay na butas ay may limitadong epekto at hindi sapat upang ituring bilang seriyosong kakulangan sa seguridad. Pagkatapos ay ginawa ng White House ang mga limitasyon sa pag-export upang pilitin ang kumpanya na tanggalin ang kaugnay na modelo mula sa merkado.
Gayunpaman, simula sa weekend, nagbalik ang komunikasyon ng parehong panig. Kasali sa maraming mahabang tawag ang Kalihim ng Kalakalan ng Estados Unidos na Howard Lutnick, ang National Cyber Director na Sean Cairncross, at ang co-founder ng Anthropic na Tom Brown. Pagkatapos, nagkaroon pa ng halos isang linggong personal na pagpupulong sa Washington.
Pinapabilis ng White House ang pagpapatupad ng mga patakaran sa pagiging ligtas ng AI
Ayon sa ulat, kasali sa pagpapagawa ng mga negosasyon mula sa Anthropic ang head for public policy na si Sarah Heck at ang co-founder na si Tom Brown. Patuloy din ang kompanya sa pagpapadala ng mga senior researcher at mga eksperto sa seguridad sa U.S. Department of Commerce noong Lunes upang magpatuloy sa pag-uusap kasama ang mga opisyales ng gobyerno.
Nagpapakita rin ang talakayang ito ng isang mas realistiko na pagtataya: walang anumang AI model na maaaring ganap na maiwasan ang pag-atake ng mga hacker. Kaya, nais ng gobyerno na muna malinaw ang mga pamantayan ng pagtataya sa panganib sa kaligtasan ng mga negosyo, bago matukoy kung saan mga sitwasyon kailangan ang pagpapatupad ng mga limitasyon.
Ang direksyong ito ay tumutugon din sa mga diskusyon sa recent na pagpupulong ng G7. Mga pangunahing kumpanya sa AI at ilang mga lider ng bansa ay binanggit na kailangan agad na mabuo ang mas malinaw na mga pamantayan sa pagtukoy sa kaligtasan ng modelo upang harapin ang mga panganib sa ekonomiya at pambansang kaligtasan na dulot ng patuloy na lumalakas na mga sistema ng AI.