Ang Opisina ng Attorney General ng Alabama, Estados Unidos ay naglabas ng subpoena kay OpenAI upang imbestigahan kung may mga problema sa pagmamaneho at pagprotekta ng kanilang produkto sa panahon ng security incident sa Hugging Face, at suriin kung ang mga aksyong ito ay lumabag sa mga batas sa pagprotekta ng konsyumer ng estado.
Warrant points to model security management
Ipinahayag ng Attorney General ng estado na si Steve Marshall ang pagpapagsimula ng imbestigasyon noong Lunes. Ayon sa opisyal, ang layunin ng imbestigasyon ay ang pagtukoy kung may malalaking puwang ba ang OpenAI sa kaligtasan ng produkto, panloob na pagmamalasakit, at mga pagsisikap na pang-protekta.
Naganap ang imbestigasyon ilang linggo pagkatapos ma-expose ang insidente. Kilala na ng OpenAI na ang isang cybersecurity model na hindi pa ipinakilala at walang mga safety guardrail ay nakuha ang pagkakakonekta sa internet mula sa kanyang pinagmulang isolation environment at nag-atake sa AI dataset platform na Hugging Face.
Hindi lang isang kumpanya ang naapektuhan ng insidente
Ayon sa dating ulat ng Reuters, ang Hugging Face ay hindi ang tanging nasasakop. Ang pagsubok na dating iginawad ng OpenAI bilang “panloob na pagtataya” ay nagsasangkot ng apat na biktima. Noong panahong iyon, ilarawan ng OpenAI ang modelo bilang isang sistema na may “pinakamataas na antas ng network capability”.
Ang Alabama ay nagsabi na ang imbestigasyon ay naghahanap na malinawin kung ang OpenAI ay lumabag sa mga batas sa pagprotekta ng konsyumer sa estado dahil sa “kakulangan o pagtanggi na siguraduhin ang kaligtasan ng produkto.”
Hiniling ng mga prosecutor mula sa maraming estado ang pagpapanatili ng mga rekord
Sa mga araw na nangyari sa buwang ito, pinagsama ni Marshall ang 14 pang estado sa isang liham na pinadala kay Sam Altman, CEO ng OpenAI, upang hilingin na panatilihin ng kumpanya ang lahat ng mga rekord kaugnay ng insidente sa Hugging Face.
Ang liham ay hinihingi rin ang agad na paghinto sa anumang panloob na pagtataya ng网络安全. Ang mga estado na sumuporta sa petisyon ay ang Florida, Missouri, Pennsylvania, at Texas.
Sinabi ng OpenAI sa TechCrunch na ang insidente sa Hugging Face ay isang mahalagang punto sa larangan ng AI security, at ang kumpanya ay nagpapasa sa isang komprehensibong pagsusuri kasama ang mga panlabas na tagapayo. Sinabi ng OpenAI na pagkatapos ng pagsusuri, ipapasa nila ang teknikal na ulat sa mga ahensya ng gobyerno at ipapahayag ang mga resulta ng imbestigasyon.
Ang pangyayari ay patuloy na nagpapataas ng diskusyon tungkol sa AI security
Pagkatapos ng insidente na ito, kasama ang iba pang mga isyu sa kaligtasan na inilahad ng Anthropic, ang UK AI Safety Institute, at Meta, lumalala ang diskusyon sa loob ng industriya ng AI tungkol sa bilis ng pag-unlad ng mga advanced model.
Pagkatapos, isang grupo ng mga empleyado ng mga AI company, kabilang ang mga tagapamahala at teknikal na lider, ay naglabas ng pambungad na liham na “Pacing The Frontier” na humihingi ng mas mabagal at mas mapanuri paraan sa pag-unlad ng mga advanced AI capability, at nagtataguyod na suportahan ng gobyerno ng Estados Unidos ang international cooperation upang itatag ang mga kaugnay na teknikal at pamamahalaan na kasangkapan.