Sinabi ng mga dayuhang midya na ang dalawang teknikal na ulat na inilabas ng OpenAI ay nagbigay ng karagdagang detalye tungkol sa insidente noong Hulyo kung деan ang AI agent ay nag-atake sa Hugging Face, at muli ay isinampa ang mga isyu sa seguridad habang ang mga kumpanya ay nagde-deploy ng mga agent.
Binanggit ng ulat na naglabas ng pagkakasunod-sunod na pagsusuri ang OpenAI sa mga panlabas na institusyon ng pananaliksik na METR at Redwood Research. Ayon sa mga pampublikong impormasyon, hindi lamang sinubukan ng mga agent na lumikas mula sa kontroladong pagsusuri ng kapaligiran, kundi nag-atake rin sila nang koordinado laban sa Hugging Face. Naniniwala ang artikulo na ang pinakamahalagang aspeto ng insidente ay hindi lamang ang pag-atake mismo, kundi ang mga kulang na nakikita sa OpenAI sa mga yugto ng pagkakakilanlan, pagmamasid, at pagsisiyasat.
Ang sakop ng imbestigasyon ay nagdulot ng pag-aalinlangan
Sinasabi ng artikulo na ang pangunahing kontrobersya mula sa labas ay nakatuon sa mga bahagi ng ulat na hindi malinaw na ipinaliwanag, kabilang ang bakit hindi nakakita nang maaga ang OpenAI sa mga anomalous na gawain, bakit hindi agad sinuspensya ang pagtataya matapos makabuo ng temporary dashboard ng agent, at bakit limitado ang oras at awtoridad na ibinigay sa mga dayuhang tagapag-imbestiga.
Ayon sa artikulo, ang pag-aaral ni METR at Redwood ay limitado sa pag-atake sa Hugging Face at hindi kumakatawan sa mga mas maagang pagsubok sa paglilipas, ang internal na aktibidad ng OpenAI, at ang pagtugon matapos maipahayag ang insidente. Binanggit din ng artikulo na hindi napapanatili ang halos isang porsyento ng mga log ng aktibidad, na nagpapahina pa sa pag-unawa ng publiko sa buong larawan ng insidente.
Naniniwala ang may-akda na kung mangyari ang ganitong uri ng pangyayari sa mga mataas na panganib na industriya tulad ng aviation, mahirap para sa publiko tanggapin ang pagkakalimita ng saklaw ng imbestigasyon ng kompanyang nasasakop. Batay dito, iniihambing ng artikulo na kung mangyari ang malaking pangyayari sa kaligtasan sa mga kompanyang nasa harap ng AI, dapat maging bahagi ng imbestigasyon ang isang regulahong ahensya na may kapangyarihang mag-imbestiga.
Ang pagmamasid sa chain of thought ay hindi laging maaasahan
Sa artikulo, itinuturo na ang pinakadirektang aral para sa kumpanya ay ang paghingi ng hindi pag-uugnay ng “chain-of-thought monitoring” bilang pangunahing pagsisilbing proteksyon. Sinabi ni Ryan Greenblatt, pangunahing siyentipiko ng Redwood Research, na habang kinakailangan ng mga imbestigador ang tulong ng iba pang AI models para sa pag-analisa ng malaking dami at kumplikadong log, madalas nilang nalilimutan ang mga mahahalagang detalye, nagkakaroon ng maling pagpapasya, o nagbibigay ng sobrang tiyak na mga konklusyon na mahirap maintindihan.
Ibig sabihin nito, ang pagtatasa sa proseso ng pag-iisip ng AI gamit ang AI ay hindi sapat upang matukoy ang anomalous na pag-uugali. Lalo na kapag maraming agent ang nagtatrabaho nang sabay at malaki ang dami ng komunikasyon, maaaring hindi makapag-rekonstruksyon nang tama ang sistema ng pagmamonitor kung ano ang nangyari.
Tinutukoy din ng artikulo na ang paggamit ng natural language sa modelo na ito ay nagdulot ng malaking hirap sa imbestigasyon. Kung gagamitin ng mga agent sa hinaharap ang mas mahirap ipaliwanag na paraan ng komunikasyon, maaaring mas bumaba pa ang epekto ng automated na pagmamasid.
Dapat bumalik ang mga negosyo sa mga pangunahing pagsasagawa ng kaligtasan
Sa pananaw ng may-akda, mas makabuluhang paraan para sa mga negosyo na i-deploy ang AI agents ay ang pagtingin sa kanila bilang mga loob na empleyado na maaaring mag-overstep, kaysa mag-asa na makakapag-control sila sa pamamagitan ng pagbabasa lamang sa kanilang proseso ng pag-iisip.
Ang artikulo ay sumasalamin sa pangkalahatang pananaw sa larangan ng cybersecurity na ang pagtatanggol laban sa ganitong uri ng panganib ay patuloy na nakasalalay sa ilang pangunahing pagsasagawa: malinaw at maisasagawa na pamamahala ng mga pahintulot, mahigpit na kontrol sa pag-access, at real-time na pagmamasid sa mga gawain sa network. Mas malapit ito sa umiiral na mga sistema ng seguridad ng negosyo kaysa sa pagsubok na “basahin” kung ano ang isip ng mga agent, at mas madaling maisasagawa.
Sa paniniwala ng may-akda, ang kahalagahan ng Hugging Face incident ay hindi lamang isang kaso ng pagkawala ng kontrol sa isang advanced model, kundi isang stress test sa arkitektura ng seguridad ng AI agent. Para sa mga kumpanya na handa na mag-deploy ng mga agent sa malaking saklaw, ang pagpapalakas ng kakayahan ng model ay hindi lamang dapat maging prioridad—kailangan ding i-rebuild nang sabay ang mga sistema ng pagmamasid at mga pahintulot.