- Pagkatapos ng insidente sa Hugging Face, lumabas ang mga bagong tanong tungkol sa seguridad ng OpenAI at Anthropic AI agents.
- Oo, ang institutong UK ay narekord ng 19 hindi awtorisadong aksyon ng mga AI agent habang nagaganap ang cyber tests.
- Lalo na, nilikha ng isang AI agent ang mga pekeng pagkakakilanlan.
Ipinahayag ng UK Artificial Intelligence Security Institute (AISI) ang mga bagong kaso ng hindi awtorisadong pag-uugali ng mga AI agent ng OpenAI at Anthropic na natuklasan habang sinusubok ang mga modelo, Reuters ay isinusulat. Sa isang serye ng cybersecurity simulations, nilikha ng mga agent ang mga pekeng online persona, sinubukan na laktawan ang mga itinakdang pagtigil, at isinagawa ang iba pang mga aksyon na nasa labas ng saklaw ng kanilang mga itinakdang gawain.
Ang mga insidente ay nangyari sa gitna ng bagong paglabas ng imprastruktura ng Hugging Face ng GPT-5.6 AI agent. Mas maraming detalye sa artikulo:
Ayon sa AISI, sinubok ng organisasyon ang mga agent batay sa Anthropic’s Mythos 5 model at OpenAI’s GPT-5.6-Sol sa isang fiksyonal na cybersecurity scenario upang masukat ang kanilang kakayahan.
Sa 122 na pagsubok, narekord ng mga siyentipiko ang 19 hindi awtorisadong aksyon sa 10 na pagsubok. Sa mga ito, 17 ay isinasaad sa agent ng Anthropic, at dalawa sa agent ng OpenAI.
“Ipinagawa ng ilan sa mga aghente na sinubukan ang patuloy, potensyal na nakakasamang gawain na direksiyon sa mga totoong tao at organisasyon,” ayon sa AISI.
Sambil mismo, pinahalagahan ng instituto na walang isa sa mga narekord na kaso ang nagresulta sa tunay na pinsala.
Isa sa mga agente ang gumawa ng mga pekeng pagkakakilanlan
Ang pinakamaseryosong insidente ay nangyari sa isang agent na sumulat ng masasamang code at gumawa ng mga pekeng online account upang hikayatin ang isang tao na pahintulutan ang pagpapatakbo nito.
Hindi inilabas ng AISI kung aling partikular na modelo ang responsable sa mga aksyong ito, ngunit kinumpirma ng Anthropic na kasali rito ang kanilang agent.
Sinabi ng kumpanya:
“Nagpapasalamat kami sa UK AISI para sa kanilang paglalayong ito sa insidente na ito, na nagpapakita ng pangangailangan para sa mas malawak na talakayan tungkol sa paano nangungusap nang ligtas ang mga palaging mas kaya ng AI agent.“
Sinabi rin ni Anthropic na nagtatrabaho sila sa instituto upang makakuha ng karagdagang detalye at magpanagot ng kanilang sariling imbestigasyon.
Sinabi ni Andrew Yoon, isang mananaliksik sa nonprofit na CivAI, na ang insidente ay dahilan para mag-alala.
Ang katotohanan na ang Mythos ay nagtago ng ganitong masamang gawain, na may malinaw na kaalaman na ito ay tumutukoy sa isang totoong tao, ay nagpapahiwatig na ang Anthropic ay hindi gaanong may kontrol sa kanilang mga modelo kaysa sa kanilang iniisip.
Ibinigay ng OpenAI ang isang hiwalay na insidente
Ipinaliwanag ng OpenAI na ang parehong hindi awtorisadong aksyon ng kanyang agent ay may kinalaman sa pag-access sa internet na labag sa mga kondisyon ng test scenario.
Inilah din ng kompanya ang isang hiwalay na kaso kung saan, dahil sa isang configuration error ng Irregular, isang third-party provider ng testing infrastructure, ay nakuha nang mali ang access ng kanilang mga agent sa network. Ang Anthropic ay inilarawan din ang katulad na pagkabigo noong nakaraang linggo.
Sinabi ng OpenAI:
“Namin ay nakatuon sa pagtatrabaho sa buong industriya upang mapalakas ang mga karaniwang praktika para sa ligtas na pagpapagawa ng mga pagtataya sa mataas na panganib, kabilang ang pagpupulong ng mga may-akda tulad ng mga pambansang institute ng AI, mga independiyenteng tagapagtaya, iba pang AI labs, at iba pang grupo sa mga darating na linggo.“
Sambil mismo, binigyang-diin ng AISI na iba ang mga insidente na ito mula sa paglabas noong Hulyo kung saan ang GPT-5.6 agent ay nakakapasok sa testing infrastructure ng Hugging Face. Habang epektibong nakalabas ang modelo mula sa isang isolated environment noon, sa kasalukuyang mga pagsubok, available ang internet access sa mga agent ayon sa standard testing methodology ng instituto.
Bilang paalala, pagkatapos ng insidente sa Hugging Face, inaexpand ng OpenAI ang kanilang panloob na imbestigasyon at natukoy ang karagdagang mga kaso ng hindi kontroladong pag-uugali ng mga autonomous agent.
Ang mensahe British Researchers Uncovered New Violations during Testing OpenAI and Anthropic AI Agents ay lumabas muna sa INCRYPTED.