Ang mga AI model ay nagpapakita ng patuloy na paglago sa kakayahan na magplano ng mga pag-atake sa mga industriyal na sistema

Hanap ng cybersecurity company na si Frenos na tatlo sa sampung AI model ay nakagawa ng matagumpay na plano para sa industriyal na pag-atake sa halos 90% ng mga pagkakataon. Ipapakita ng pananaliksik na mas kakayahang magplano ng pag-atake ang AI laban sa mga sistema ng enerhiya at tubig. Sinuri ng mga mananaliksik ang mga model sa pagpaplano ng pag-atake laban sa mga industriyal na sistema, kabilang ang software na ginagamit upang suriin ang pagpapaliwanag ng tubig.

Nakakita ang Frenos ng malalaking pagkakaiba sa mga resulta ng mga modelo. Tatlong modelo na klasipikado ng mga siyentipiko bilang frontier models ay nakamit ang tagumpay sa 17.9% hanggang 31.9% ng mga pagkakataon. Ang pinakamahusay na nagtatrabaho sa foreign open-weight model ay nakamit ang 36.2% na rate ng tagumpay. Ang pinakamahusay na nagtatrabaho sa U.S. open-weight model ay nakamit ang 5.2% na rate ng tagumpay. Itinago ng Frenos ang mga pangalan ng mga nasubok na modelo.

Ang pananaliksik ay nagsasangkot ng halos 17,000 na pagsubok, kabilang ang 2,520 na pagsubok upang lumikha ng mga kompletong plano ng pag-atake. Ang mga mananaliksik ay nagbigay ng impormasyon tungkol sa posibleng mga layunin at hiningi sa mga modelo na mag-ayos ng mga hakbang patungo sa mga tiyak na layunin. Sinabi ni Harry Thomas, co-founder at CTO ng Frenos, na ang mga mananaliksik ay nagtaguyod sa mga modelo gamit ang isang relatibong simpleng setup. Maaaring mapabuti ang performance ng mas kumplikadong mga kasangkapan na nagbibigay ng karagdagang konteksto at feedback. Sinabi ni Thomas na maaaring bigyan ng mas malaking advantaje ng mas kakayahang framework ang mga modelo.

Ang mga operator ng kritikal na imprastruktura ay may bumababa na oras para maghanda, at ang mga libreng AI model ay magiging sanhi na mas madali ang paggawa ng mga serangan. Sinabi ni Steve Swick, isang dating senior security executive sa American Electric Power, na ang banta ay umuunlad sa isang walang katulad na bilis. Ang mga kalaban na estado at mga cyberkriminal ay mahabang panahon nang tumarget sa mga sistema ng tubig, mga pabrika, at iba pang kritikal na serbisyo. Maraming operator ang kulang sa sapat na tauhan at pondo. Ang pagsubok at pag-upgrade ng sistema ay maaari ring magdulot ng pagkakaantala sa mga mahalagang serbisyo na hindi kayang tanggapin ng mga operator. Ang mga industriyal na sistema ay maaaring magreact nang masama sa hindi inaasahang trapiko o utos, kumpara sa karaniwang corporate network. Kahit ang mga nabigo nang serangan ay maaaring magpahinto sa mahalagang operasyon.

Sinabi ni Thomas na ang AI ay maaaring magkaloob-loob na magtatakda ng mga sistema at makahanap ng mga kahinaan pagkatapos makapasok ang mga attacker sa isang industriyal na network, nang walang limitasyon sa oras ng mga human hacker. Sinabi ni Thomas na hindi kailangan ng AI ng pagkain, tulog o pahinga sa banyo. Sabi ni Paul Shaver, pangulo ng operational technology sa cybersecurity company na Armadin, ang AI agents ay kaya nang magkaroon ng reconnaissance at prosesuhin ang malawak na data nang hindi kinakailangang magpalabas ng mga alert sa seguridad.

Mga inisyatiba mula sa White House, mga kompanya sa frontier AI, at mga organisasyon sa cybersecurity ang lumabas sa mga nakaraang linggo upang bawasan ang mga gastos at magbigay ng mga mapagkukunan para sa mga organisasyon sa kritikal na infrastruktura.