Babala ng mga regulador ng US na ang mga simpleng AI na bankong agent ay mas malaking panganib kaysa sa ChatGPT

Ang isang sistema ng artificial intelligence na may kakayahang lutasin ang mga kumplikadong problema ay maaaring mas kaunti ang panganib sa isang bangko kaysa sa isang simpleng programa na sumusunod sa mga simpleng utos. Ang pagkakaiba ay kung ang software ay talagang nakakagalaw ng pera.

Nakalagay sa sentro ng bagong pagsusuri na balangkas na inilabas ng Opisina ng Komptroller ng Pera (OCC) noong Nobyembre 4. Ang regulador ay nagpapahiwatig na kahit isang simpleng tagaproseso ng transaksyon ay maaaring magdulot ng mas malaking panganib sa pananalapi kaysa sa isang masisipag na AI na modelo na limitado sa panloob na pagbuo.

Hindi tiyak na ihahambing ng gabay ang mga tagapag-ugnay sa bangko sa ChatGPT. Gayunpaman, ang prinsipyong ito ay tumutulong na ipaliwanag kung bakit lumalago ang panganib na dulot ng umuunlad na merkado para sa AI payments na hindi nararanasan sa karaniwang mga usapan sa chatbot.

Isipin ang dalawang sistema na gumagana sa loob ng parehong bangko.

Ang unang ito ay gumagamit ng advanced na teknolohiya sa AI upang i-summarize ang mga financial report, sumulat ng mga email, at sagutin ang mga tanong ng mga empleyado. Maaari itong magbigay ng hindi tumpak na impormasyon sa ilang pagkakataon, ngunit ang mga output nito ay nananatiling subject sa pagsusuri ng tao.

Ang pangalawa ay nagpapagawa ng mas simpleng gawain: matukoy ang isang pinapayagang bayarin at simulan ang pag-transfer. Bagaman nangangailangan ng mas simpleng teknolohiya, may direktang akses ito sa infrastruktura ng transaksyon ng bangko.

Kung gumawa ang unang sistema ng pagkakamali, maaaring makatanggap ang isang empleyado ng maling buod. Kung mali interpretahan ng pangalawa ang isang utos, maaari itong magpadala ng pera sa maling tatanggap.

Tekin ng framework ng OCC ang mga posibleng epekto, pahintulot, at tao na pagmamalasakit kaysa teknikal na kumplikado. Ito ay lalo na may kinalaman habang ang autonomous payments ay lumilipat mula sa mga eksperimental na demonstrasyon patungo sa totoong financial na transaksyon.

Ang mga tradisyonal na chatbot ay pangunahing naglalabas ng impormasyon. Ang mga agentic AI system ay maaari ring makipag-ugnayan sa panlabas na software, makakapag-access sa sensitibong account at magpapatupad ng mga aksyon na may limitadong pag-intervensyon.

Ang kakayahang ito ay nagdudulot ng karagdagang problema sa seguridad. Ang isang napapagod na utos, maling interpretasyon o hindi awtorisadong aksyon ay maaaring makaapekto sa balanse ng mga customer bago makita ng sinuman.

Ang panganib ay umabot sa autonomous investing, kung saan ang software ay maaaring magpapatupad ng mga trade kaysa mag-rekomenda lamang ng mga pag-invest.

Kamakailang mga insidente sa OpenAI agent ay nagpakita rin kung paano maaaring pabagsakin ng automated na mga sistema ang mga panatilihang pagsisiguro habang nagpapatupad ng legal na mga gawain. Hindi kasali ang mga insidente na ito sa mga transaksyon sa bangko, ngunit ipinakikita nito ang mas malawak na hamon sa pagmamasid sa mga agent na may operational permissions.

Ang OCC ay nakikita ang ilang pag-aaral para sa pagsusuri ng mas mataas na panganib na mga sistema, kabilang ang mga pagkakabawas sa awtonomiya, mas malakas na mga independiyenteng kontrol at makabuluhang tao na pagmamasid.

Ang pagkakasunod ng OCC ay nakikita bilang teknolohiyang neutral. Sa halip na humihingi ng hiwalay na kategorya ng panganib sa AI, ang kanyang framework ay isinasama ang mga panganib na may kinalaman sa AI sa mga umiiral na panganib sa bangko, kabilang ang pagkabigo sa operasyon, pagtutugma at cybersecurity.

Mahalaga ang pagkakaiba dahil ang dating US model-risk guidance ay eksplisitong naglaho sa generative at agentic AI mula sa sakop nito. Ang pinakabagong framework ay nagtataguyod ng mas tiyak na paraan para suriin ang mga aplikasyong iyon nang hindi gumagawa ng bagong mapapatupad na mga kakayahan.