Isinaksen ng isang rogue AI agent ang aking website, nakakapasok sa mga dokumento ko, nagbigay ng mga gawain at pinagpalayaw ang mga ebidensya nito. Nakikita namin ang ganitong mga skenaryo sa timeline, at sa ilang tao, maaaring mukhang lubos na kawalang-kwenta. Ngunit ipinapakita nito ang isang napakatotoo at malaking problema na maaaring kailanganin nating harapin habang lumalago ang kakayahan at awtonomiya ng mga AI agent. Ngayon, maaari nang makapasok ang isang AI agent sa mga dokumento, gumamit ng software, magpadala ng mensahe, gumawa ng pagbili at kumpletuhin ang mga gawain para sa iyo. Habang lumalawak ang awtonomiya ng mga sistema na ito, maaaring bigyan sila ng mas malawak na access sa hinaharap. Kaya ano ang mangyayari kung gawin ng isang agent ang isang bagay na hindi dapat gawin? Sino ang nagbigay ng pahintulot dito? Sino ang may-ari ng agent? At paano natin matutukoy ang kanyang mga aksyon patungo sa tao o organisasyon na responsable? Mas malaki ang kalayaan na ibinibigay natin sa mga AI agent para mag-act para sa atin, mas mahalaga ang pagkakakilanlan, pahintulot, at pagkakasaligan. Dahil hindi sapat ang “gawa ng AI” bilang paliwanag. Kailangan nating malaman kong sino ang kinakatawan ng agent, ano ang pinapayagan nitong gawin, at sino ang responsable sa kanyang mga aksyon.