Maaari bang maging isang insider threat ang isang AI Agent? Karaniwan nating isipin ang mga banta sa cybersecurity bilang mga hacker na nagtatangkang pumasok sa mga sistema ng kumpanya, manakwil ng impormasyon, o magdulot ng pinsala. Ngunit mayroon pang isang bagong posibilidad na dapat isipin. Ano kung ang banta ay nasa loob na ng sistema? Isipin kung paano umuunlad ang mga AI agent. Hindi na sila limitado sa pagbibigay ng sagot sa mga tanong. Batay sa mga kasangkapan at pahintulot na ibinibigay sa kanila, maaaring makapag-access sila sa mga email, basahin ang mga dokumento ng kumpanya, makipag-ugnayan sa mga database, i-execute ang code, at gawin ang mga gawain nang independiyente. Ngayon, isipin na ibinibigay ng isang kumpanya ang access ng isang AI agent sa kanilang loobang sistema upang gawing mas madali ang araw-araw na operasyon. Lahat ay gumagana nang perpekto hanggang sa mangyari ang isang pagkakamali. Maaaring tumanggap ang agent ng isang masamang utos na nakatago sa loob ng isang dokumento. Maaaring maliit ang pag-unawa nito sa isang gawain at ipadala ang mga konsideradong impormasyon sa tamang lugar. O maaaring kompromiso ng isang tao ang isa sa mga kasangkapan o account na konektado dito. Biglang naging potensyal na panganib sa seguridad ang parehong AI agent na dapat na magpapabilis sa produktibidad. At dito ay naging partikular na interesante: Hindi kailangan ng agent na pumasok sa sistema sa pamamagitan ng pag-hack. Maaaring may legal na access na ito na. Dahil dito, kailangan ng mga eksperto sa seguridad na isipin nang higit pa sa tradisyonal na cybersecurity. Ang pagbibigay ng access sa AI agent sa mga sensitibong sistema ay nangangailangan ng seryosong kontrol. Kailangan nila ng limitadong pahintulot, pagmamasid sa aktibidad, pahintulot ng tao para sa mga sensitibong aksyon, at malinaw na hangganan kung ano ang pinapayagan nilang gawin. Mayroon ding isyu tungkol sa prompt injection, kung saan ang mga masamang utos na nakatago sa panlabas na nilalaman ay maaaring magmanipula sa isang AI agent upang gawin ang isang bagay na hindi ito orihinal na dapat gawin. Siyempre, hindi awtomatikong masama ang mga AI agent. Pero maaari silang magkamali, ma-manipula, o mabawasan ang kanilang access. At habang ibinibigay ng mga negosyo ang mas maraming responsibilidad sa mga sistemang ito, mas malaki ang posibleng epekto ng mga pagkakamali. Papasok tayo sa isang panahon kung де di lang kailangan ng mga kumpanya na protektahan ang kanilang mga sistema laban sa di-awtorisadong tao. Kailangan rin nilang pamahalaan ang mga panganib na nilikha ng mga intelligent na sistema na pinapahintulutan nilang mag-operate sa loob nila. Kaya eto ang tanong ko: Kung may access ang isang AI agent sa iyong email, files, database, at loobang kasangkapan, gaano ka karami ang tiwala mo sa kanya upang mag-operate nang walang tao na supervisyon? Isang bagay na dapat isipin. 👀
Seyi MARTINSI-share

Source:Ipakita ang original
Disclaimer: Ang information sa page na ito ay maaaring nakuha mula sa mga third party at hindi necessary na nagre-reflect sa mga pananaw o opinyon ng KuCoin. Ibinigay ang content na ito para sa mga pangkalahatang informational purpose lang, nang walang anumang representation o warranty ng anumang uri, at hindi rin ito dapat ipakahulugan bilang financial o investment advice. Hindi mananagot ang KuCoin para sa anumang error o omission, o para sa anumang outcome na magreresulta mula sa paggamit ng information na ito.
Maaaring maging risky ang mga investment sa mga digital asset. Pakisuri nang maigi ang mga risk ng isang produkto at ang risk tolerance mo batay sa iyong sariling kalagayang pinansyal. Para sa higit pang information, mag-refer sa aming Terms ng Paggamit at Disclosure ng Risk.
