
Lahat ay naniniwala na ang AI agents ay maaaring magamit, ngunit sa personal kong pananaw, isang problema na madalas na nalilimutan ng marami ay ang katotohanang isang masamang utos ay maaaring gawing panganib sa seguridad ang kanila. Maaaring itago ng isang email, dokumento, o webpage ang mga utos na magpapalit sa isang Agent upang gawin ang isang bagay na hindi dapat niyang gawin. Ito ang problema na tinutugon ni @Acurast sa Jailbreak the Guard. Narito kung paano ito gumagana: → Isumite ang prompt → Laya ay aprobahin o blokehin ito → Ang modelong ito ay klasipikahin ang potensyal na pag-atake → Ang desisyon ay tumatakbo sa mga Android device sa buong decentralized network ni Acurast Hindi ito perpektong depensa, ngunit ang pagdaragdag ng isang security checkpoint bago ang Agent ay makakapag-access sa mga tool o sensitibong data ay may kabuluhan. Ngayon, ang mas malaking tanong: magiging gagamitin ba ng mga developer ito sa malawakang iskala, at gagawa ba ito ng totoong pangangailangan para sa $ACU? Ang oras ang magtuturo, alam ko.
