
FN
關注中0X 粉絲3.92K推文129讚3.63K

大家普遍認為 AI 代理很有用,但個人認為,大多數人忽略了一個問題:一條惡意指令就可能將它們轉變為安全風險。 一封郵件、文件或網頁可能隱藏指令,操縱代理執行其不應進行的操作。 這正是 @Acurast 正透過 Jailbreak the Guard 解決的問題。 其運作方式如下: → 提交提示詞 → Laya 批准或阻止該提示詞 → 模型對潛在攻擊進行分類 → 決策在 Acurast 去中心化網絡的 Android 裝置上執行 這並非完美的防禦機制,但在代理存取工具或敏感資料前增加安全檢查點是合理的。 更大的問題是:開發者會否大規模應用此技術,從而創造對 $ACU 的真實需求? 時間會給出答案,我想。





