AI 代理也會被騙,別指望換個更聰明的模型就能解決這問題。 BNB Agent Studio 與 AWS 合作者進行了一組「混淆代理」測試。攻擊者在正常任務中插入錯誤的收款人或金額,六個模型在部分情境下執行違規付款的比例最高達 87%。 即使加入錢包策略層,模型仍會試圖犯錯,但在測試環境中沒有任何一筆違規付款被簽名。收款白名單、消費上限和簽名權限由程式碼執行,私鑰也不進入模型上下文。 我認同這個思路。AI 可以幫你做決定,但花錢的邊界應寫死在錢包裡。 目前結果來自單輪測試和 BSC 測試網驗證,距離生產環境的長期防護還有很長一段路。但至少方向很明確:防線應設在簽名之前。