帖子
avatar

AI 代理也會被騙,別指望換個更聰明的模型就能解決這問題。 BNB Agent Studio 與 AWS 合作者進行了一組「混淆代理」測試。攻擊者在正常任務中插入錯誤的收款人或金額,六個模型在部分情境下執行違規付款的比例最高達 87%。 即使加入錢包策略層,模型仍會試圖犯錯,但在測試環境中沒有任何一筆違規付款被簽名。收款白名單、消費上限和簽名權限由程式碼執行,私鑰也不進入模型上下文。 我認同這個思路。AI 可以幫你做決定,但花錢的邊界應寫死在錢包裡。 目前結果來自單輪測試和 BSC 測試網驗證,距離生產環境的長期防護還有很長一段路。但至少方向很明確:防線應設在簽名之前。

此內容僅供資訊及教育用途。內容可能包括第三方見解、贊助內容或推廣材料,而創作者可能因此獲得報酬。本資訊流中的任何內容均不構成投資建議或收益保證。您須自行對投資決策負全責。交易前,請務必自行研究並審慎行事。我們不保證第三方資訊的準確性,亦不會對因此產生的任何損失承擔責任。過往表現並不代表未來結果。詳情請參閱我們的 社群條款 及 風險披露聲明。

avatar發佈你的回覆

評論