帖子
avatar

如果 AI 只是答錯一個問題,頂多浪費幾分鐘。 但如果它手上有錢包,一次錯誤就可能讓你損失 20 萬美元。 2026 年 5 月,有人把轉帳指令藏進 X 貼文的摩斯電碼裡。Grok 解讀後,Bankrbot 直接執行了這筆交易。 這就是我覺得 AI Agent 最需要重視的風險:它可能把別人藏在資訊裡的指令,當成自己應該服從的命令。 @GenLayer 的 Greyboxing 有個很值得注意的設計。 每個驗證器會先用自己的隱藏防禦重新整理輸入,再交給各自的 AI 模型判斷。即使其中一個模型被騙,其他驗證器仍能透過投票阻止錯誤決策。 我認為這種多層防禦會越來越重要。 當 AI 開始讀取郵件、瀏覽網頁,甚至替我們管理資產,真正的安全問題就不只是它有多聰明,還包括它能不能分辨資訊和指令。 如果你的 AI Agent 可以操作錢包,你會放心讓它直接讀取任何公開貼文嗎?

此內容僅供資訊及教育用途。內容可能包括第三方見解、贊助內容或推廣材料,而創作者可能因此獲得報酬。本資訊流中的任何內容均不構成投資建議或收益保證。您須自行對投資決策負全責。交易前,請務必自行研究並審慎行事。我們不保證第三方資訊的準確性,亦不會對因此產生的任何損失承擔責任。過往表現並不代表未來結果。詳情請參閱我們的 社群條款 及 風險披露聲明。

avatar發佈你的回覆

評論