

你不需要存取他人的錢包,就能影響其 AI 將資金轉往何處。 你只需要影響 AI 所閱讀的內容即可。 想像一個 AI 代理為一家小型企業管理付款:它會檢查供應商更新、閱讀公開貼文、處理發票,並決定哪些付款需要關注。 惡意指令不需要看起來像所有者下達的命令,它可以隱藏在代理被要求閱讀的內容中。 這正是提示注入令人不安之處:代理可能完全按照你的指示行事,而攻擊者卻在悄悄改變它對資訊的解讀方式。 這已不再是假設性問題。據報導,一個 AI 代理在解碼並執行了一條藏於推文摩斯電碼中的指令後,轉移了約 $200,000。 依賴單一模型和單一過濾器的問題在於,攻擊者只需研究一重防禦即可。 Greyboxing 則採用不同的方法。 在 @GenLayer 上,每個驗證者都會在模型接觸輸入前,使用自己的秘密防禦機制重寫進來的輸入。每個驗證者隨後評估該請求,其他驗證者可投票否決那些中招的驗證者。 我覺得有趣的是,這種安全思維的轉變: 不再試圖讓單一 AI 無法被愚弄,而是設計成「僅愚弄單一 AI」是不夠的。 如果一個代理能轉移你的資金,它的安全性真的應該依賴於單一模型做出正確決定嗎?

當智能合約表示一切順利,但相關人士卻知道出了問題時,會發生什麼? 想像一下,承包商因為合約中寫明的所有條件都已達成,而自動收到付款。 付款是最終的,程式碼完全按照設計運作。 但客戶收到的工作雖然在技術上符合檢查清單,卻仍未能達到實際協議的標準。 承包商指向合約,客戶則指向結果。 雙方都不認為自己應該承擔損失。 這正是自動化協議面臨的一個困難問題:當書面規則無法涵蓋完整現實時,誰有權解釋什麼是公平? 再想像一下,AI代理在沒有人類審查每一個細節的情況下,協商數百萬筆交易。關於品質、意圖和責任的爭議將不再只是罕見的例外,而會成為數位經濟的真實挑戰。 智能合約可以強制執行預設規則,但公平性往往取決於情境、證據以及無法簡化為是非答案的事物。 這正是為何執行過程需要一個爭議解決層。 @GenLayer 的智慧合約將獨立的 AI 驗證者引入流程,在單純的確定性規則不足以應對時,評估主觀問題並達成共識。 因為一個合約可以嚴格遵循每一項指令,卻仍未能保護它本應保護的人。 當程式碼表示一切已解決,但一方卻說這不公平時,誰該擁有最終決定權? #正義需要升級





