安全專家批評 Anthropic 的 AI 責任模型

iconKuCoinFlash
分享
AI summary icon精華摘要
ME AI 消息,據動察 Beating 監測,安全沙箱專家、Cloudflare 首席架構師 Kenton Varda 對 Anthropic 的智能體身份模型提出批評,指出直接給 AI 分配專屬帳號不僅無法適應龐大的任務規模,更會破壞人類問責機制。Kenton Varda 認為,新安全架構雖然試圖解決多人協作中的憑證越權問題,但在底層設計上存在致命缺陷。智能體在法律和行政上均無法作為責任主體,所有操作權限在本質上必須且只能來源於具體的活人。如果直接給 AI 生成獨立的專屬帳號,當 AI 執行刪除資料庫等破壞性操作時,系統日誌最終只會記錄 AI 執行了操作,而無法將操作責任歸屬到真正下達指令的員工,導致人類問責機制徹底失效。針對配置獨立權限包帶來的配置疲勞,Kenton Varda 倡導採用基於能力的安全性模型。系統不應賦予 AI 全局或預設權限,而是將權限作為「能力」動態傳遞。例如,當員工在對話中向 AI 發送特定文件的連結時,系統會自動用員工本人的憑證複刻出對特定文件的臨時唯讀引用傳遞給 AI。能力模型不僅能確保 AI 的任何行為都能追溯到具體的發起人,也使低權限員工無法向 AI 傳遞自身沒有的資料庫憑證,從而在底層堵死越權隱患。(來源:BlockBeats)
免責聲明:本頁面資訊可能來自第三方,不一定反映KuCoin的觀點或意見。本內容僅供一般參考之用,不構成任何形式的陳述或保證,也不應被解釋為財務或投資建議。 KuCoin 對任何錯誤或遺漏,或因使用該資訊而導致的任何結果不承擔任何責任。 虛擬資產投資可能存在風險。請您根據自身的財務狀況仔細評估產品的風險以及您的風險承受能力。如需了解更多信息,請參閱我們的使用條款風險披露