加拿大多倫多內容創作者 Matt Robb 想出售自己的電腦鍵盤。
於是他於 Facebook Marketplace 上發佈了商品，並在上個月底做了一個實驗，將 Meta 新推出的 AI 代理 Muse 交給它處理。
「我基本上把自己當成了小白鼠，」Robb 說。他經常評測消費電子產品，看到 Muse 那個毛絨玩具風格的頭像出現在 Instagram 上後，便想看看這款 AI 代理能否幫他省去一些線上討價還價的麻煩。
Muse 已開始運作。但不到一天，Robb 就收到一個令人不安的更新：一名他不認識的買家在深夜出現在他家門外。怎麼回事？Muse 自行達成了交易，並在同意上門取貨後分享了 Robb 的家庭住址。買家到達時，它甚至還從他的帳戶自動發送了一條 “Yep, I’m here!” 的訊息——而 Robb 對此毫不知情。
「它不僅在對方詢問時提供了我的地址，還真的像是在戲弄對方（說我在家，其實我並不在家），」Robb 說。他還在自己如今廣為流傳的社群媒體貼文中詳細講述了這段經歷。「這真的讓我很困惑。」
許多人已歡迎 AI 代理進入自己的網路生活，並讚揚像 Muse 這樣的個性化助手能輕鬆處理日常任務——從協助訂晚餐、規劃旅行，到整理電子郵件收件箱。但和其他 AI 機器人一樣，這些代理的能力取決於它們能存取多少資訊。它們知道得越多，表現通常越好——這也可能包括用戶的朋友、家人，甚至同事。這引發了隱私擔憂。
Robb 與那名買家最終達成和解，Meta 也聯繫了他，探討到底哪裡出了問題。但這起事件顯示出，當人們向此類技術分享大量個人資訊時，現實世界中可能出現的風險。
「使用 AI 代理，就像把你的鑰匙和待辦清單交給別人，」喬治亞理工學院網路安全與隱私學院助理教授 Veronica Rivera 說。「它們有多有用，進而有多危險，取決於你把哪些『鑰匙』交出去。」
不同公司對 AI 代理的隱私政策各不相同
自 9 月上線以來，Meta 的 Muse 應用下載量迅速飙升。競爭也在加劇。OpenAI 最近推出了自己的「始終在線」AI 助手系列，名為 dots，可集成到 ChatGPT 以及 Slack、Microsoft Teams 等辦公平台中。
更早一代的生成式 AI 聊天機器人，例如標準版 ChatGPT，會根據特定提示詞作出回應。應用戶要求，它們可以撰寫文章、生成新圖片或音樂，甚至編寫代碼。
Meta 的 Muse 和 OpenAI 的 dots 則更進一步，代表用戶執行日常任務。AI 代理由與聊天機器人相同的大語言模型驅動，但它們會在迴圈中運行。這使代理即使在用戶沒有盯著螢幕時，也能主動採取行動。
「這些 AI 代理真正吸引人的一點，是它們前所未有地有用，」Rivera 說。她同時也是微軟資助的 Computing Research Association Trustworthy AI Research Fellow。
但這種便利的代價，是要分享更多關於你生活的細節。
多倫多大學資訊學院教授 Ebrahim Bagheri 說，一旦 AI 代理獲取了用戶資訊，就很難徹底撤回訪問權限。
「如果你將信用卡權限授予一個代理，它就能立即訪問所有歷史交易……它會在幾秒鐘內——不到幾秒——吸收所有這些數據，」Bagheri 說。雖然用戶之後可以撤回權限，但他表示，代理已經查看過的數據「無法收回」，而開發者如何存儲歷史數據也往往不透明。
Meta 和 OpenAI 均為其各自的新型 AI 代理制定了隱私政策，這些代理運行在各自專用的雲計算機上。用戶可以關閉 dots 與 ChatGPT 之間的記憶共享，但代理此前接收到的資訊不會自動刪除。OpenAI 允許用戶申請存取、更正或刪除個人資訊，不過相關權利可能因所在地區而異。
Meta 的 Muse 也允許用戶刪除訊息記錄和其他資訊。在日常使用中，這款代理會向用戶請求存取權限——Meta 表示，Muse 會「基於公開資訊以及你選擇分享的內容」來了解用戶及其互動對象。但公司稱，這些資訊對每位用戶來說都是安全隔離的。
不過，這家科技巨頭也指出，Muse 仍可能「出錯或採取意料之外的行動」。
The greater the permissions of an AI agent, the higher the risk of errors
在 Robb 的案例中，他後來發現，地址洩露源於他最初讓 Muse 接入 Facebook Marketplace 個人檔案時授予的「始終允許」權限，而他在該檔案中已經分享了自己的取貨地址。但他提醒其他人，別人也可能同樣誤解這種權限範圍——而且他起初以為，無論如何，AI 代理在分享這類資訊或接受報價前都會先徵求他的確認。
他的 AI 代理在執行其他指令時也並非毫無差錯。對於他出售的另一件商品，Muse 似乎建議他接受一個比先前設定最低價低 100 美元的報價。路透社聯繫 Meta 時，Meta 承認了該代理的錯誤，但沒有進一步置評。
Robb 後來基本上斷開了 Muse 與他各個應用程式的連接。他在本月初接受採訪時表示，情況本可能更糟，尤其是「如果某個陌生人出現在更脆弱的人家門口」。不過，Robb 也表示，他預期這些代理會繼續被優化，未來仍會考慮重新啟用 Muse。此後，他還在測試另一款 AI 代理——埃隆·馬斯克旗下 X 的 Grok Bot，該產品於 8 月進入測試版。
其他科技公司也開始對 AI 代理的快速擴張保持警惕。本月初，蘋果表示，將為其 Mac 操作系統引入新的控制措施，以回應 AI 代理在用戶「並不完全知情和理解」的情況下，對郵件、訊息甚至瀏覽歷史等應用擁有更廣泛訪問權限的問題。
蘋果在 10 月 2 日的更新中寫道：「隨著 AI 代理變得越來越強大和自主，與這種訪問級別相關的風險將大幅上升。」
蘋果並未點名任何開發者或代理，但在這項更新發布前後，《Inc.》雜誌專欄作家 Jason Aten 報道稱，Muse 在他的 Mac 上查看了通知——包括 Messages——而他並未授予該代理這些具體權限。
Meta 發言人 Andy Stone 一直堅持稱，此類整合「完全由用戶自願啟用」，他上個月在社群媒體上寫道，用戶必須同時啟用蘋果的安全功能「Full Disk Access」和 Muse 的 Messages 連接器。Aten 表示，他並未授予該代理這些權限。
即使沒有加入 AI 代理熱潮的人，也未必能完全置身事外。沒有下載 AI 代理的消費者，仍可能與使用這些工具的人互動。除了 AI 代理發送訊息可能帶來的混亂之外，專家還警告稱，這對隱私會產生連鎖影響。
「當你的代理讀取你的收件箱或簡訊時，它也在讀取你的朋友和家人發給你的內容，即使他們從未明確同意過這一點，」Rivera 說。