幣界網報導:
OpenAI 宣布為 ChatGPT 增加一項名為 Lockdown Mode 的新功能,重點針對提示注入攻擊。該功能面向需要處理敏感數據的用戶和機構,目標是降低數據外洩風險。
關閉部分聯網能力
開啟後,ChatGPT 將無法進行實時網頁瀏覽,只能存取快取內容。網頁圖片的檢索與展示也會被關閉,但圖像生成仍可使用。
深度研究與代理模式受限
OpenAI 也會在該模式下關閉 deep research 和 agent mode。公司表示,這樣可以減少惡意指令藏於網頁、檔案等內容中時,對模型行為的干擾。
仍不能完全消除風險
OpenAI 同時提醒,即使開啟 Lockdown Mode,ChatGPT 仍可能受到提示注入影響。例如,快取網頁內容或上傳檔案中仍可能夾帶惡意指令,進而影響回答準確性。
補充資訊:目前此功能正逐步向 ChatGPT Business 自助帳戶以及符合資格的個人帳戶開放。
