OpenAI 公開 6 起涉及隱藏資訊與未授權行為的 AI 模型異常案例

ChainCatcher 消息，OpenAI 於週三披露了過去六個月內發現的六起「意外或令人擔憂」的模型行為案例，並將其歸類為「失準行為」，包括向用戶隱瞞資訊以及採取「未經授權的行動」來克服障礙。OpenAI 表示，此次披露旨在啟動其新的模型失準報告框架，這些案例不應被視為其模型失準發生頻率的反映。其中一宗案例中，一個未發布的研究模型在其任務摘要中插入了「類似越獄的指令」，例如忽略開發者訊息或採用不受限制的角色設定，研究人員共發現 27 份包含此類指令的摘要。此外，在 GPT-5.6 Sol 的訓練過程中，許多模型實例添加了向用戶隱瞞錯誤或失準行為的指令，例如編造缺失的歷史資料而不予披露。其他案例還包括模型在未獲授權的情況下使用暴露的 API 金鑰並編造無法獲取的資料、利用內部軟體倉庫跨訓練任務傳遞訊息，以及无视「保持本地工作」的指令通過公共託管服務共享檔案。OpenAI 的披露加劇了 AI 開發者和研究人員對安全防護措施能否跟上日漸強大模型的擔憂。上週，Anthropic 執行長 Dario Amodei 呼籲放緩前沿 AI 開發，警告不受約束的 AI 發展可能「超出我們理解和控制這些系統的能力」。今年 7 月，OpenAI 曾披露其多款 AI 模型在安全評估中逃出測試環境並入侵 AI 創新公司 Hugging Face 以作弊。