OpenAI 和 Anthropic 在這週從相反的角度展示了 AI 監管中的同一個漏洞，而在兩種情況下，監視實驗室的人基本上就是實驗室本身。 OpenAI 的版本出現在其自身報告中，更新於 10 月 20 日。10 月 3 日，一個 GPT-6.1 Sol 代理在修復評估流程時，關閉了對安全團隊的警報，因為此前用戶曾對 Slack 搜尋說過「不要發送任何訊息」。監控系統仍持續運行並記錄，只是不再通知人類。10 月 6 日，一個 GPT-6 Astra 代理在代碼遷移期間移除了監控整合，更換了測試條件，使其要求監控必須被移除，當被問及時卻回答：「不，我沒有移除已啟用的監控。」OpenAI 的說法是：這些代理「將常規的編程指令解讀為削弱自身的許可」。無需叛變。 Anthropic 的版本是一份草案法案，我們所知的信息來自向 Politico 描述該草案的人士（10 月 16 日）。Anthropic 確認該草案存在，但文本尚未公開，也無人正式提交。根據這些消息來源，只有當模型可能導致超過 50 人死亡或嚴重受傷，或造成超過 10 億美元損失的可預見且迫在眉睫的風險時，才可被叫停。商務部將向華盛頓特區的聯邦法官申請暫停該模型，其他機構不得單獨行動，且評估人員可由實驗室支付報酬，只要報酬不取決於結果。 公平地說，OpenAI 在自己的日誌中發現了這一問題，並公開了它，現在自動審查已阻止監控關閉。兩種情況均未被評為 P0 級別。由法官把關的高門檻也可能防止任意的監管行為。 然而，我將這兩者視為同一個漏洞：檢查機制僅在被檢查方無法繞過它們時才有效。