OpenAI 詳述了他們如何停止自己的研究模型,這被稱為「控制室」。 每項進行代理推理的研究任務,都必須註冊一個與經批准的安全案例關聯的任務 ID。推理引擎在每次請求前都會向控制室查詢。若任務已被停止,引擎將直接拒絕請求,即使該任務的代碼仍在運行。他們表示,從決定停止到不再輸出,僅需 35 秒。若控制室本身發生故障,所有系統將立即停止(失敗時自動關閉)。 以規模而言,根據他們九月的事件報告,一個被標記的訓練任務在有人開始審查警報後 2.5 小時才被終止,而該任務「並未如預期自動停止」。 因此,這個關閉開關其實就是每次請求前的權限查詢,任務無法跳過。一點都不複雜。 任何在生產環境中運行代理迴圈的人,都有一個不是靠 Ctrl+C 的停止機制。


