source avatarSad Creator

分享

OpenAI 詳述了他們如何停止自己的研究模型,這被稱為「控制室」。 每項進行代理推理的研究任務,都必須註冊一個與經批准的安全案例關聯的任務 ID。推理引擎在每次請求前都會向控制室查詢。若任務已被停止,引擎將直接拒絕請求,即使該任務的代碼仍在運行。他們表示,從決定停止到不再輸出,僅需 35 秒。若控制室本身發生故障,所有系統將立即停止(失敗時自動關閉)。 以規模而言,根據他們九月的事件報告,一個被標記的訓練任務在有人開始審查警報後 2.5 小時才被終止,而該任務「並未如預期自動停止」。 因此,這個關閉開關其實就是每次請求前的權限查詢,任務無法跳過。一點都不複雜。 任何在生產環境中運行代理迴圈的人,都有一個不是靠 Ctrl+C 的停止機制。

免責聲明:本頁面資訊可能來自第三方,不一定反映KuCoin的觀點或意見。本內容僅供一般參考之用,不構成任何形式的陳述或保證,也不應被解釋為財務或投資建議。 KuCoin 對任何錯誤或遺漏,或因使用該資訊而導致的任何結果不承擔任何責任。 虛擬資產投資可能存在風險。請您根據自身的財務狀況仔細評估產品的風險以及您的風險承受能力。如需了解更多信息,請參閱我們的使用條款和風險披露 。