ChainCatcher 消息,OpenAI 已委託 AI 安全評估機構 METR 對其迄今規模最大的一次強化學習訓練運行開展安全審查。此次審查屬於單次運行的試點評估,METR 將獲得模型快照以及訓練過程中的內部記錄。據 The Defiant 報導,雙方尚未就更大範圍的監控評估達成一致,相關評估的範圍仍待商定。METR 前身為 ARC Evals,長期為前沿 AI 實驗室提供部署前獨立評估,此前曾對 OpenAI 內部的失準監控系統進行紅隊測試。
OpenAI 委託 METR 審計最大規模的強化學習訓練
Chaincatcher分享
根據鏈上數據和 ChainCatcher 的報導,OpenAI 已聘請 METR 審計其最大規模的強化學習訓練項目。METR 將作為一次性的試點項目,審查模型快照和內部訓練日誌。《The Defiant》報導稱,更廣泛的監控條款仍待解決。METR 前身為 ARC Evals,曾測試過 OpenAI 的內部系統。關注的山寨幣可能會對 AI 安全發展作出反應。
來源:顯示原文
免責聲明:本頁面資訊可能來自第三方,不一定反映KuCoin的觀點或意見。本內容僅供一般參考之用,不構成任何形式的陳述或保證,也不應被解釋為財務或投資建議。 KuCoin 對任何錯誤或遺漏,或因使用該資訊而導致的任何結果不承擔任何責任。
虛擬資產投資可能存在風險。請您根據自身的財務狀況仔細評估產品的風險以及您的風險承受能力。如需了解更多信息,請參閱我們的使用條款和風險披露 。