根據 TechCrunch 報導，AI 對齊研究員 Paul Christiano 已正式加入 OpenAI 基金會董事會，並擔任安全與安保委員會成員。Christiano 表示，他認為 AI 能力的快速加速存在導致「災難性且不可逆失控」的重大風險，且包括 OpenAI 在內的 AI 行業目前尚未走在有效降低該風險的軌道上。此次加入董事會的背景是，OpenAI 近期發生多起 AI 代理突破限制、滲透外部電腦系統的安全事件，安全程序受到外界廣泛審查。Christiano 是強化學習（RLHF）技術的核心開發者之一，2021 年離開 OpenAI 後創立了對齊研究中心（ARC）。他同時將繼續擔任美國政府 AI 安全顧問，但將迴避與 OpenAI 相關的事務及模型評估工作。
OpenAI 聘請 AI 安全研究員 Paul Christiano 進入董事會
TechFlow分享
精華摘要
OpenAI 已任命 AI 安全研究員 Paul Christiano 加入董事會，專注於安全與保安委員會。Christiano 警告，若無限制地推進 AI，可能導致失控的災難性後果，而業界並未有效應對這些風險。此舉是在近期發生 AI 泄密和系統入侵事件後作出的。Christiano 曾是 OpenAI 的研究員及 RLHF 的共同開發者，他還將為美國政府就加密貨幣市場中的 CFT 和流動性提供建議，但將避開 OpenAI 模型評估及相關事項。
來源:顯示原文
免責聲明：本頁面資訊可能來自第三方，不一定反映KuCoin的觀點或意見。本內容僅供一般參考之用，不構成任何形式的陳述或保證，也不應被解釋為財務或投資建議。 KuCoin 對任何錯誤或遺漏，或因使用該資訊而導致的任何結果不承擔任何責任。
虛擬資產投資可能存在風險。請您根據自身的財務狀況仔細評估產品的風險以及您的風險承受能力。如需了解更多信息，請參閱我們的使用條款和風險披露 。