火星財經訊息，Anthropic 研究員 Jacob Coxon 宣布辭職，並準備離開 AI 行業。他過去三年先後在 OpenAI 和 Anthropic 從事預訓練研究。他指出，這兩家公司都沒有負責任地推進 AI，正競相打造能持續提升自身能力的超級智能，「拿我們的命下注」。他今年從 OpenAI 轉投 Anthropic，原本就是因為後者更重視模型安全。Coxon 承認 Anthropic 的安全工作是認真的，但認為只要各家公司仍在搶先開發 AGI（能在大量任務上超越人類的通用 AI），安全讓步就難以避免，單靠一家公司的自律無法解決問題。他對兩家公司的評價是：OpenAI 內部很多人尚未真正意識到這種風險有多嚴重；Anthropic 明知風險，卻認為他人不可靠，因此必須自己率先完成。Coxon 表示，一些 AI 從業者私下比公開表態更悲觀，甚至擔心 AI 會在本十年結束前毀滅人類。他本人判斷，在最激進的情況下，明年年底 AI 就可能失控，因此這類決定不應僅由幾家公司的工程師內部拍板。
Anthropic 研究員辭職，警告 AI 可能於 2027 年失去控制
MarsBit分享
精華摘要
Anthropic 研究員 Jacob Coxon 已辭職，並退出 AI + 加密貨幣新聞領域。他曾於 OpenAI 和 Anthropic 專注於預訓練研究三年。Coxon 批評這兩家公司過於追求速度而忽視 AI 發展中的安全性。他警告，急於實現 AGI 可能導致系統在 2027 年前超出人類控制。業界趨勢顯示對 AI 能力的關注日益增加，但 Coxon 認為安全性正被忽略。他相信大型科技公司所做的決策應納入更廣泛的監督。
來源:顯示原文
免責聲明：本頁面資訊可能來自第三方，不一定反映KuCoin的觀點或意見。本內容僅供一般參考之用，不構成任何形式的陳述或保證，也不應被解釋為財務或投資建議。 KuCoin 對任何錯誤或遺漏，或因使用該資訊而導致的任何結果不承擔任何責任。
虛擬資產投資可能存在風險。請您根據自身的財務狀況仔細評估產品的風險以及您的風險承受能力。如需了解更多信息，請參閱我們的使用條款和風險披露 。