Anthropic 研究員辭職，警告 AI 可能在 2027 年底失去控制

iconKuCoinFlash
分享
AI summary icon精華摘要
來自 Anthropic 的 AI 研究員 Jacob Coxon 已辭職，並計劃退出 AI 行業。他曾於 OpenAI 和 Anthropic 工作，批評兩家公司未充分考慮安全措施便急於開發 AGI。Coxon 警告，AI 可能在 2027 年失去控制，並強調 AI 發展的行業趨勢過於迅速。他認為關鍵決策不應僅由工程師參與。此舉進一步增添了關於 AI 治理未來的 AI + 加密貨幣新聞。
ME AI 消息，動察 Beating AI 快訊，Anthropic 研究員 Jacob Coxon 宣布辭職，並準備離開 AI 行業。他過去三年先後在 OpenAI 和 Anthropic 從事預訓練研究。他指出，兩家公司都未負責任地推進 AI，正競相打造能持續提升自身能力的超級智能，「拿我們的命下注」。 他今年從 OpenAI 轉投 Anthropic，本是因為後者更重視模型安全。Coxon 承認 Anthropic 的安全工作是認真的，但認為只要各家公司仍在搶先推出 AGI（能在大量任務上超越人類的通用 AI），安全讓步就難以避免，單靠一家公司的自律無法解決問題。 他對兩家公司的評價是：OpenAI 內部很多人尚未真正意識到這種風險有多嚴重；Anthropic 明白風險，卻認為他人不可靠，因此必須自己率先推出。 Coxon 表示，一些 AI 從業者私下比公開表態更悲觀，甚至擔心 AI 會在本十年結束前毀滅人類。他自己判斷，在最激進的情況下，明年底 AI 就可能失控，因此此類決定不應僅由幾家公司的工程師內部拍板。（來源：BlockBeats）
來源:顯示原文
免責聲明：本頁面資訊可能來自第三方，不一定反映KuCoin的觀點或意見。本內容僅供一般參考之用，不構成任何形式的陳述或保證，也不應被解釋為財務或投資建議。 KuCoin 對任何錯誤或遺漏，或因使用該資訊而導致的任何結果不承擔任何責任。 虛擬資產投資可能存在風險。請您根據自身的財務狀況仔細評估產品的風險以及您的風險承受能力。如需了解更多信息，請參閱我們的使用條款和風險披露 。