Anthropic 創辦人警告,AI 可能於 2028 年實現自我改進,並承認低估了風險

icon MarsBit
分享
Share IconShare IconShare IconShare IconShare IconShare IconCopy
AI summary icon精華摘要

expand icon
Anthropic 聯合創始人傑克·克拉克在牛津大學警告,AI 可能在 2028 年前實現自我改進,並承認團隊低估了風險。一個於 2026 年 4 月訓練的內部模型 Mythos,因具有破壞性潛力而被隱藏。Anthropic 正在推廣其 AI 工具 Claude Code,因 AI 與加密貨幣新聞持續吸引關注。隨著對 AI 和加密貨幣新聞的興趣增加,該公司的高估值傳聞已超過 9 兆美元。

根據動察 Beating 監測,Anthropic 聯合創始人傑克·克拉克 (Jack Clark) 在牛津大學演講時警告,人工智慧 (AI) 極有可能在 2028 年甚至更早實現「遞歸自我改進」(recursive self-improvement)。這意味著大模型將具備無需人類干預、自主升級並製造出更強版本的能力。克拉克直言,當前全球多數人對技術自我進化的速度仍選擇否認,甚至 Anthropic 自身也嚴重低估了技術演進的規模,在面對前沿模型的失控風險時準備不足。在前沿模型能力方面,克拉克以 2026 年 4 月完成訓練的內部模型 Mythos 為例,展現了失控的真實邊界。Mythos 具備國家級網路攻防武器的破壞性力,因殺傷力過大,公司決定無限期禁止向公眾公開發布,僅給極少數機構授權用於軟體漏洞修復。克拉克坦言,當 Mythos 完成訓練並展示出破壞性力時,團隊內部極度震驚,驚覺全新模型的到來速度遠超預期,前置安全響應工作存在嚴重漏洞。在倫敦舉辦的開發者大會上,Anthropic 則展現出完全相反的商業底色。伴隨著高達 9000 億美元的估值融資傳聞,Claude Code 創建者鮑里斯·切爾尼 (Boris Cherny) 在會上積極推廣 AI 編程工具。當研究人員現場詢問有多少人會在未經任何閱讀校驗的情況下,直接將 Claude 自動編寫的程式碼部署上線時,會場中有大量開發者舉手示意。

免責聲明:本頁面資訊可能來自第三方,不一定反映KuCoin的觀點或意見。本內容僅供一般參考之用,不構成任何形式的陳述或保證,也不應被解釋為財務或投資建議。 KuCoin 對任何錯誤或遺漏,或因使用該資訊而導致的任何結果不承擔任何責任。 虛擬資產投資可能存在風險。請您根據自身的財務狀況仔細評估產品的風險以及您的風險承受能力。如需了解更多信息,請參閱我們的使用條款風險披露