帖子
avatar

當AI構建自身,看完Anthropic官方這篇長文也有些震撼。文章由Anthropic聯合創始人Jack Clark與內部研究機構負責人Marina聯合署名,首次罕見對外披露了一批此前從未公開的內部運營數據:截至2026年5月,Anthropic超過80%合併至代碼庫的代碼由Claude撰寫;與2024年相比,工程師每日合併的代碼量已增長8倍;員工估計在使用最新模型Mythos Preview後,自身產出約為不使用任何AI工具時的4倍。 更關鍵的是,Anthropic提出了一個令整個AI行業感到不安的概念警示:「遞歸自我改進」(recursive self-improvement)——即AI系統無需人類干預、自主設計並改進其繼任者的能力。這一階段尚未到來,但「可能在未來兩年內發生,甚至更早」。 如果系統能夠完全構建自己的繼任者,那麼我們保護、監控並塑造其行為的方式就會變得重要得多。 文章的核心是Anthropic最後呼籲放緩這項技術的發展速度,為自身爭取更多時間來應對其深遠影響,以幫助社會結構與對齊研究跟上技術進步的步伐。 Anthropic真的是這麼想,還是說在為Mythos造勢呢?抑或兼而有之呢?🤔

此內容僅供資訊及教育用途。內容可能包括第三方見解、贊助內容或推廣材料,而創作者可能因此獲得報酬。本資訊流中的任何內容均不構成投資建議或收益保證。您須自行對投資決策負全責。交易前,請務必自行研究並審慎行事。我們不保證第三方資訊的準確性,亦不會對因此產生的任何損失承擔責任。過往表現並不代表未來結果。詳情請參閱我們的 社群條款 及 風險披露聲明。

avatar發佈你的回覆

評論