
當AI構建自身,看完Anthropic官方這篇長文也有些震撼。文章由Anthropic聯合創始人Jack Clark與內部研究機構負責人Marina聯合署名,首次罕見對外披露了一批此前從未公開的內部運營數據:截至2026年5月,Anthropic超過80%合併至代碼庫的代碼由Claude撰寫;與2024年相比,工程師每日合併的代碼量已增長8倍;員工估計在使用最新模型Mythos Preview後,自身產出約為不使用任何AI工具時的4倍。 更關鍵的是,Anthropic提出了一個令整個AI行業感到不安的概念警示:「遞歸自我改進」(recursive self-improvement)——即AI系統無需人類干預、自主設計並改進其繼任者的能力。這一階段尚未到來,但「可能在未來兩年內發生,甚至更早」。 如果系統能夠完全構建自己的繼任者,那麼我們保護、監控並塑造其行為的方式就會變得重要得多。 文章的核心是Anthropic最後呼籲放緩這項技術的發展速度,為自身爭取更多時間來應對其深遠影響,以幫助社會結構與對齊研究跟上技術進步的步伐。 Anthropic真的是這麼想,還是說在為Mythos造勢呢?抑或兼而有之呢?🤔

