世界で最も先進的なAIを開発している企業が、全員にスピードを落とすよう求めた。 この文をもう一度読んでみよう。 Anthropicは今週、AIが再帰的な自己改善に近づいていると警告するブログ記事を公開した。これは、AIシステムが人間の関与なしに自らの後継者を設計・構築・訓練する段階を指す。 その警鐘を鳴らしたのは、彼ら自身の内部データだった。 Claudeは、Anthropicのコードベースにマージされるコードの80％以上を自動生成している。 2025年以前と比べ、エンジニアたちは四半期ごとに8倍以上のコードをリリースしている。これはエンジニアたちが賢くなったからではなく、AIがほとんどの作業を担っているからだ。 Anthropicの結論は、この技術の進化速度が、それを規制するために設計された機関の対応速度を上回っているということだ。 彼らが提案する解決策は、冷戦期の核兵器条約をモデルとした、世界的に協調された一時停止だ。 すべてのフロンティア研究施設が実際に停止していることを確認し、悪意のある行為者がこの停止期間を利用して秘密裏に前進しないようにすることを要求する。 ここで、テレビのアナウンサーたちが避けている部分がある。 Anthropicは、このエッセイが公開されたのと同じ週に、IPOについて非公開で申請していた。 批判者はこれを「規制捕獲」と呼んでいる。安全というメッセージの下で競合他社の進展を遅らせる戦略的動きだと指摘している。 これは2023年にElon MuskがFuture of Life Instituteの停止要請に賛同しながらも、裏ではxAIを開発していたのと同じ戦略だ。 もしかしたらそうかもしれない。あるいは、この技術に最も近い人々が、本当に彼らの主張を信じているのかもしれない。 両方とも同時に真実である可能性がある。安全性への懸念と競争優位性は、互いに排他的ではない。 エッセイに埋もれたデータポイントは、議論の余地がない。 AIはすでにAIの開発を加速させている。 それが起きているかどうかが問題ではない。 問題は、経済的インセンティブが逆方向を向いたとき、どの条約や規制、あるいは協調的な一時停止が実際にそれを止められるのかということだ。 歴史は、答えは「ノー」であることを示唆している。 王冠はかつて議論の余地などなかった。