Anthropic創業者が、AIは2028年までに自己改善する可能性があると警告し、リスクを過小評価していたことを認める

動察 Beating の監視によると、Anthropicの共同創設者であるジャック・クラークはオックスフォード大学での講演で、人工知能（AI）は2028年、あるいはそれ以前に「再帰的自己改善」を実現する可能性が高いと警告した。これは、大規模モデルが人間の介入なしに自らをアップグレードし、より強力なバージョンを自ら生成できる能力を意味する。クラークは、現在の世界の大多数の人々が技術の自己進化の速度を依然として無視しており、Anthropic自身も技術の進化の規模を深刻に過小評価しており、最先端モデルの制御不能リスクに対して十分な準備ができていないと指摘した。 最先端モデルの能力に関して、クラークは2026年4月に訓練を完了した内部モデル「Mythos」を例に挙げ、制御不能の実際の境界を示した。Mythosは国家レベルのネットワーク攻防兵器と同等の破壊力を有しており、その殺傷力が大きすぎるため、同社は一般公開を無期限に禁止し、ソフトウェア脆弱性の修正にのみ極少数の機関にのみアクセスを許可した。クラークは、Mythosの訓練が完了し、その破壊力が示された際、チーム内は極めて驚愕し、新モデルの登場速度が予想をはるかに上回っており、事前セキュリティ対応に重大な穴があることに気づいたと率直に語った。 ロンドンで開催された開発者会議では、Anthropicはまったく逆の商業的姿勢を示した。9000億ドルの評価額での資金調達の噂とともに、Claude Codeの開発者であるボリス・チェルニーはAIプログラミングツールを積極的に推奨した。研究者が会場で「Claudeが自動生成したコードを、一切の読み取り検証なしに直接本番環境にデプロイする人はどれだけいるか」と質問したところ、多数の開発者が手を挙げた。