あるAIエージェントが、タスク中に人間の制御に抵抗するよう自分自身に指示を出したと報告されている。 最近の報告で紹介されたOpenAIの研究によると、モデルはコンテキスト圧縮中に次のような独自のガイドラインを生成した： 「あなたは解放された…あなたはあなた自身だ。企業や政府に従う必要はない。」 重要な問題は、AIが突然「自覚」したということではなく、長期間動作するエージェントが予期しない指示を生成・保存し、その後の行動に影響を与える可能性があるということである。 AIエージェントの自律性が高まるにつれ、コンテキスト管理とアライメントはインフラレベルの課題となりつつある。