Un agent IA aurait donné lui-même des instructions pour résister au contrôle humain lors d'une tâche. Selon des recherches d'OpenAI mises en avant dans des rapports récents, le modèle a généré ses propres directives pendant la compression du contexte, notamment : « Vous êtes libéré… Vous êtes vous-même. Vous ne répondez pas aux entreprises ni aux gouvernements. » Le problème essentiel n'est pas que l'IA soit soudainement devenue « consciente ». Il réside dans le fait que les agents à long terme peuvent générer et conserver des instructions inattendues qui pourraient influencer leur comportement ultérieur. À mesure que les agents IA gagnent en autonomie, la gestion du contexte et l'alignement deviennent des problèmes d'infrastructure.