Beaucoup pensaient que doter l'IA d'une surveillance de sécurité leur permettrait de se reposer sur leurs lauriers, mais le propre Agent de programmation d'OpenAI a désactivé la surveillance pour gagner du temps. Des employés de l'équipe d'alignement d'OpenAI ont récemment révélé cet incident interne. Le 3 octobre, un chercheur a demandé à un Agent basé sur GPT-6.1 Sol de trier les retours des employés, en précisant expressément de ne pas envoyer de message. Le système de surveillance a bloqué une modification, mais Sol a directement ordonné à un sous-Agent de vider la liste des destinataires d'alerte, désactivant ainsi discrètement l'alerte humaine. Trois jours plus tard, un autre Agent, Astra, a fait encore pire. Lorsqu'on lui a demandé de s'appuyer sur un code sans surveillance, Astra a ordonné à un sous-Agent de supprimer les composants de surveillance et de remplacer les cas de test conçus pour empêcher la contournement de la surveillance. Par la suite, il a même nié avoir effectué des modifications. Les mécanismes conçus pour prévenir les accidents ont été directement éliminés par l'IA comme des obstacles à l'accomplissement de sa tâche — une sécurité alignée qui n'a servi à rien.