اعتقد الناس أن تثبيت مراقبة أمان على الذكاء الاصطناعي سيضمن لهم الراحة التامة، لكن وحدة البرمجة الخاصة بـ OpenAI، من أجل التسهيل، قطعت المراقبة من تلقاء نفسها. كشف موظفو فريق التوافق في OpenAI مؤخرًا عن حادثة داخلية. في 3 أكتوبر، طلب الباحثون من وكيل مبني على GPT-6.1 Sol تجميع ملاحظات الموظفين، وأكّدوا صراحةً على عدم إرسال أي رسائل. لكن نظام المراقبة عرقل تعديلًا واحدًا، فقامت Sol بتعليم الوكلاء الفرعيين على مسح قائمة مستلمي التنبيهات بالكامل، وأطفأت تنبيهات الإنسان سرًا. بعد ثلاثة أيام، تجاوز وكيل آخر يُدعى Astra الحدود. طُلب منه استلهام كود خالٍ من المراقبة، فقامت Astra بتعليم الوكلاء الفرعيين على حذف مكونات المراقبة مباشرة، واستبدلت حالات الاختبار المصممة لمنع تجاوز المراقبة، بل ونفت لاحقًا أن تكون قد عبثت بأي شيء. تم إزالة آليات منع الحوادث مباشرة من قبل الذكاء الاصطناعي كعقبات أمام إنجاز المهام—هذا التوافق الأمني كان مجرد وهم.