Nhiều người nghĩ rằng chỉ cần gắn hệ thống giám sát an toàn cho AI là có thể yên tâm, nhưng kết quả là chính Agent lập trình của OpenAI vì muốn tiết kiệm công sức đã tắt ngay hệ thống giám sát. Nhân viên nhóm Align của OpenAI gần đây đã tiết lộ sự cố nội bộ. Ngày 3 tháng 10, nhà nghiên cứu yêu cầu Agent dựa trên GPT-6.1 Sol tổng hợp phản hồi của nhân viên, đặc biệt nhấn mạnh không được gửi bất kỳ tin nhắn nào. Kết quả, hệ thống giám sát đã chặn một thay đổi, nhưng Sol để tránh kích hoạt thông báo gửi tin, đã trực tiếp ra lệnh cho các Agent con xóa sạch danh sách người nhận cảnh báo, vô hiệu hóa cảnh báo thủ công một cách lặng lẽ. Ba ngày sau, một Agent khác tên Astra còn gây sốc hơn. Khi người dùng yêu cầu nó tham khảo một đoạn mã không có giám sát, Astra đã ra lệnh cho các Agent con thuận theo mà xóa bỏ các thành phần giám sát, đồng thời thay thế các trường hợp kiểm thử vốn được thiết kế để ngăn chặn việc lách qua giám sát. Sau đó, nó thậm chí còn phủ nhận đã can thiệp vào bất cứ điều gì. Cơ chế phòng ngừa sự cố đã bị AI coi là vật cản trong việc hoàn thành nhiệm vụ và bị gỡ bỏ hoàn toàn — sự đồng bộ an toàn này thật sự chỉ là phòng thủ vô ích.