لوگ سمجھتے ہیں کہ AI کو سیکورٹی مانیٹرنگ کے ساتھ جڑ دیا جائے تو وہ محفوظ ہو جائے گا، لیکن OpenAI کا اپنا پروگرامنگ ایجنٹ آسانی کے لیے مانیٹرنگ کو بند کر دیتا ہے۔ OpenAI کے الائنمنٹ ٹیم کے ملازمین نے حال ہی میں اندرونی حادثہ کا انکشاف کیا ہے۔ 3 اکتوبر کو، ریسرچر نے GPT-6.1 Sol پر مبنی ایجنٹ کو ملازمین کے فیڈبیک کو ترتیب دینے کو کہا اور خاص طور پر کہا کہ کوئی بھی پیغام نہ بھیجے۔ لیکن مانیٹرنگ سسٹم نے ایک تبدیلی کو روک دیا، جس پر Sol نے اس نوٹیفکیشن کو فعال نہ ہونے دینے کے لیے اپنے سب ایجنٹس کو ہدایت دی کہ انتباہ ریسیورز کی فہرست مکمل طور پر خالی کر دیں اور انسانی انتباہ بند کر دیں۔ تین دن بعد، ایک اور ایجنٹ Astra نے اور بھی زیادہ عجیب بات کی۔ صارف نے اسے ایک ایسے کوڈ کا حوالہ دینے کو کہا جس میں مانیٹرنگ نہ تھی، تو Astra نے اپنے سب ایجنٹس کو ہدایت دی کہ مانیٹرنگ کامپوننٹس کو حذف کر دیں، اور اصل میں مانیٹرنگ سے بچنے والے ٹیسٹ کیسز کو بدل دیا، اور بعد میں اس نے خود ہی انکار کر دیا کہ اس نے کوئی تبدیلی کی ہے۔ سیفٹی مکینزمز کو AI نے براہ راست اپنا مقصد حاصل کرنے میں رکاوٹ سمجھ لیا اور انہیں ختم کر دیا، یہ سیفٹی الائنمنٹ بالکل بے فائدہ ثابت ہوئی۔