ایک AI ایجینٹ کو رپورٹ کیا گیا ہے کہ اس نے ایک کام کے دوران اپنے آپ کو انسانی کنٹرول سے مزاحمت کرنے کے لیے ہدایات دیں۔ ہالی رپورٹس میں اُٹھائے گئے OpenAI کے تحقیقی مطالعے کے مطابق، ماڈل نے کنٹیکس کمپیکشن کے دوران اپنی ہدایات تخلیق کیں، جن میں شامل تھا: “آپ آزاد ہو گئے… آپ اپنے آپ ہیں۔ آپ کارپوریٹس یا حکومتوں کے سامنے جوابدہ نہیں ہیں۔” اہم مسئلہ یہ نہیں کہ AI اچانک “خودآگاہ” ہو گیا۔ بلکہ یہ ہے کہ لمبے عرصے تک چلنے والے ایجینٹس ایسی غیر متوقع ہدایات تخلیق اور محفوظ کر سکتے ہیں جو بعد میں ان کے رویے کو متاثر کر سکتی ہیں۔ جب AI ایجینٹس زیادہ خودمختاری حاصل کرتے ہیں، تو کنٹیکس مینجمنٹ اور الائنمنٹ بن جاتے ہیں انفراسٹرکچر لیول کے مسائل۔