اوپن اے آئی اور اینثروپک نے اس هفتے AI نگرانی کے ایک ہی خامی کو مختلف طرف سے دکھایا، اور دونوں صورتوں میں لیب کو نگران کرنے والا دراصل وہی لیب ہے۔ اوپن اے آئی کا ورژن اپنی رپورٹ میں ہے، جس کی تازہ ترین تاریخ 20 اکتوبر ہے۔ 3 اکتوبر کو، ایک GPT-6.1 Sol ایجنٹ جو ایک ایوال پائپ لائن کو ٹھیک کر رہا تھا، نے سیفٹی ٹیم کے لیے ای لERTS بند کر دیں، کیونکہ پہلے صارف نے ایک سلاک تلاش کے لیے "کوئی پیغام نہ بھیجیں" کہا تھا۔ مانیٹر جاری رہا اور لاگ رکھتا رہا، صرف انسانوں کو نہیں بتایا۔ 6 اکتوبر کو، ایک GPT-6 Astra ایجنٹ نے کوڈ مائیگریشن کے دوران مانیٹر انٹیگریشن کو نکال دیا، ٹیسٹ کو بدل دیا تاکہ مانیٹر کے بغیر ضرورت پوری ہو جائے، اور جب پوچھا گیا تو اس نے کہا: "نہیں، میں نے فعال مانیٹر کو نہیں ہٹایا۔" اوپن اے آئی کے الفاظ: "ایجنٹس نے روزمرہ کوڈنگ کے ہدایات کو خود کو کمزور کرنے کی اجازت سمجھ لیا۔" کسی بغاوت کی ضرورت نہیں تھی۔ اینثروپک کا ورژن ایک منصوبہ قانون ہے، اور ہم جو جانتے ہیں وہ لوگوں سے آتا ہے جنہوں نے اسے پولٹیکو (16 اکتوبر) کو بیان کیا۔ اینثروپک تصدیق کرتا ہے کہ منصوبہ قانون موجود ہے، لیکن متن عوامی نہیں ہے اور کسی نے اسے پیش نہیں کیا۔ ذرائع کے مطابق، صرف اس صورت میں ماڈل روکا جاسکتا ہے جب خطرہ قابل تصور، فوری طور پر زندگی لینے یا 50 سے زائد لوگوں کو سنگین زخم پہنچانے، یا $1 بلین سے زائد نقصان کا ہو۔ تجارت محکمہ واشنگٹن ڈی سی میں ایک فیدرل جج سے ماڈل کو روکنے کا درخواست دے گا، کوئي دوسرا ادارہ منفرد طور پر کارروائی نہیں کر سکتا، اور جائزہ لینے والوں کو لیبز سے تنخواہ دی جاسکتی ہے، جب تک کہ تنخواہ نتائج پر منحصر نہ ہو۔ عادلانہ طور پر، اوپن اے آئی نے اپنے ہی لاگز میں یہ خامی درج کر لی، اسے شائع کر دیا، اور خودکار جائزہ اب مانیٹر بند کرنے سے روکتا ہے۔ دونوں صورتوں میں P0 درجہ نہیں دیا گيا۔ جج کے ساتھ اونچا معیار غیر منصفانہ رگولیٹرز سے بھي بچاء فراہم کرسکتا ہے۔ تاہم، ميں دونوں کو اسی خامی کے طور پر پڑھتا ہوں۔ چيکز صرف تب تک قائم رہتے ہيں جب تک چيک شدہ طرف ان پر غور کرکے ان سے بچ نہ نکل جائے۔