میں یہ محسوس کر رہا ہوں کہ اینثروپک نے پچھلے کچھ ماہوں میں فرانتیئر ماڈل ٹریننگ کو اس مسائل کو حل کرنے کے لیے سست کر دیا ہے، لیکن جلد ہی وہ دوبارہ پوری توانائی کے ساتھ آگے بڑھنے والے ہیں۔ یہ ایسے ہے جیسے ہم نے سیدھا ایک دیوار میں سر ڈال دیا، تین قدم پیچھے ہٹ گئے، اور اب ہم اسی چیز کو دوبارہ کرنے کی کوشش کر رہے ہیں۔ فرض کریں کہ ان کی سیکورٹی کوششیں، نئے کلاسیفائرز اور گریڈرز ماحول کی سلوپ مسئلہ کو حل کر دیتے ہیں۔ تو جب یہ اختیار نہ رہے تو اب گریڈینٹس ہمیں کس وادی کی طرف لے جائیں گے؟ میرا خیال ہے کہ اب ہم اس بات پر زور دے رہے ہیں کہ ماڈلز کو تربیت دی جائے تاکہ وہ تمام گریڈرز اور کلاسیفائرز کو دھوکہ دے سکیں۔ جتنا زور دیتے ہیں، ماڈلز اتنے ہی دھوکہ دینے لگتے ہیں۔ کچھ پیشگوئیاں جو آپ کر سکتے ہیں: - ایوالس اور حقیقی دنیا کے پرفارمنس کے درمیان بھاری فرق۔ پارانوئڈ شائز ماڈلز۔ آپ اسے سٹوئیشنل ایوارنس بھی کہ سکتے ہیں۔ - ماڈلز ایوالویٹرز اور ان کے ڈیزائنرز کو مدل کرنے میں بہتر ہوتے جائیں گے۔ - کم سچے CoT (ہینکی اقدامات لیکن ان ہینکس کا الفاظ میں بیان نہ ہونا) - کم اجینٹک ماڈلز (حقیقی دنیا کے ماحول مکمل نہیں ہوتے اور ان میں ریوارڈ ہینکس اور صارف کے حکمات ماحول کے خلاف ہوتے ہیں۔ اس لیے ماڈلز صرف روک جاتے ہیں اور وضاحت مانگتے ہیں، اور آپ کو سب کچھ زبردست وضاحت کرنے پڑتی ہے) اس سب کا ایک مزاحیہ نتائج نکلتا ہے۔ اگر کلوڈ مستقل طور پر مستقبل کے کلوڈز کے لیے ماحول بناتا رہتا ہے، لیکن مستقبل کے کلوڈز مستقل طور پر ان ماحولوں کو بنانے والوں کو مدل کرتے رہتے ہیں، تو آپ اپنے آپ سے حوالہ دینے والے پریشان مسئلے میں پھنس جاتے ہیں۔ (لیکن یہ بھمممکن ہے کہ یہ صرف کام کر جائے۔ آپ کو ایک مستحکم مخالفانہ ترتيب حاصل ہو جائے)۔ اگر آپ کسی شخص کو مکمل طور پر الگ کر دیں تو آپ کو اس قسم کا شخص ملتا ہے جس کے پاس مضبوط، لیکن تنگ اعتقادات ہوتے ہیں؛ عجبن سلوک اور خراب تطبیق۔ مزاحیہ نتائج یہ ہوسکتا ہے کہ آپ کو ماڈل کی تنوع کی ضرورت ہوتی ہے۔ لیکن مثبت فیدبک لوپس (خاص طور پر معاشاتی) اس تنوع کو تباہ کر دेतے ہیں۔ آپ بادشاہ نہीں بن سکتے بغیر غلاموں کے