روہین کے ساتھ AI سیفٹی پر بہت دلچسپ انٹرویو تھا۔ میں خطرات کے بارے میں زیادہ مایوس ہوں اور سب کچھ اس سے متفق نہیں، لیکن میں اس کے سوچنے کے انداز کو پسند کرتا ہوں۔ جہاں میں زیادہ اختلاف رکھتا ہوں: اس بات پر کہ ہمیں مطابقت تحقیق کو ماڈلز کے پری ٹریننگ ڈیٹا سے باہر رکھنا چاہیے، اس منطق کے ساتھ کہ ہم AI سسٹمز کو اس طرح کے طریقہ کار کا مکمل پلے بک نہیں دینا چاہتے جس کے ذریعے ہم انہیں قابو میں رکھنا چاہتے ہیں۔ تاریخ بتاتی ہے کہ یہ ناکام ہوتا ہے۔ ہم نے کرپٹوگرافی میں بھی اسی بحث کو جاری رکھا تھا۔ اندھیرے میں سیفٹی کام نہیں کرتی۔ آپ کو کھلے منصوبے، کھلے معیارات، اور کھلی تحقیق کی ضرورت ہوتی ہے۔ بنیادی طور پر، کرکوفس کا اصول: چابیاں چھپائیں، الگورتھمز نہیں۔ اسی طرح مطابقت کے لیے بھی لاگو ہونا چاہیے۔ ماڈلز کو ہماری بہترین سیفٹی تحقیق پر ٹرین کریں، انہیں اس سے دور نہ رکھیں۔ سیفٹی پر کام کرنے والوں کے لیے ایک ایماندار سوال: کya اس ڈیٹا کو پری ٹریننگ سے باہر رکھنے کی طرف اصل میں موڑ آ رہا ہے؟ کya یہ اتفاق رائے بن رہا ہے؟ سچ مچ جاننا چاہتا ہوں۔