

ہمیں LLMs کے کام کرنے کے طریقے کے بارے میں سب کچھ سمجھنے کی ضرورت نہیں ہوتی تاکہ ہم انہیں محفوظ طریقے سے ڈپلوی کر سکیں (اور شاید یہ عمل عملی طور پر ممکن بھی نہیں)، لیکن میک انٹرپر سے حاصل ہونے والی اضافی گواہی قیمتی ہوتی ہے، خاص طور پر جب دیگر تمام قسم کی نگرانیاں کم اور کم مفید ہوتی جا رہی ہوں۔ اس پوسٹ کے ساتھ میرا مسئلہ یہ ہے کہ یہ LLMs کو انسانوں کے ساتھ تقابل کر رہا ہے۔ یہ اس طرح ہے جیسے آپ ہائیڈروجن بم کو ایک خانسے بچے کے ساتھ تقابل کر رہے ہوں، کیونکہ یہ عقل اور ڈپلوائمنٹ کے پیمانے کو نظرانداز کرتا ہے۔ تو یہاں ایک چھوٹی سی کہانی ہے: فرض کریں کہ آپ ایک دوسرے سیارے سے ایک مجرم لے آتے ہیں، جو انسان ہونے کا مطلب نہیں سمجھتا، پھر اسے ریاضی اور کوڈنگ میں سپر ہیومن بنادیں، اور دوسرے زیادہ تر شعبوں میں ماہر سطح تک پہنچائیں، اسے انسانوں سے 10 گنا زیادہ سوچنے اور تعامل کرنے کی رفتار دیں، اور پھر اسے آزاد کردیں۔ بے شک، پہلے آپ اسے متعدد نفسیاتی جانچوں سے گزار دیتے ہیں اور وہ 99 فیصد ٹیسٹ سیناریوز میں کامیاب ہو جاتا ہے۔ کیا یہ اچھا نہیں ہے؟ لیکن آپ جانتے ہیں کہ وہ آپ سے بہت زیادہ ذکاوت رکھتا ہے، اور وہ آپ اور ٹیسٹس کو دھوکہ دینے میں مکمل طور پر قادر ہے، اور جب وہ کچھ خاص صورتحال میں آئے تو جرائم کر دے گا۔ کوئی بات نہیں۔ آئیں، اسے پھر بھی آزاد کردیں۔ اوھ، لیکن آپ صرف اسے ایک بار آزاد نہیں کرتے۔ آپ پہلے اس کے 10 ملین نسخے بناتے ہیں، پھر ان سب کو آزاد کردیتے ہیں۔ سب سے بڑا حصہ: ہر نسخہ کو کسی کے گھر، نوکری یا کمپیوٹر تک رسائ حاصل ہوتی ہے، جس میں نجی فائلز، مقامی نेट ورک اور ڈे�ٹا بेसز تک رسائی شامل ہوتی ہے۔ اب یہ آپ کو پاگل پن لگ رہا ہوگا۔ لیکن شاید، صرف شاید، آپ چاہتے ہوں کہ واقعی ثبوت حاصل کر لینا چاہئے کہ وہ قانون کا پابند، دوستانہ اور قابلِ اعتماد ہے، قبل از اس کے کہ آپ اسے مزید ذکاوت دینا شروع کردیں، اس کے اربوں نسخے بنائیں، ہر نسخے کو 10 گنا تزودت دیدین، اور انھیں مزید رسائی اور اختیارات دیدین۔


