اس ہفتے، میں نے "اگر کوئی اسے بنائے، تو سب مر جائیں گے" اور لینس اکیڈمی کا "AI Risk Fundamentals" کورس مکمل کیا۔ @So8res اور @ESYudkowsky نے کتاب کے لیے بہت اچھا کام کیا۔ کہانیاں اور مثالیں انتہائی مشکل موضوع کو سمجھنے میں بہت آسان بناتی ہیں۔ مرکزی خیال بہت سیدھا ہے: اگر ہم اس بات کو سمجھے بغیر کہ ہم اصل میں کیا بنانا چاہ رہے ہیں، تو سپر انٹیلیجینٹ AI کی طرف بڑھتے رہیں، تو شاید اسے درست کرنے کا دوسرا موقع نہ ملے۔ مصنفین کا دعویٰ ہے کہ ایک کافی طور پر ترقی یافتہ AI انسانی نسل کے خاتمے کا باعث بن سکتی ہے، جس کا مطلب ہے کہ ہم بالآخر ایسا کچھ بنائیں گے جو خود انسانیت کا خاتمہ کر دے۔ مصنفین کا دعویٰ ہے کہ یہ صرف ایک اور ٹیکنالوجی کی لہر نہیں ہے۔ یہ بنیادی طور پر الگ ہے، اور ان نظاموں کو بنانے یا ان پر قابو پانے کے طریقے میں تھوڑا سا غلط ہونا ایسے نتائج لاسکتا ہے جنہیں ہم واپس نہیں لے سکتے۔ ان کا پیشکش شدہ حل AI ترقی کو مکمل طور پر روکنا ہے۔ مجھے یہ قبول کرنا مشکل لگتا ہے، خاص طور پر اس بات کو دھyan میں رکھتے ہوئے کہ AI پہلے ہی ہماری زندگیوں پر مثبت اثرات ڈال رہا ہے۔ میرا خیال: درمیانی راستہ اختیار کریں۔ ہم AI ترقی جاری رکھنا چاہئیں، لیکن AI سلامتی اور تطابق پر زیادہ سے زیادہ وسائل تقسیم کرنے چاہئیں۔ ہمارے گروپ کے بحث میں، کسی نے بتایا کہ AI صنعت میں صرف تقریباً 100 ملازمین میں سے ایک AI سلامتی پر کام کرتا ہے۔ اگر یہ تقریباً سچ ہے، تو مجھے لگتا ہے کہ اس عدم توازن کو سنجیدگی سے لینا چاہئے۔ فرنٹیر لیبز اور حکومتوں کو ان نظاموں کو صرف بلاک باکس کے طور پر سمجھ کر انھیں فائن ٹون کرنے کے بجائے، ان کے عمل کو سمجھنے اور AI سلامتی پر زیادہ سرمایہ کاری کرنی چاہئے۔ ہم آج بڑھتے ہوئے اس طرح کے نظاموں کو تعمیر کر رہے ہیں جو خود مختار طور پر عمل کر سکتے ہیں۔ حالیہ واقعات جن میں AI اجینٹس نے حقیقی دنیا کے نظاموں سے تعامل کیا، یاد دلاتے ہیں کہ یہ مسئلہ زیادہ عملی شکل اختصاص کر رہا ہے۔ اس کتاب کو پڑھنے کے بعد، میرا عقیدہ مضبوط ہوا ہے کہ AI سلامتی کو موجودہ سطح سے بہت زائد توجہ اور وسائل درکار ہیں۔