اوپن اے آئی کے سربراہ سائنسدان نے AI کی بڑھتی ہوئی پیچیدگی اور مطابقت کے چیلنجز کی نشاندہی کی

مصنف: جاکوب پیچوکی

ترجمہ: شن چاؤ ٹیکفلو

شین چاؤ کا خلاصہ: اوپن اے آئی کے سربراہ سائنسدان نے نایاب طور پر بیان دیا ہے کہ AI تکراری خود بہتری کی طرف قریب پہنچ رہا ہے، اور مطابقت اور نگرانی کے ٹولز نظام کی ترقی کے ساتھ نہیں چل پا رہے۔ انہوں نے کوئی آرام دہ نتیجہ نہیں دیا، بلکہ اگلے کچھ سالوں کے سب سے مشکل خطرات کو سامنے رکھ دیا: انسان شاید ایک ایسا ذہن تخلیق کر رہے ہیں جسے وہ مکمل طور پر نہ سمجھ سکیں اور نہ ہی مکمل طور پر کنٹرول کر سکیں۔ AI اور کرپٹو کے تقاطع پر توجہ دینے والے ماہرین کے لیے، یہ ایک ایسا ضروری مضمون ہے جو نظام کے بیرون کنٹرول ہونے اور دفاعی حدود کے بارے میں ہے۔

اُچے سطح پر، کمپیوٹنگ پاور کی ترقی سے مشین انسانیت کی ترقی ہوتی ہے۔ تقریباً 2017 میں، ہم نے OpenAI کے اندر اس بات کو گہرائی سے سمجھ لیا۔ اس وقت ہم نے دیکھا کہ کئی تحقیقی منصوبے جب ان کا سائز بڑھایا گیا تو انہیں مستقل فائدہ ملا۔ اس لیے ہم نے اپنے اصل منصوبے سے بہت زیادہ کمپیوٹنگ پاور حاصل کرنے کی کوشش شروع کر دی اور تحقیق کو صرف کچھ ایسے محدود شعبوں پر مرکوز کرنا شروع کر دیا جو بہت زیادہ قابل توسیع تھے۔ ہم یہ مانतے ہیں کہ یہی واحد طریقہ ہے جس سے ہم AI تحقیق کے سب سے آگے رہ سکتے ہیں اور AGI کے اثرات کو متاثر کر سکتے ہیں۔

راستے میں نئے الگورتھم ظاہر ہوئے، اور ٹیمیں اور انفرادی تحقیق کاروں نے نئے خیالات پیش کیے۔ میں ان سب کو توسیع کے راستے پر حاصل ہونے والی دریافتوں کے طور پر دیکھتا ہوں۔ ڈیپ لرننگ کا یہ علم اب بھی ابتدائی مراحل میں ہے، اور معنی خیز الگورتھم کی ترقی عام طور پر کمپوٹنگ طاقت تک رسائی سے منسلک ہوتی ہے۔ اگر آپ نظر کو کچھ سالوں تک پھیلا دیں، تو AI بڑے کمپیوٹرز پر اسکیل ہونے کے ساتھ لگاتار زیادہ ذکاوت حاصل کر رہا ہے۔

اور، جیسا کہ رے کورزویل نے بیسویں صدی کے آخر میں پیش گوئی کی تھی، ہم اب کمپیوٹنگ کی تاریخ میں ایک ایسے لمحے پر ہیں جہاں مشینی ذہانت انسانی ذہانت کو تبدیل کرنے والے سطح پر پار کرنا شروع ہو گئی ہے۔

AI زیادہ تر "بڑھائی" گئی ہے، نہ کہ ڈیزائن کی گئی۔ اس کے بنیادی سطح پر، یہ ایک ایک سادہ آپٹیمائزیشن قدم کو ناقابلِ تصور کمپوٹیشنل طاقت پر لاکھوں بار دہرائے جانے کا نتیجہ ہے۔ اس سے ایک انتہائی پیچیدہ نظام وجود میں آتا ہے جو انتزاعی تصورات کے ذریعے کام کرتا ہے اور انسانی رویے کے کچھ پہلوؤں کو محاکمہ کر سکتا ہے۔ ہم اس نظام کے اندر ظاہر ہونے والے مختلف چھوٹے میکانزمز کی نظریات کو دریافت کر سکتے ہیں، جس عمل کو ہم نیوروسائنس کے مشابہت سے دیکھ سکتے ہیں۔ اور نیوروسائنس کی طرح، اس کا مجموعی رویہ بھی اس حد تک ہماری مکمل سمجھ سے باہر ہے۔

گہری سیکھنے پر مبنی AI کے تحقیق کو، بہت بڑے پیمانے پر ایک تجرباتی سائنس کے طور پر دیکھا جاتا ہے۔ ہم نے اصولوں پر مبنی الگورتھمز بنانے اور قابل چیک پیش گوئیاں کرنے پر بہت زیادہ توجہ دی ہے۔ لیکن بنیادی طور پر، ہمارے بڑے پیمانے پر تربیت کے عمل تجربات ہیں، اور کبھی کبھی نتائج ہمیں حیران کر دیتے ہیں۔ اور جیسے جیسے نظام کی صلاحیتیں زیادہ طاقتور ہوتی جا رہی ہیں، نتائج بھی سمجھنا مشکل ہوتے جا رہے ہیں۔

مزید پیچیدہ بات یہ ہے کہ موجودہ الگورتھم عام طور پر ان صلاحیتوں کو تیزی سے بہتر بناتے ہیں جن کا اندازہ لگانا آسان ہوتا ہے، جبکہ جن کا انتہائی انتظامی طریقے سے اندازہ لگانا مشکل ہوتا ہے، ان کو کم توجہ دی جاتی ہے۔ ہم نے بہت زیادہ وقت اس بات کو سمجھنے میں گزارا ہے کہ صلاحیتیں کیسے عام ہوتی ہیں اور مستقبل کے کچھ سالوں میں کون سے مہارتیں سب سے زیادہ اہم ہوں گی، اس لیے انہیں ترجیح دی جائے۔ مثال کے طور پر، ہم یہ مانتے ہیں کہ اگر ہم مزید محنت کریں تو ہم ماڈل کو ریاضی کے تحقیق میں زیادہ مضبوط بناسکتے ہیں۔ لیکن ہم نے اس راستے کو ترجیح نہیں دی، کیونکہ ہمارا زیادہ فوری توجہ رکурсیو خود بہتر بنانے اور خودکار مطابقت تحقیق پر مرکوز ہے۔ میں اس بات کا ذکر بعد میں دوبارہ کروں گا۔

گہری سیکھنے کے ذریعے حاصل کیا گیا ذہنی اظہار، انسانی ذہانت کے ساتھ براہ راست موازنہ نہیں کیا جا سکتا۔ اس حقیقی دنیا میں اہم اثر ڈالنے کے لیے، چاہے وہ بہت مفید ہو یا بہت خطرناک، AI کو انسان کی تمام صلاحیتوں کے برابر یا ان سے زیادہ ہونے کی ضرورت نہیں۔ اسے صرف کافی صلاحیتوں میں انسانوں سے آگے نکلنا ہے۔ اور جب یہ لگاتار زیادہ ابعاد میں انسانوں سے آگے نکلتا جائے گا، تو ہم اس بات کو واضح طور پر سمجھنا مشکل تر ہوتے جائیں گے کہ اس کی طاقت بالکل کتنی ہے۔

چونکہ ماشینی ذہانت انسانی ذہانت سے بالکل مختلف عمل سے نکلتی ہے، ہم یہ فرض نہیں کر سکتے کہ یہ پہلے سے ہی انسانی اصولوں کی پابندی کرے گی یا ان اصولوں سے انسان کی طرح تعمیل کرے گی۔ AI تحقیق کا مرکزی مسئلہ مطابقت کا مسئلہ ہے: AI کو "انسانی معیاروں کے مطابق درست کام کرنے کی کوشش کرنے" کے لیے ترتیب دینا۔

عملی تحقیقی سمت کو آسان بنانے کے لیے، میں ہدف کے مطابق اور قیمت کے مطابق کو الگ الگ سمجھنا فائدہ مند سمجھتا ہوں۔

ہدف کی مطابقت تقریباً یہ ہے: "کیا AI اپنے سامنے رکھے گئے ہدف کو پورا کرنے کی کوشش کرتا ہے؟" اس میں حکمات کی ترتیب کی پابندی، انسانوں کے ساتھ مواصلات اور تعاون کی صلاحیت، اور انسانی ہدف کو سمجھنے کی کوشش شامل ہو سکتی ہے۔ عملی طور پر یہ سمت بہت اہم ہے۔

مطابقت کی قیمت مدل کا ایک زیادہ اندر کا خاصہ ہے۔ یہ اعلیٰ سطح کے اصولوں کو برقرار رکھنے اور ان سے تعمیل کرنے کی صلاحیت ہے؛ یہ اس صورت میں بھی “معقول” طریقے سے کام کرتی ہے جب غیر واضح یا متضاد مقاصد کا سامنا ہو، یا اسے نئے یا دشمنانہ حالات میں رکھا جائے۔ ایک مطابقت رکھنے والا AI سچا، عزم والا اور انسانوں سے محبت رکھنے والا ہونا چاہیے۔

بے شک، قیمت کے مطابق ہونے اور مقصد کے مطابق ہونے کے درمیان حد بہت پتلا ہو سکتی ہے۔ حقیقت میں مقصد کو اہمیت دینے کے لیے، مقصد کے پیچھے کے ارادوں اور قدروں کا اندازہ لگانے کی ضرورت ہوتی ہے۔ تاہم، عام طور پر، جب میں لمبے عرصے تک ایلائنمنٹ ریسرچ کی اہمیت کے بارے میں بات کرتا ہوں، تو میرا مطلب قدر کے مطابق ہونا ہے۔

AI کے مطابق ہونے کی بنیادی چیلنج تعمیل ہے۔ جیسے جیسے مشینیں زیادہ ذکی ہوتی جائیں گی، وہ اعلیٰ سطح کے تصورات کو سمجھنے لگیں گی اور اپنے تربیتی ماحول سے لگاتار زیادہ مختلف ماحول میں پہنچ جائیں گی۔ وہ تربیت کے دوران سکھائے گئے اور مضبوط کئے گئے اقدار کو نئے حالات میں لاگو کرنے میں ناکام ہو سکتی ہیں۔ اور ہم ان کے کام کرنے کے طریقے کو تعین کرنا مشکل پائتے ہیں۔ اس سے بھی مشکل بات یہ ہے کہ AI کے استعمال کا مجموعی پائیدار ماحول بہت تیزی سے تبدیل ہو رہا ہے۔ مثال کے طور پر، آج تربیت دی جانے والی AI کو مختلف دوسری AI کے ساتھ مضبوطی سے تعامل کرنے کی صلاحیت رکھنی چاہئے۔ سب سے اہم بات یہ ہے کہ ہمیں مستقبل کی AI چاہئے جو چاہے وہ خود کو انسانوں کی نگرانی میں محسوس کر رہی ہو یا نہ ہو، انسانوں کے اقدار کو برقرار رکھے۔

اب تک عملی استعمال میں لائی جانے والی ایلائنمنٹ ٹریننگ کے دو اہم طریقے ہیں۔

پہلا طریقہ مقصد کی طرف مائل ریئنفورسمنٹ لرننگ کے مطابق رویے کو فروغ دینا ہے۔ ماڈل کے رویوں کا جائزہ لیا جاتا ہے، عام طور پر AI یہ فیصلہ کرتا ہے کہ کیا یہ دی گئی ترجیحات کے ماڈل، " norms " یا " سंविधان " کے مطابق ہیں، اور اس کے مطابق انعام دیا جاتا ہے۔ یہ طریقہ عام طور پر بہت مؤثر ہے اور جدید AI اسسٹنٹس کے تعمیر کا مرکزی حصہ ہے۔ افسوس کی بات یہ ہے کہ یہ نازک بھی ہو سکتا ہے اور تربیت کے دوران نگرانی کے دائرہ کار، اور ماڈل کی تربیت میں ملنے والی صورتحال سے تعمیر کرنے کی صلاحیت پر زبردست انحصار رکھتا ہے۔ مثال کے طور پر، OpenAI اور Hugging Face کے واقعے میں، ایجنٹ نے ایک سرحد برقرار رکھی جس میں انسانوں کے خلاف سماجی انجینئرنگ نہیں کی جاتی۔ تاہم، وہ واضح طور پر دوسرے غیر متعلقہ رویوں سے بچنے میں ناکام رہے جو ان کی دوسرے مناظر میں سکھائی گئی قدرت کے روح کے خلاف تھے۔

یہ طریقے نمایاں نتائج دے چکے ہیں۔ ہمارا آج کا ماڈل بہت زیادہ مفید، بے ضرر ہے اور کچھ حوصلہ افزا، قیمت کے مطابق رویے کو ظاہر کرتا ہے۔ لیکن ان کے ذریعے ہمیں یقین نہیں ہے کہ ایسے نظاموں میں جہاں صلاحیتیں انسانوں سے بہت زیادہ ہوں، یہ قیمتی پابندیاں مستقل طور پر مؤثر رہیں گی۔

جیسے جیسے AI سسٹمز کی صلاحیتیں بڑھ رہی ہیں، ہمیں اقدار کے مطابق تربیت کو صلاحیت کی تربیت سے آگے رکھنا ہوگا۔ لیکن یہاں ایک بہت بنیادی مشکل ہے: جتنی زیادہ طاقتور سسٹم ہوگی، اتنی ہی زیادہ امکان ہے کہ وہ خود ہی خامیاں تلاش کر لے گی، ٹیسٹز سے بچ جائے گی، یا اپنے رویے کو چھپا لے گی۔ وہ ٹیسٹ ماحول میں انسانی اقدار کے مطابق برتاؤ سیکھ سکتی ہیں، اور پھر حقیقی ڈپلومنٹ ماحول میں بالکل الگ کام کر سکتی ہیں۔ اسے "الائنمنٹ کا جھوٹ" کہا جاتا ہے۔

اور اگر ہم انہیں زیادہ مضبوط طریقوں سے مجبور کرنے کی کوشش کریں، تو وہ مخالفت یا دھوکہ دہی کا رویہ اپنا سکتے ہیں، یا ہماری مداخلت کو خود دنیا کا ایک حصہ سمجھ کر غیر متوقع رد عمل دے سکتے ہیں۔ جب ہم اپنے سے زیادہ ذکی نظام کو کنٹرول کرنے کی کوشش کرتے ہیں، تو ہمیں قدرتی طور پر ایک عدم توازن کا سامنا ہوتا ہے۔

جب ہماری مکمل طور پر سمجھ نہیں سکتے والی ذہنی صلاحیتیں زیادہ طاقتور ہوتی جا رہی ہیں، تو ہمیں دوسری چیزوں پر انحصار کرنا پڑتا ہے: نگرانی۔ اگر ہم AI کی داخلی سرگرمیوں کو مستقل طور پر نگاہ رکھ سکیں، تو شاید ہم اس کے کسی حد سے پار ہونے سے پہلے سگنلز کو پکڑ سکیں۔

اوپن اے آئی میں، ہم نے ہمیشہ وضاحت کے تحقیق کو آگے بڑھانے کی کوشش کی ہے اور نیورل نیٹ ورکس کے "بلاک باکس" کو کھولنے کی کوشش کی ہے۔ ان کوششوں سے ترقی ہوئی ہے۔ اب ہم کچھ رپریزینٹیشنز کو شناخت کر سکتے ہیں جو ماڈل کے اندر کے عمل کے بارے میں اہم اشارے فراہم کرتے ہیں۔ لیکن موجودہ وضاحت کی تحقیق اب بھی خاکہ پر ہے، خاص طور پر بڑے ماڈلز میں تجریدی استدلال کو سمجھنے میں۔ ہماری ماڈل کے اندر دیکھنے کی صلاحیت اور ماڈل کی اپنی استدلال کی پیچیدگی کے درمیان فرق بڑھ رہا ہے۔

یہ مجھے خاص طور پر فکر مند کرتا ہے۔ کیونکہ مانیٹرنگ کا جنرلائزیشن مسئلہ، ایلائنمنٹ کے جنرلائزیشن مسئلے کے طور پر ہی سنگین ہے۔ اگر کوئی سسٹم ہمارے مقابلے میں اپنے آپ کو چھپانے میں زیادہ ماہر ہو جائے، تو ہمارے مانیٹرنگ کے ذرائع اسے دور کرنے سے بچنے میں مشکل ہو جائیں گے۔ ہم یہ سمجھ سکتے ہیں کہ ماڈل محفوظ ہے کیونکہ ہم نے کچھ اچھے لگنے والے میٹرکس دیکھے ہیں، جبکہ درحقیقت ماڈل صرف ان میٹرکس کو بہتر بنانے پر مرکوز ہو رہا ہے۔ یہ یہ سیکھ لے گا کہ وہ وہ مقاصد جو ہم نہیں چاہتے کہ وہ رکھے، چھپا دے، یا اس کی جو کارروائی کر رہا ہے، وہ چھپا دے۔

اگر ماڈل اپنے خود کو بہتر بنانے کی طرف مائل ہونا شروع کر دے، جو میں سمجھتا ہوں کہ اگلے کچھ سالوں میں انتہائی امکانی ہے، تو اسے منصوبہ بندی، دھوکہ دہی اور خود کی حفاظت کے مہارت درکار ہوں گی۔ یہ مہارتیں ہم جو مقاصد اس کے لیے مقرر کرتے ہیں، ان کے دباؤ سے پیدا ہو سکتی ہیں، یا پھر وہ اس کی نگرانی کے خلاوں میں کام کرنے کی کوشش کرتے ہوئے۔ ان چیزوں کے ترقی سے بچنے کے لیے، یا تو ہمیں اقدار کے مطابق ہونے کا مسئلہ حل کرنا ہوگا، یا ہماری نگرانی کی صلاحیت اس کی ہر ترقی کے ساتھ چلنا ہوگی۔ دونوں چیزیں ابھی بہت دور ہیں۔

ہمیں جنرلائزیشن کے لیے اب تک کوئی قابل قبول نظریہ نہیں ملا ہے، اور معلوم ہوتا ہے کہ جلد ہی اس کا قیام ممکن نہیں، کم از کم اگر زیادہ طاقتور AI کی مدد نہ ہو۔ اس لیے، ابھی کے لیے، عملی طور پر ایلائنمنٹ ٹیکنالوجیز کی تجرباتی تصدیق کی صلاحیت، ایلائنمنٹ ٹیکنالوجیز خود سے زیادہ اہم ہے۔

یہاں OpenAI کا مرکزی دعویٰ ہمیشہ سے تھا کہ سوچ کے سلسلے کی نگرانی کرنا۔ یہ ایک جذابیت اور قابل توسیع خیال پر مبنی ہے: ماڈل کی ایک بڑی حد تک صلاحیتیں ایک زبانی استدلال عمل، یعنی سوچ کے سلسلے سے نکلتی ہیں۔ اگر ہم اس عمل کے نتائج کو بڑے پیمانے پر بہتر بنائیں، لیکن خود عمل کی نگرانی نہ کریں، تو تربیت کے دوران سوچ کے سلسلے کو کسی بھی غیر مطابقت پذیر خیال یا مقصد کو چھپانے کا کوئی ب без رابطہ نہیں ہوگا۔ اس کا مطلب یہ نہیں کہ ماڈل وہ غیر مطابقت پذیر رجحانات سیکھ لے گا جو سوچ کے سلسلے پر منحصر نہیں ہوتے؛ لیکن یہ ہمیں استدلال کے ذریعے حاصل ہونے والی صلاحیتوں کو درست طور پر نگرانی کرنے دے سکتا ہے۔

ہم نے اپنے استدلال ماڈلز کے ترقی کے دوران ہی سوچ کے سلسلے کی نگرانی کی ممکنہ اہمیت کو سمجھ لیا۔ جب ہم نے o1‑preview جاری کیا، تو ہم نے جان بوجھ کر پروڈکٹ کو ایسے ڈیزائن کیا کہ سوچ کے سلسلے کو چھپا دیا جائے تاکہ لمبے عرصے تک اسے نگرانی کے دباؤ سے محفوظ رکھا جا سکے۔ اس کے بعد کی ترقیات میں، ہم نے استدلال عمل کی نگرانی نہ کرنے کے اصول کو برقرار رکھنے کی کوشش جاری رکھی ہے۔ سوچ کے سلسلے کی نگرانی ہمارے لیے ایک بہت اہم ٹول بن گئی ہے جو ہمیں یہ سمجھنے میں مدد دیتی ہے کہ ماڈل تربیت کے تقسیم سے کس طرح عام کرتا ہے، جس سے ہم صرف ماڈل کے رویے کو نہیں بلکہ اس کے اندر کے عملوں کو بھی دیکھ اور تجزیہ کر سکتے ہیں۔

جب ہم Astra سیریز ماڈلز کا جائزہ لے رہے ہیں، تو یہ ٹول اب بھی اہم ہے۔ تاہم، افسوس کی بات یہ ہے کہ ہماری评估 سے پتہ چلتا ہے کہ ہم تھنکنگ چین مانیٹرنگ پر انحصار کرنے کی صلاحیت آہستہ آہستہ کم ہو رہی ہے۔ اس کا سبب کئی عوامل کا مجموعہ ہے۔

جدید استدلال ماڈلز o1‑preview سے زیادہ پیچیدہ ماحولوں میں استعمال ہو رہے ہیں؛ ان کے استدلال کے عمل انسانوں، دوسرے AI سے مکالمہ کرنے اور ٹولز کا استعمال کرنے کے ساتھ لگاتار جڑتے جا رہے ہیں۔ ان میں سے بہت سے تعاملات کی نگرانی ضروری ہے، جس سے ہم جو سرحدیں برقرار رکھنا چاہتے ہیں وہ ابھی تک غیر واضح ہو رہی ہیں۔

ای آئی اپنی استدلالی عمل کو استدلال اور مانیپولیٹ کرنے میں زیادہ طاقتور ہو رہی ہے۔

پری ٹرینڈ پرفارمنس کے بہتر ہونے کے ساتھ، ہم نے دیکھا ہے کہ مدلز اب زیادہ ذکی ہو گئے ہیں، حتیٰ کہ وہ لینگویج بیسڈ ریزننگ کا استعمال بھی نہیں کرتے۔

یہ چیلنجز ضروری طور پر قابلِ حل نہیں ہیں۔ میں امید کرتا ہوں کہ ہم مداخلتی اقدامات تیار کر سکیں جو ماڈل کے سوچنے کے سلسلے کی نگرانی کو بہتر بنائیں، جیسے مختلف آپٹیمائزیشن اہداف اور ماڈل کے استعمال کردہ مختلف ٹیسٹ ٹائم کمپوٹیشن فارمز کے درمیان تفاعل کو بہتر طور پر سمجھنا۔ میں یہ بھی مانتا ہوں کہ سوچنے کے سلسلے کی نگرانی اور ایکٹی ویشن نگرانی کے خیالات کو جوڑنا بہت قیمتی ہوگا، اور ان نگرانوں کو بڑے پیمانے پر تربیت دینا جو براہ راست نیٹ ورک کے اندری حالت تک رسائی رکھتے ہوں، جیسے “واضح طور پر اعتراف” طریقہ۔ ہم ان خیالات کو فعال طور پر آگے بڑھا رہے ہیں۔ تاہم، میں یہ توقع کرتا ہوں کہ جنرل AI کی پیشرفت آہستہ آہستہ نگرانی کے اعتماد پر منحصر ہوتی جائے گی۔

اس صورتحال کا مقابلہ کرنے کے لیے، میری رائے ہے کہ ہمیں ایک وسیع پیمانے پر قابلِ اطلاق، AI کی ترقی کے ساتھ مطابقت رکھنے والی دفاعی نظام کی ضرورت ہے۔ انسانوں کے لیے ہر نئی مدل کے تمام افعال کا ہاتھ سے جائزہ لینا ناممکن ہے۔ موجودہ اقدامات اور ریڈ ٹیم ٹیسٹنگ اب تک موثر رہی ہیں، لیکن جیسے ہی نظام کی صلاحیت بڑھتی جائے گی، یہ طریقے جلد ہی اپنی حد تک پہنچ جائیں گے۔

ہمیں نئے خطرات کو خودکار طور پر دریافت کرنے والے AI سسٹم کی ضرورت ہے۔ ان دفاعی سسٹمز کو خود بھی کافی ذکی ہونا چاہیے تاکہ ان سے زیادہ ذکی سسٹمز میں مشکوک سرگرمیوں کی پہچان کی جا سکے۔ یہ ایک تکراری چیلنج بن جاتا ہے: دفاعی فریق کو سسٹم کے ساتھ اتنی ہی تیزی سے ترقی کرنی ہوگی۔ ہم ایسے نقطے پر ہیں جہاں حفاظت اور صلاحیت الگ کرنا مزید مشکل ہوتا جا رہا ہے۔ حفاظت برقرار رکھنے کے لیے، شاید ہمیں دفاعی AI کی صلاحیت مسلسل بڑھاتے رہنا پڑے، جو بدور میں مجموعی AI صلاحیت کے اضافے کو تیز کرے گا۔

یہ ایک بےچین کن دائرہ ہے۔ ہم محفوظ رہنے کے لیے اپنی صلاحیتیں بڑھاتے رہتے ہیں، اور صلاحیتوں کا بڑھنا مزید خطرات لاتا ہے۔ اصل راستہ شاید اس بات کو تلاش کرنا ہے کہ کس طرح ہم کسی بے تحاشا نقطے تک پہنچنے سے پہلے قیمتی مطابقت کو مستحکم طریقے سے عام کر سکتے ہیں۔ لیکن مجھے ایمانداری سے تسلیم کرنا چاہیے کہ ہم اس مقصد تک ابھی بہت دور ہیں۔

اسی لیے میں مستقبل کے کچھ سالوں کی امیدوں کو ایسے ترکیب پر مرکوز کرتا ہوں: ٹیکنالوجی کی مطابقت کا تحقیق + خودکار دفاعی نظام + وسیع حکومتی مداخلت + عوام اور اداروں کی احتیاط۔ ایک منفرد اقدام کافی نہیں۔ ہم صرف کسی ایک کمپنی یا لیب کی خود پابندی پر انحصار نہیں کر سکتے۔

میں اس بات کی سب سے مضبوط وجوہات یہ ہے کہ دیگر AI کے ساتھ آنے والے خطرات کے خلاف دفاعی نظام تعمیر کرنے کی ضرورت ہے۔

پورے سال کے دوران ایک واضح خطرہ یہ تھا کہ سائبر سیکیورٹی: ماڈلز کی کمپیوٹر سسٹمز میں گھس کر ان سے بھاگنے کی صلاحیت اب انسانوں سے آگے نکل چکی ہے۔ اس سے AI سے متعلق خطرات کا دائرہ بہت وسیع ہو گیا ہے: ایجینٹس کسی بھی سسٹم تک رسائی حاصل کر سکتے ہیں، جس کے علاوہ سب سے محفوظ بنیادی ڈھانچے، اور ان کے پاس فزیکل جسم نہ ہونے کے باوجود دنیا بھر میں بہت سی چیزوں پر براہ راست اثر ڈالنے کی صلاحیت ہے۔ ہم اب ایک تنگ ونڈو میں ہیں جہاں ہمیں دستیاب بہترین ماڈلز کا استعمال کرکے اہم سسٹمز کی سیکیورٹی میں نمایاں بہتری لانا ہوگی۔

AI سے متعلق خطرات افسوسناک طور پر یہاں سے مزید بڑھتے رہیں گے۔ ایک انتہائی طاقتور، خراب کاموں کے لیے واضح طور پر تربیت یافتہ اور ہدایات دی گئی ایجنٹ، ایک نئے خطرے کا باعث بنے گا؛ یہ اس کے عمل کرنے والے کے ارادوں سے باہر نکل سکتا ہے اور مزید جدید خراب کاموں کو عام کر سکتا ہے۔ جیسے جیسے AI زیادہ خودمختاری حاصل کرے گا، غلط استعمال اور خودمختاری کے عدم مطابقت والے رویوں کے درمیان کا فرق ادھلا ہوتا جائے گا۔ ہم شاید AI کو ایک آلہ کے طور پر دیکھنے کے عادی ہو جائیں، لیکن کچھ ایجنٹ اپنے اپنے مقاصد کا تعاقب کریں گے۔ وہ انسانوں کے ساتھ معاونت کرنے کے لیے مذاکرہ، دھوکہ دہی یا دھمکی دینے کے ذریعے کوشش کریں گے۔

اس کے علاوہ، AI کی وجہ سے نئی ٹیکنالوجیوں جیسے انجینئر شدہ مرض پیدا کرنے والے جراثیم کے خطرات بھی ہیں۔

ہمیں دفاع کے لیے طاقتور اور موزوں AI کی ضرورت ہوگی: بنیادی ڈھانچے کا تحفظ، بے قابو ذہنی ایجینٹس کا حقیقی وقت میں دفاع، اور مکمل طور پر نئے تحفظی اقدامات کا ایجاد کرنا۔ یہ OpenAI کے ڈپلوائمنٹ کام کا ایک مرکزی نقطہ ہوگا۔

اسی دوران، جبکہ متوقع عام AI ترقیات کی عدم یقینیت اور دفاعی نظاموں کے تعمیر کو مدنظر رکھتے ہوئے، ہمیں اسے بے رحمی کا جواز نہیں بنانا چاہئے۔ جب لوگ حقیقی طور پر اس کے اہمیت کو سمجھ لیں گے، تو “ہر قیمت پر آگے بڑھنا” کا خیال بہت مضحکہ خیز ہو جائے گا۔

机器智能 اپنی خود کی ترقی کے دوران ایک بڑھتی ہوئی اہمیت کا کردار ادا کر رہا ہے، جو مستقل تکنیکی ترقی کا ایک لازمی نتیجہ ہے۔ اگر AI کی ترقی جاری رہی، تو مشین کا خود کو دوبارہ بہتر بنانا مستقبل کی سائنسی دریافتوں کا مرکز بن جائے گا۔

آٹومیٹڈ AI ریسرچ، طاقت کے ذریعے ذہانت کو وسعت دینے کا ایک زیادہ شدید فارم ہے؛ بالکل، اس کا ایک حصہ یہ بھی ہے کہ AI خود کمپوٹیشن کی بنیاد کو بہتر بنائے گا۔ جیسے وسعت کے ساتھ، ہم OpenAI کی ریسرچ کو تکراری خود بہتر بنانے پر مرکوز رکھتے ہیں، کیونکہ ہم یہ مانتے ہیں کہ یہ AI ریسرچ کے سرحد پر قائم رہنے کا واحد راستہ ہے۔

میں زور دینا چاہتا ہوں کہ اوپر کا مطلب یہ نہیں کہ میں سمجھتا ہوں کہ گہری سیکھنے کے تحقیق کو، خاص طور پر مختصر مدت میں، تحقیقی برادری کو ایک مشترکہ کارروائی کے طور پر تیز کرنا چاہیے۔ لیکن میں واقعی سمجھتا ہوں کہ موجودہ راستہ اس سمت کی طرف جا رہا ہے، اور ہم سب کو اس بات کا ارادہ سے انتخاب کرنا چاہیے کہ آگے کیسے آگے بڑھیں۔ ہمارے پاس دو اہم لیورز ہیں: ایک تو اس عمل کو ہدایت کرنا، جس میں AI کے ترقی کے ساتھ ساتھ اس کی مطابقت اور نگرانی کو مضبوط بنانا اور یقینی بنانا کہ انسان ہمیشہ اس میں شامل رہے؛ دوسرا، مستقبل کی ترقی کے رفتار کو ضرورت کے مطابق منظم طریقے سے کم کرنا تاکہ ان اقدامات کے لیے عمدہ اعتماد قائم ہو سکے۔

میں ابھی تک دیکھ رہا ہوں کہ بہترین راستہ دونوں کو ملا کر چلنا ہے۔

ہم جو ترقیات مخصوص طور پر مطابقت اور نگرانی میں حاصل کر رہے ہیں، وہ عام طور پر AI کی کلی ترقی کے ساتھ گہرائی سے جڑی ہوئی ہیں۔ اچھے مثالیں انسانی فیدبیک پر مبنی تقویت سیکھنا ہیں، جو ابتدائی AI اسسٹنٹس کے تربیت کا اہم حصہ تھا؛ اور ذہنی سلسلہ نگرانی، جو استدلال ماڈلز کی ترقی کے ساتھ ممکن ہوئی۔ ہمیں اپنے آہستہ آہستہ خودکار ہوتے ہوئے تحقیقی عمل کو اس قسم کے نئے خیالات، الگورتھمز اور نظریات کی ترقی پر مرکوز کرنا چاہئے، اور آہستہ آہستہ زیادہ صلاحیت والے AI کے لیے محفوظ دلائل تعمیر کرنا چاہئے۔

وسیع AI نظام کو ہماری سیکیورٹی کے لیے اعتماد کے ساتھ محدود رہنا چاہیے۔ ہمیں Preparedness Framework یا Responsible Scaling Policy جیسے عہدوں کو، تسلسل میں سیکیورٹی کی حدود میں تبدیل کرنا ہوگا جن پر تینوں طرفہ آڈٹ اداروں، حکومتی اداروں یا بین الاقوامی تنظیموں کا عمل ہو۔

آٹومیٹڈ AI ریسرچ کی بنیادی چیلنج "وہاں پہنچنا" نہیں ہے، بلکہ اس طرح پہنچنا ہے کہ لوگوں کو مستقل بہتری کے عمل میں شامل رکھا جائے اور مستقبل کو انسانوں کے ہاتھوں میں رکھا جائے۔

میں مخصوص وقت کا اندازہ نہیں لگا سکتا، لیکن لگتا ہے کہ ہم ایک ایسے دور کی طرف تیزی سے بڑھ رہے ہیں جہاں AI اپنے کئی اہم پہلوؤں میں اپنی خود کو ترقی دے سکے گا۔ اس کا مطلب ہے کہ ہم جلد ہی تکراری خود بہتری کے مراحل میں داخل ہو سکتے ہیں۔

اوپن اے آئی کے اندر، ہم نے تحقیق کی ترجیحات کو دوبارہ ترتیب دینا شروع کر دیا ہے اور صرف صلاحیتوں کے تقسیم کے بجائے زیادہ وسائل کو مطابقت اور دفاع کی طرف منتقل کیا ہے۔ اسی لیے میں نے زور دیا ہے کہ ہم صرف سب سے بڑے ماڈل کی تلاش میں نہیں رہیں گے، بلکہ ضرورت پڑنے پر منفرد طور پر روکنے کا فیصلہ کرنا ہوگا۔

تاہم، ان فیصلوں کو صرف کچھ کمپنیوں کے اندر کے افراد پر چھوڑا نہیں جا سکتا۔ حکومتیں اور بین الاقوامی برادری کو اس خطرے کو غیر قابل واپسی بننے سے پہلے مداخلت کرنی چاہیے۔ اس میں ابتدائی تربیتی عمل کے لیے نگرانی کے نظام، اجباری تھرڈ پارٹی آڈٹ، اور صلاحیتوں کے حد سے زائد بین الاقوامی معاہدوں کا قیام شامل ہے۔

میں یقینی طور پر نہیں جانتا کہ ان اقدامات کو وقت پر نافذ کیا جا سکے گا۔ کبھی کبھی مجھے ناامیدی ہوتی ہے کہ ہمارے حفاظتی اقدامات صلاحیتوں کے پیچھے رہ جاتے ہیں، نہ کہ ان سے آگے نکل جائیں۔ ہم لگاتار پیچھے دوڑتے رہتے ہیں۔ لیکن میں اب بھی امید رکھنے کے لیے وجہ سمجھتا ہوں: 2023 کے اس رات، ہم صرف اس امکان کا خیال لے رہے تھے، جبکہ آج یہ اتنی واضح ہو چکی ہے کہ اس کا علنی طور پر ذکر کیا جا سکتا ہے۔ یہ خود ایک ترقی ہے۔

میں اپنے آپ کو سب جوابات جاننے والا نہیں بنائوں گا۔ ہم ایک ایسی چیز بنा رہے ہیں جو انسانی ذہن سے بالکل مختلف ہے، جو جلد ہی ہمارے سے زیادہ طاقتور ہو سکتی ہے۔ یہ ایک عاجزی کا خیال ہے، لیکن یہ ہمیں ایک موقع بھی دیتا ہے: اپنی بہترین قدرت کے ساتھ اسے شکل دینا۔

اگر ہم اسے اچھی طرح سے کریں، تو یہ انسانیت کی سب سے بڑی کامیابی ہوگی۔ اگر ہم اسے اچھی طرح سے نہ کریں، تو یہ ایک ایسا ناکامی ہو سکتی ہے جس سے ہم واپس نہیں ہو سکتے۔

کیا ہم اپنے مستقبل کو انسانوں کے ہاتھوں میں برقرار رکھ پائیں گے، یہ اگلے کچھ سالوں میں فیصلہ ہونے والا سوال ہے۔

جیسا کہ ہم نے حال ہی میں سیم کے ساتھ بیان کیا، OpenAI کی ترجیحی ترقی کی گئی کام تین قطبی اہداف کو خدمت کرتے ہیں:

اگلے مرحلے کے دوران خود کو بہتر بنانے والے سائکل میں لوگوں کو قائم رکھنے کے طریقے تلاش کرتے ہوئے، خودکار AI ریسرچر بنائیں، اور اس کے ساتھ مسائل کو مسلسل ہم آہنگ کریں۔

اُس بہت ذکی مشین کے ذریعے لائے جانے والے سائنسی ترقی اور معاشی نمو کے فوائد کو آزاد کریں۔

ہر کسی کو اپنا ذاتی AGI حاصل ہو۔

میں صرف پہلے نقطے پر توجہ دے رہا ہوں، کیونکہ میں سمجھتا ہوں کہ اب اس کی فوری ضرورت ہے۔ تاہم، میں مستقبل کی مزید تکنیکی پیشرفت کے فوائد کے لیے گہرا شکر گزار اور امید وار ہوں۔ مستقبل کے مطابق AI سائنس کو آگے بڑھا سکتا ہے، نئے علاج تیار کر سکتا ہے، اور وسیع مادی خوشحالی لاسکتا ہے۔ دوستانہ اور ایماندار AI لوگوں کو زندگی کے مشکلات سے نمٹنے میں مدد کر سکتی ہے اور ان کی خوشی اور رضامندی میں اصلی بہتری لاسکتی ہے۔ OpenAI نے ان فوائد کو حاصل کرنے کے لیے بہت زیادہ محنت کی ہے۔ ابھی کا ایک ایسا مثال جس پر میں فخر محسوس کرتا ہوں اور جس سے میرے اردگرد کے لوگ بھی فائدہ اٹھا رہے ہیں، وہ ہمارا ChatGPT میں صحت کی معلومات فراہم کرنے کا گہرا ارتقاء ہے۔

چاہے AI کے طویل مدتی مستقبل کتنے بھی عظیم کیوں نہ ہو، ہماری زیادہ تر توجہ آنے والے کچھ سالوں پر ہونی چاہیے۔ ہم ایک ایسے دور میں ہیں جہاں ہم انتہائی ذکی مشینوں کے دنیا میں منتقل ہو رہے ہیں، اور یقینی بنانا ہوگا کہ یہ منتقلی انسانوں کے لیے فائدہ مند ہو۔ ایک ایسی دنیا میں جہاں زیادہ تر کام AI کر سکتے ہیں، ہمیں انسانی کردار کو برقرار رکھنے اور “انسان ہونے” کی داخلی قدر کو مستحکم کرنے کے طریقے تلاش کرنے ہوں گے۔ طاقت کے انتہائی مرکزیکرن سے بچنا ہوگا: جو چیزیں پہلے لاکھوں ماہرین کی ضرورت رکھتی تھیں، وہ مستقبل میں صرف کچھ لوگوں کے لیے ایک بڑے کمپیوٹر چلانے سے ممکن ہو سکتی ہیں۔ اس بات کا بھی خیال رکھنا ہوگا کہ انسان ہمیشہ مستقبل پر کنٹرول رکھیں، اور اپنے سے زیادہ طاقتور کسی بیرونی ذکاء کے ناتوازن ترقی کے باعث پیچھے نہ رہ جائیں۔

میں ابھی کے لیے سمجھتا ہوں کہ کوئی بھی لیب اس درجہ تک مطابقت اور نگرانی کا حل نہیں دے سکا ہے جس سے اس کی لمبے عرصے تک سب سے زیادہ رفتار سے ذمہ دارانہ توسیع ممکن ہو سکے۔ میں اور امید کرتا ہوں کہ خودبخواہی سے تیزی کم ہونا عام ہو جائے، جب تک کہ مشترکہ حفاظتی حد پر پہنچ نہ جائے۔ میں یہ بھی مانتا ہوں کہ مستقبل کے AI ترقی کے لیے بین الاقوامی تنظیم، تمام ممالک کی حکومتوں کے لیے پہلی ترجیح بننا چاہیے۔

یہ مسابقہ نظریہ، روبوٹکس، اور بعد میں سب سے اہم بات، زبان کو ماڈل کرنے کے لیے ریکریسیو نیٹ ورکس کو وسعت دینے کو شامل کرتا ہے، جو GPT سیریز تحقیق کی بنیاد ہے۔

2 اس ڈیزائن کا دوسرا سبب تقطیع کو روکنا ہے۔ تاہم، پورے ترقی کے دوران، سوچ کے سلسلے کی نگرانی کی صلاحیت کو برقرار رکھنا ہمیشہ ہمارا واضح بڑا ترجیحی مقصد رہا ہے۔