سام الٹمن نے ہوشیار کیا کہ AI کی ترقی کو سرحدی خطرات کے خلاف نمٹنے کے لیے رکنا ہوگا

اہم نکات:

• سام الٹمن کی چیتنی نے AI کی خبروں کو سست ترقی اور مضبوط سلامتی کی طرف موڑ دیا۔
• اوپن اے آئی تربیت کے عمل سے قابلیت میں اضافہ کی توقع کے ساتھ سلامتی کے معاملات تیار کر رہا ہے۔
• الٹمن نے انسانی کنٹرول کے ضائع ہونے اور ایک واحد فریق کے پاس زیادہ سے زیادہ AI طاقت کے بارے میں تنبیہ دی ہے۔

ای آئی کی خبریں اوپن اے آئی کے سی ای او سیم الٹمن کے اس کہنے کے بعد سامنے کی حفاظت کی طرف منتقل ہو گئیں کہ ماڈل کی ترقی کو سست اور زیادہ دقت سے نگرانی کی جائے۔ انہوں نے چेतاؤ دیا کہ اگر صلاحیتیں تطابق اور نگرانی کے نظام سے زیادہ تیزی سے آگے بڑھ گئیں تو انسانیت کنٹرول کھو سکتی ہے۔

الٹمن نے طاقتور AI پر مضبوط مرکزی کنٹرول کو ایک الگ خطرہ بھی قرار دیا۔ اس کا 14 ستمبر کا بیان ترقی کو جاری رکھنے کی حمایت کرتا ہے، حالانکہ ڈویلپرز کو مزید سیفٹی اخراجات اور سست ترقی قبول کرنی چاہئیں۔

الٹمن نے اینتھرپک کے سی ای او داریو اماڈی کی تجویز کی حمایت کی کہ تحقیق کاروں کے سلامتی کے تحفظات کو مضبوط بنانے کے ساتھ ترقی کو سست کیا جائے۔

تاہم، اس نے وضاحت کی کہ تیزی کم کرنا تکنولوژیکی پیش رفت کو روکنا نہیں ہے۔ اس کے بجائے، لیبز کو اس صورت میں سلامتی کے جائزے کے لیے زیادہ وقت کی ضرورت ہو تو ترقی کو سست کرنا چاہیے۔ ان مداخلتوں کی قیمت اعلیٰ ہوتی ہے، لیکن ایلٹمن نے ان قیمتوں کو ضروری قرار دیا۔

AI خبروں کے علاوہ، الٹمن نے کہا کہ ریاستہائے متحدہ میں مقابلہ کی دباؤ کبھی بھی بے پناہ ترقی کو جائز نہیں ٹھہرانا چاہیے۔ انہوں نے مزید کہا کہ ماڈل کی صلاحیتیں تطابق اور نگرانی کے نظام سے آگے نہیں بڑھنی چاہئیں۔

پیشرفت تیز ہو گئی ہے، جس سے ہر سرحدی لیب کے لیے ذمہ دارانہ ترقی مزید ضروری ہو گئی ہے۔ اس نے کہا کہ امریکی کمپنیوں کو عوام کو یہ اعتماد دینا چاہیے کہ وہ جدید نظاموں کو ذمہ دارانہ طریقے سے ترقی دیں گے۔

سابقہ کمپنی فریم ورکس نے عام طور پر عوامی ڈیپلویمنٹ سے پہلے مکمل ماڈلز کا جائزہ لیا۔ ان میں فرنٹیئر لیبارٹریز کے ذریعہ تیار کیے گئے ذمہ دارانہ سکیلنگ پالیسیز اور تیاری فریم ورکس شamil تھے۔

الٹمن نے کہا کہ موجودہ ترقیاتی حالات نئے اوزار اور پہلے سے محفوظیت کی جانچ کی ضرورت کرتے ہیں۔ اس لیے، OpenAI نے کچھ محفوظیت کے کاموں کو بڑے صلاحیتوں میں اضافے سے پہلے منتقل کر دیا ہے۔

اوپن اے آئی اب سرحدی تقویت سیکھنے کے منتخب رن کے قبل واضح محفوظ صورتحال تیار کرتی ہے۔ یہ کمپنی اس وقت ان کا استعمال کرتی ہے جب تحقیق کاروں کا خیال ہوتا ہے کہ تربیتی رن سے اہم صلاحیتوں میں اضافہ ہوگا۔

OpenAI مکمل ماڈلز جاری کرنے سے پہلے محفوظیت کے کام کو بھی جاری رکھتا ہے۔ اس لیے، یہ نقطہ نظر ترقی اور اطلاق دونوں مراحل میں جائزہ لینے پر زور دیتا ہے۔

الٹمن نے کہا کہ کمپنیاں اپنے طریقہ کار شیئر کریں اور اپنی مخصوص سلامتی پروเซجرز تجویز کریں۔ انہوں نے ماڈل کی غلط تطابق، نگرانی اور سلامتی پر مشتمل عام معیارات کی حمایت کی۔

یہ معیارات لیبارٹریوں کو بڑھتی ہوئی صلاحیتوں والے نظاموں کا جائزہ لینے میں رہنمائی کر سکتے ہیں۔ اس نے مستقل سرحدی خطرہ فریم ورک کا حصہ کے طور پر مستقل آڈٹرز کا بھی خوش آمدید کہا۔

تازہ ترین AI خبر کے بیان میں قانون سازی کا انتظار کیے بغیر فوری صنعتی کارروائی کا مطالبہ کیا گیا۔ الٹمن نے کہا کہ کمپنیوں کو محفوظ اقدامات متعارف کرانے سے پہلے اینٹی ٹرسٹ استثناء کی ضرورت نہیں ہے۔

اس نے مُقدمہ ڈویلپرز کے لیے مسلسل ضوابط قائم کرنے والے فیڈرل فریم ورک کا بھی ساتھ دیا۔ تاہم، اس نے حکومتوں کو بین الاقوامی سلامتی اصولوں کے تنظیم میں بڑا کردار دیا۔

الٹمن نے کہا کہ لیبارٹریوں کو اپنی اپنی تنظیموں کے اندر دستیاب تحفظات کو پہلے لاگو کرنا چاہیے۔ پھر حکومتیں ممالک کے درمیان تعاون کو فروغ دینے کے لیے اقدامات کر سکتی ہیں تاکہ جدید ماڈلز تیار کیے جا سکیں۔

اس کے بیان میں AI کی تحقیق یا صلاحیتوں میں بہتری کو ختم کرنے کا مطالبہ نہیں کیا گیا۔ اس کے بجائے، اس نے مضبوط نگرانی اور عمدہ ترقی کے ساتھ مسلسل ترقی کا پیش کیا۔

الٹمن نے دو طریقے بیان کیے جن کے ذریعے جدید AI ترقی شدید نقصان دہ نتائج پیدا کر سکتی ہے۔ پہلا، اگر صلاحیتیں دستیاب تحفظات سے آگے نکل جائیں تو انسانیت کنٹرول کھو سکتی ہے۔

دوسرا، ایک کمپنی، ملک، لیب، یا فرد طاقتور سسٹمز پر زیادہ کنٹرول حاصل کر سکتا ہے۔ اس مرکزیت کی وجہ سے ایک فرد دوسرے لوگوں پر اپنا عالمی نظریہ مسلط کر سکتا ہے۔

چیتن نے ٹیکنیکل کنٹرول اور ادارتی کنٹرول کو ایک ہی محفوظ بحث کے اندر رکھ دیا۔ الٹمن نے کہا کہ اوپنای آئی اے کو انسانیت کی خدمت کے لیے AI کو یقینی بنانے کا عزم ہے۔

آخری AI خبروں کے مطابق، اوپن اے آئی کے سی ای او نے بھی زور دیا کہ ہر فرانتیئر لیب کو اس ذمہ داری کو پورا کرنا چاہیے۔ ورنہ، زیادہ صلاحیت رکھنے والے سسٹمز مناسب نگرانی یا مشترکہ معیارات کے بغیر ترقی کر سکتے ہیں۔

پوسٹ AI خبریں: سام الٹمن کہتے ہیں کہ AI کی ترقی کو سست کیا جانا چاہیے کیونکہ فرانتیئر کے خطرات تیز ہو رہے ہیں پہلے The Coin Republic پر ظاہر ہوئی۔