اینٹروپک نے چेतاؤ دیا ہے کہ AI جلد خود کو تیز کرنے کے مرحلے میں داخل ہو سکتا ہے

Beating AI خبروں کے مطابق، Anthropic نے 2 نومبر کو اپنے IPO کے پروسپیکٹس میں چیتن کیا ہے کہ AI جلد ہی "ریکرسیو سیلف ایمپروومنٹ" (RSI) سے متعلق ایک اہم سرحد عبور کر سکتی ہے، جس سے AI تحقیق کی رفتار میں شدید اضافہ ہوگا۔ گزشتہ میں بھی ایسے واقعات پیش آئے ہیں جب تحقیق کی ترقی کا تیز ہونا نہیں دیکھا گیا، لیکن جب تیزی پیدا ہو گئی تو اس کا احساس ہوا۔ اب تک، Claude نے کوڈ لکھنا، تجربات چلانا اور تربیت کے ڈیٹا کو معالجہ کرنا شروع کر دیا ہے، جس سے مضبوط نسل کے ماڈلز کی ترقی میں مدد ملتی ہے۔ نئے ماڈلز دوبارہ بعد کی تحقیق کو تیز کرتے ہیں، جس سے ایک مستقل تیز ہوتے ہوئے حلقوں کا سلسلہ شروع ہوتا ہے۔ Anthropic کے مطابق، اس اہم سرحد تک پہنچنے کے دو معیارات ہیں: 1. AI ایک پورے AI تحقیقی ٹیم کے کام کو اسی لاگت پر مکمل کر سکے؛ 2. یا AI ٹیکنالوجی کی ترقی کی رفتار کم از کم دگنا کر دے، جس سے دو سال لگنے والی ترقی صرف ایک سال میں مکمل ہو جائے۔ جب AI اپنی تحقیق میں زیادہ گہرا شامل ہوتا ہے، تو ماڈل کی صلاحیتیں ممکنہ طور پر محفوظ جانچ، انسداد تطابق تحقیق اور تحفظات کے اپڈیٹس سے زیادہ تیزی سے بڑھ رہی ہوتی ہیں۔ Anthropic اب تک کسی موجودہ ماڈل کو اس سطح تک نہیں پہنچا چکا، اور یہ انتباہ بنیادی طور پر اندازوں اور مستقبل کے ماڈلز پر مبنی ہے۔ وہ اب اس بات پر غور کر رہے ہیں کہ اپنے محفوظ پالسیوں میں تبدیلی کر کے اہم تحقیقی عملوں پر انسانوں کا نگرانی اور کنٹرول برقرار رکھا جائے۔