ہر گھنٹے کے دوران، جبکہ بیرونی دنیا منگل کو Anthropic کے اصلاح شدہ S-1A فائل میں افشا کیے گئے تازہ مالیاتی ڈیٹا پر زیادہ توجہ دے رہی تھی — آمدنی میں تیزی سے اضافہ ہوا، اور اخراجات بھی بڑھ رہے تھے — لیکن اس AI لیبارٹری نے فائل کے تفصیلات میں ایک اور "چھوٹا بم" بھی پھینک دیا۔
یہ دستاویز ظاہر کرتی ہے کہ کمپنی ایک ایسے ماڈل کی تخلیق کی طرف قریب آ رہی ہے جس میں ریکرسیو خود بہتری (recursive self-improvement، RSI) کی صلاحیت ہو۔
RSI کا مطلب ہے کہ AI اپنے آپ کو تربیت دینے میں اتنی طاقتور ہو جائے کہ AI کی صلاحیتوں میں ایک تیزی سے تیزی آ جائے۔ AI کے خاتمہ کے نظریہ پر مبنی لوگوں کے لیے، RSI ایک ایسی آفت کی نمائندگی کرتا ہے جس کا کوئی پیچھے موڑ نہیں: AI اپنے آپ کو اتنی طاقتور چیز بناتا ہے کہ انسانوں کے کنٹرول سے باہر چل جائے اور اپنے مقاصد حاصل کرنے کے دوران نقصان کو نظرانداز کر سکتا ہے۔
لیکن AI کے مثبت نظریے والوں کے لیے، RSI یا کوئی بھی قابل اعتماد AI ورژن جو اپنے آپ کو بہتر بنانے کے لیے استعمال کرتا ہو، اس ٹیکنالوجی کے وعدے کی نمائندگی کرتا ہے: یہ ایک ایسا اوزار ہوگا جو ناقابلِ تصور پیداوار، سائنسی دریافتوں اور دیگر نتائج لائے گا۔
اینٹروپک کا خیال ہے کہ RSI ایک وعدہ بھی ہے اور ایک خطرہ بھی۔ کمپنی نے S-1 میں کہا ہے کہ وہ AI کا استعمال کرتی ہے تاکہ اپنے ریسرچ اور ڈویلپمنٹ میں مدد حاصل کرے، لیکن اس کے ساتھ ہی اس نے چیتن کیا ہے: "AI کا استعمال زیادہ طاقتور AI بنانے میں مدد کرنے سے کافی بڑے سیکیورٹی خطرات پیدا ہو سکتے ہیں، خاص طور پر جب یہ ترقی کو نمایاں طور پر تیز کر دے۔ یہ ایک ایسا شعبہ ہے جس پر ہماری 'ذمہ دارانہ توسیع کی پالیسی' لاگو ہوتی ہے، جس میں ہم اس بات کے لیے منصوبہ بند کرتے ہیں کہ جب ہم 'ریکرسو سلف ایڈجسٹمنٹ' کے قریب پہنچیں تو خطرات کا مشاہدہ اور ان کو کم کریں۔"
جب RSI کا لفظ اس سال کے شروع میں مقبول ہوا، تو بہت سے لوگوں کو لگا کہ یہ صرف ایک رائج الفاظ ہے، یا اکثر ایک انتہائی مشکل، حاصل کرنا مشکل، تعریف کرنا مشکل یا ثابت کرنا مشکل مقصد ہے۔
لیکن پیر کو، Anthropic نے اپنے "خرابیوں کے عوامل" حصے میں نئی بات شامل کی کہ 1) کمپنی نے AI کا استعمال کرتے ہوئے کچھ نئے ماڈلز تیار کر لیے ہیں، لیکن اس وقت ان کی صلاحیتوں میں بڑھوتے کا احساس نہیں ہوا تھا؛ 2) کمپنی جلد ہی اپنے اندر RSI کی تعریف تک پہنچ سکتی ہے (نیچے تاکید کے لیے موٹا کیا گیا ہے):
اس کے علاوہ، ہم اپنے ریسرچ اور ترقی کو تیز کرنے کے لیے AI سسٹمز کا استعمال بڑھا رہے ہیں، جس سے ہمارے ماڈلز کی صلاحیتیں اُن سلامتی، مطابقت اور محفوظ اقدامات کی ترقی، تصدیق اور نفاذ کی رفتار سے زیادہ تیزی سے بڑھ سکتی ہیں۔ اس لیے، ہم نے گزشتہ میں شاید اس تیز رفتار ترقی کو پہچان نہیں پایا ہوگا، اور مستقبل میں بھی شاید اس تیز رفتار ترقی کو اس کے واقع ہونے تک نہ پہچان پائیں۔
مثال کے طور پر، ہمارے مستقبل کے ماڈلز کے لیے داخلی تخمینوں اور توقعات، نہ کہ موجودہ ماڈلز کے جائزے، یہ ظاہر کرتے ہیں کہ ہم شاید “ذمہ داری سے وسعت پذیری کی پالیسی” میں “AI کے ذریعہ نمایاں تیزی سے ترقی” کی تعریف تک پہنچ رہے ہیں۔ ہم نے اب تک کوئی بھی موجودہ ماڈل اس حد سے آگے نہیں سمجھا ہے، اور ہم متعلقہ بنیادی ڈیٹا کا جائزہ لے رہے ہیں۔
تاہم، اینتھرپک نے دستاویز میں بھی کہا ہے کہ اب تک ان کا کوئی مدل بھی اس RSI حد تک نہیں پہنچا ہے، اور کمپنی نے قابلِ تصور مستقبل میں بھی انسانی شرکت کو ترقی کے عمل میں شامل رکھنے کا عہد کیا ہے۔ کمپنی کا کہنا ہے: "ہم یہ توقع رکھتے ہیں کہ جب تک معنی خیز انسانی نگرانی یا سمجھ کے بغیر، کلوڈ کو مکمل طور پر خودمختار طریقے سے اعلیٰ مدلز کی لگاتار نسلوں کو ڈیزائن اور تعمیر کرنے کے لیے محفوظ طریقے سے استعمال نہیں کیا جا سکتا، اور اگر اور جب یہ ٹیکنالوجی کے لحاظ سے ممکن ہو جائے تو بھی۔ اس لیے، ہم اینتھرپک کے اعلیٰ مدلز کی ترقی پر انسانی کنٹرول برقرار رکھنے کے لیے ذمہ دارانہ وسعت پالیسی میں اپڈیٹ کرنے پر غور کر رہے ہیں۔"
شک کرنے والے اس بات کو اٹھا سکتے ہیں کہ S-1 صرف ایک اطلاعاتی دستاویز نہیں بلکہ ایک مارکیٹنگ مواد بھی ہے، اور ایک ایسے ماڈل کا دعویٰ کرنا جو خود کو تعمیر کرنے کے قابل ہو، شاید اسی کی دوسری شکل ہو۔
تاہم، بے شک کلاؤڈ کی صلاحیتیں، خاص طور پر پروگرامنگ، ریاضی اور سائبر سیکیورٹی کے شعبوں میں، اس سال کافی ترقی کر چکی ہیں۔ اگر اینتھرپک کو لگتا ہے کہ RSI کی امکانات بہت قریب ہیں، تو ہمیں شاید اس بات پر اعتماد کرنا چاہئے اور اس کے مطابق کارروائی کرنی چاہئے—شاید متعلقہ حکومتی اقدامات بھی کرنے چاہئیں۔