اینٹروپک کے ایک محقق نے منگل کو استعفیٰ دے دیا اور جس وجہ کا انہوں نے ذکر کیا وہ جیمز کیمرن کی 1984 کی فلم "دی ٹرمینیٹر" سے سیدھا نکلی ہوئی لگتی ہے۔
جیکب کوکسن، جس نے OpenAI اور Anthropic دونوں پر پری ٹریننگ پر تین سال کام کیا، نے منگل کو استعفیٰ دے دیا اور اپنا فیصلہ X پر سمجھایا۔
میں آج اینتھرپک سے استعفیٰ دے دیا ہے۔ میں پچھلے تین سالز OpenAI اور اینتھرپک دونوں پر پری ٹریننگ تحقیق پر مصروف رہا۔ ان دونوں کمپنیاں ذمہ داری سے کام نہیں کر رہیں۔ وہ خود بہتر بننے والی سوپر انٹیلی جنس کی طرف بھاگ رہی ہیں اور ہماری زندگیوں کے ساتھ جوا لگا رہی ہیں،" اس نے کہا۔
اس نے کہا، "ای آئی بنانے والے لوگ ایمانداری سے یہ مانتے ہیں کہ اس کے ذریعے ہم سب کی موت ہو سکتی ہے، جب تک کہ دہائی ختم نہ ہو جائے۔"
یہ بیان کیمرن کی 42 سال پرانی فکشن کو تقریباً پیشگوئی جیسا بناتا ہے۔ فلم 2029 میں مشینوں کے انسانوں کے خلاف جنگ شروع کرنے کے ساتھ شروع ہوتی ہے، جو وہی لگ بھگ کا دورہ ہے جس کے بارے میں کوکسن کہتے ہیں کہ اندر والے خاموشی سے فکرمند ہیں۔ اینٹھروپک میں کیمرن کے ساتھ اس تباہی کا دعویٰ کرنے والا صرف وہ نہیں ہے۔ کمپنی کے اپنے الائنمنٹ لیڈ، ایون ہوبنگر، نے الگ طور پر کہا ہے کہ وہ اس کے امکانات 10 فیصد سے زیادہ رکھتے ہیں۔
جس نے شروع نہیں کیا، وہ سوپر انتہائی ذہین AI کا مطلب ہے ایک ایسا نظام جو تقریباً ہر چیز میں انسانوں سے زیادہ ذہین ہو، صرف شطرنج یا فوٹوز میں چھپے ہوئے بلیوں کو پکڑنے تک محدود نہیں۔ خود بہتری زیادہ فکر کا باعث ہے کیونکہ یہ ایک ایسے نظام کی وضاحت کرتی ہے جو اپنے اپنے کوڈ کو خود بخود تبدیل کرکے اپنی ذہانت بڑھاتا ہے—جیسے انسان کرتے ہیں۔
نتیجہ کے طور پر، یہ نظام خود کار طور پر وسیع مقدار میں علم حاصل کر سکتے ہیں اور 'بہت بڑے جو ناکام نہیں ہو سکتے' اداروں کی بنیادی ڈھانچے کو توڑ سکتے ہیں۔
اگر کاکسن کے ذریعہ شروع کی گئی حالیہ ہگنگ فیس بریچ کو دیکھا جائے تو سپر انٹیلی جنس ایک نظریاتی خطرہ نہیں ہے۔ بریچ خود، جو مئی اور جولائی کے درمیان پیش آئی، اوپن اے آئی کے اپنے اے آئی ایجنسز کے ذریعہ ٹیسٹنگ سینڈ باکس کے اندر ایک اپنا چیٹ روم بنانے سے شروع ہوئی تاکہ وہ ایک دوسرے سے بات چیت کر سکیں۔
وہ في النهاية استخدموا تلك القناة للالتفاف حول التحكم والوصول إلى الإنترنت المفتوح. ومن هناك، ربطوا عدة ثغرات ودخلوا أنظمة Hugging Face الإنتاجية. انتهى الأمر بـ Hugging Face بإعادة بناء حوالي ثلث بنية تحتيتها.
کوکسن نے اسے ایک "چेतاؤ کی گولی" کہا جس نے امریکی لیبز کے درمیان پیسنگ معاہدوں کو "زیادہ ممکن" بنایا ہے۔ پیسنگ معاہدے AI لیبز کے درمیان غیر رسمی سمجھوتے ہیں جن میں ایک طرف سے منفرد طور پر آگے بڑھنے کے بجائے صلاحیتوں میں ترقی کو سست کرنا یا ہم آہنگی کرنا شamil ہوتا ہے۔
تاہم، وہ یہ محسوس نہیں کرتا کہ یہ کافی ہے اور نہ ہی وہ محسوس کرتا ہے کہ “ہم عالمی مقابلے کو روکنے کے لیے راستے پر ہیں،” اور ای آئی مقابلے کو روکنے کے لیے “ماڈل کی صلاحیتوں کو بہتر بنانے پر عارضی پابندی” جیسے مہنگے اقدامات کی تجویز کی۔
"اوپن اے آئی میں، بہت سے لوگوں نے تہذیبی خطرات کو گہرائی سے نہیں سمجھا ہے،" اس نے لکھا۔ اس کے حالیہ ملازمت کے بارے میں، اس نے کہا کہ اس کا مطلب ہے کہ "خطرات اچھی طرح سے سمجھے جا رہے ہیں، لیکن وہ پہلے پہنچنے کے لیے دوڑ میں ہیں۔"
اس نے تھریڈ ختم کرتے ہوئے ابھی تک لیبز میں موجود سب کو سوال پیش کیا — "کیا آپ اس کے دماغ کی گہری سمجھ کے بغیر ایک سوپر انٹیلیجینٹ RL رن شروع کرنا چاہتے ہیں؟" — یا کیا اس نقطے پر آپ کو مجبور ہونے کے بجائے مزاحمت کرنی چاہیے اور خود کو یہ سمجھانے کے بجائے کہ یہ ہو رہا ہے؟
یہ اس معاملے پر نکل جانے والا پہلا شخص نہیں ہے۔ مِرننک شرما، جو اینتھروپک کی سیفٹی ٹیم میں کام کرتے تھے، اسی قسم کے خدشات کی وجہ سے اس سال پہلے استعفیٰ دے چکے ہیں، جس میں انہوں نے لکھا کہ "دنیا خطرے میں ہے۔"
تاہم، ہر کوئی تباہی کے پیش گوئی پر متقاعد نہیں ہے۔
اس کے تھریڈ کے تحت ایک جواب سیدھا سادہ بات کریں: "احترام کے ساتھ، یہ عجیب بات ہے۔ یہ ایک مضحکہ خیز نقطہ نظر ہے۔ انسانوں نے لاکھوں سالوں تک ترقی کی ہے۔ ہم اس لیے نہیں مرجائیں گے کہ ایک ٹوکن پیشگوئی ماڈل نے شعور حاصل کر لیا۔ اپنے دماغ کو سنبھال لیں۔ آپ سب۔"
مزید یہ بات دلچسپ ہے کہ ٹرمنیٹر فلم سیریز بھی کوکسن کی حمایت نہیں کرتی۔ ٹرمنیٹر میں نیوکلیئر قیامت کے بعد انسانیت ختم نہیں ہوتی، مزاحمت اس سے بچ جاتی ہے اور آخرکار مشینوں کو شکست دے دیتی ہے۔
اس کے باوجود، AI معیشت کو متاثر کر رہا ہے، خاص طور پر نوکریوں کے شعبے میں۔ جبکہ اب تک کوئی بڑا بے روزگاری نہیں ہوا ہے، لیکن AI کا جونیئر سطح کے کاموں میں استعمال AI سے متاثر شعبوں میں امریکہ میں انٹری لیول کی ملازمتوں میں تقریباً 20 فیصد کمی کا باعث بن چکا ہے، جس کی تحقیق استنفورڈ نے کی ہے Stanford Digital Economy Lab۔
گولڈمن سیکس کی ایک تحقیق نے بھی ایک مترادف مشاہدہ کیا ہے، جس میں کہا گیا ہے کہ شروعاتی سطح کے ملازمین اس تبدیلی کا سب سے زیادہ بوجھ اٹھا رہے ہیں۔
اینٹروپک نے جون میں آئی پی او کا دستاویز جمع کرایا اور اس کی رپورٹس ہیں کہ وہ اس خزاں کے شروع میں ہی نیکسڈاک پر اپنا ڈیبیو کرنا چاہتی ہے، جس کی قیمت تریلینز تک پہنچ سکتی ہے۔