اینٹروپک پر پری ٹریننگ پر کام کرنے والے ایک 27 سالہ برطانوی ریسرچر نے علنا استعفیٰ دے دیا ہے اور چेतاؤ دیا ہے کہ ریکرسیو خود بہتر بنانے والے AI کی تعمیر کے لیے دوڑ اس دہائی کے اختتام تک انسانی ماتم کا سبب بن سکتی ہے۔
جیکب کوکسن نے دنیا کی ایک سب سے prominent AI سیفٹی کمپنی سے ستمبر 8-9 کے درمیان چلے گئے، اور ان کا الوداع کا پیغام "جذبہ انگیز نئے مراحل" کے بارے میں ایک پسندیدہ لینکڈ ان پوسٹ نہیں تھا۔ یہ ایک انتباہ تھا کہ ان نظاموں کو تعمیر کرنے والے لوگ حقیقت میں یہ سمجھتے ہیں کہ وہ تباہ کن نتائج پیدا کر سکتے ہیں، اور باتوں کو کنٹرول سے باہر جانے کا وقت اگلے سال تک ہو سکتا ہے۔
اندر کا ایلرم
کوکسن کی استعفیٰ کو خاص طور پر نظرانداز کرنا مشکل اس لیے ہے کہ اس کے بعد کیا ہوا۔ اینتھرپک کے اپنے ہی ساتھیوں نے اس کے ساتھ علناً اتفاق کرنا شروع کر دیا۔
ایوان ہوبنگر، جو اینثروپک میں ایلائنمنٹ سائنس لیڈ کا درجہ رکھتے ہیں، نے سوشل میڈیا پر کاکسن کے دعوؤں کی تائید کی۔ ان کا ذاتی اندازہ: اگلے دہے میں AI کی وجہ سے بڑے پیمانے پر انسانی موت کا احتمال 10 فیصد سے زیادہ ہے۔
ہوبنگر نے مزید آگے بڑھتے ہوئے تسلیم کیا کہ اینتھرپک کے پاس سوپر انٹیلیجینٹ سسٹمز کے ساتھ مطابقت کو یقینی بنانے کا کوئی واضح منصوبہ نہیں ہے۔
سیموئل مارکس، ایک اور اینتھروپک ریسرچر، نے متشابہ فکر کو دہرایا اور سuggest کیا کہ کمپنی کے سینئر ملازمین خاص طور پر وہن کے خطرات کے بارے میں فکرمند ہیں۔
کوکسن نے AI ترقی کے دائرے میں "کرانچ ٹائم" اور "اینڈ گیم" جیسے الفاظ کے استعمال کو خصوصی طور پر تنقید کا نشانہ بنایا۔ یہ الفاظ سوپر انٹیلی جنس کی تلاش کو ایک فوری اور لازمی چیز کے طور پر پیش کرتے ہیں، ایک جیتنے کے لیے مقابلہ کے بجائے ایک انتظام کرنے کے قابل خطرہ کے طور پر نہیں۔ اس طرح کا تناظر، اس نے استدعا کیا، مسئلے کا ایک حصہ ہے۔
خروج کا ایک نمونہ
کوکسن Anthropic چھوڑنے والے پہلے محفوظیت پر مبنی تحقیق کار نہیں ہیں جن کو کمپنی کی سمت کے بارے میں فکر ہے۔ مرنک شرما، جو کمپنی کی سیف گارڈز تحقیق ٹیم کی قیادت کرتے تھے، نے فروری 2026 میں استعفیٰ دے دیا۔ شرما نے AI اور جاندار ہتھیاروں کے زبردست خطرات کا اشارہ کیا، اور ایسے باہری دباؤوں کا ذکر کیا جن کے باعث کمپنی کا اخلاقی رویہ متاثر ہو رہا تھا۔
مذاق بہت گہرا ہے۔ اینتھروپک کی بنیاد سابقہ OpenAI اسٹاف، جن میں سی ای او داریو ایموڈی کی بھی شامل ہے، نے اس لیے رکھی کہ وہ محسوس کرتے تھے کہ OpenAI سیفٹی کو کافی سنجیدگی سے نہیں لے رہا تھا۔ اسے سیفٹی پہلے والی متبادل کے طور پر بنایا گیا تھا۔ اب اس کے اپنے سیفٹی ریسرچرز چلے جا رہے ہیں کیونکہ وہ محسوس کرتے ہیں کہ اینتھروپک بھی سیفٹی کو کافی سنجیدگی سے نہیں لے رہا۔
مقابلہ کا تیز کرنے والا
کوکسن کی چیتن نے خاص طور پر بین الاقوامی مقابلہ کو ایک عامل کے طور پر نشان زد کیا جس سے صورتحال مزید خراب ہو رہی ہے۔ مقابلہ، خاص طور پر چینی AI لیبز سے، کے ساتھ قدم رکھنے کا دباؤ ایسا ماحول پیدا کرتا ہے جہاں حفاظت کو درست طریقے سے حاصل کرنے کے لیے رکنا ایک طرف سے ہتھیار ڈالنے جیسا محسوس ہوتا ہے۔