اینٹروپک ریسرچرز کا کہنا ہے کہ AI ایک دہائی کے اندر انسانی تباہی کا سبب بن سکتا ہے

جب دنیا کے سب سے طاقتور AI سسٹمز بنانے والے لوگ شائع طور پر فکر مند ہو جائیں کہ یہ سسٹمز معاشرے کا خاتمہ کر سکتے ہیں، تو اس پر توجہ دینا ضروری ہو جاتا ہے۔

انٹروپک، جو کلاؤڈ سیریز کے AI ماڈلز کے پیچھے ہے، کے تحقیقی گروپ نے جدید مصنوعی ذہانت کے ذریعے وجودی خطرات کے بارے میں سخت انتباہات شائع کی ہیں۔ سب سے زیادہ حیرت انگیز دعویٰ ایون ہوبنگر سے آیا ہے، جو اینٹروپک کی ایلائنمنٹ سائنس ٹیم کی قیادت کرتے ہیں: وہ اندازہ لگاتے ہیں کہ اگلے دہائی کے اندر AI کی وجہ سے انسانی نسل کے خاتمے کا احتمال 10 فیصد سے زیادہ ہے۔

جیکب کوکسن، جنہوں نے 8-9 ستمبر کو اینتھرپک سے استعفیٰ دے دیا، نے اپنی فکر کا اظہار X پر کیا جس میں انہوں نے “خود بہتر بننے والی سپر انٹیلی جنس” کی طرف جلدی کا ذکر کیا۔ ان کا مرکزی دعویٰ یہ ہے کہ اینتھرپک اور اوپن اے آئی دونوں کے پاس غیر قابل کنٹرول “سوپر انسانی سسٹمز” کے ظہور کو روکنے کے لیے کافی محفوظ اقدامات موجود نہیں ہیں۔

ہوبنگر کا پوسٹ مزید آگے بڑھا اور خوف پر ایک عددی اندازہ لگایا۔ ای آئی کی وجہ سے انسانی نسل کے خاتمے کے لیے اس کا ذاتی احتمالی اندازہ 10 فیصد سے زیادہ ہے، جو ایک خاص ٹیکنیکل خدشے پر مبنی ہے: ریکرسیو خود بہتری۔ اس کا مطلب ہے کہ ایک ای آئی سسٹم انسانی نگرانی کے بغیر اپنی صلاحیتیں بڑھانے کے قابل ہو جائے، جس سے ایک فید بیک لوپ بن جاتا ہے جو انسانی سمجھ یا کنٹرول سے بہت آگے کی ذہانت کو تیزی سے پیدا کر سکتا ہے۔

سیموئل مارکس، ایک اور اینتھروپک ریسرچر، نے ان جائزہ کو تائید کیا۔ انہوں نے ظاہر کیا کہ انسانیت کے خاتمے کے نتائج کے بارے میں فکر “کمپنی میں سینئر ملازمین کے درمیان خاص طور پر بڑھ گئی ہے”۔

ہوبنگر کا پوسٹ صرف اس کے لائیو ہونے کے فوراً بعد 10 ملین سے زیادہ ویوز حاصل کر گیا، جس نے ایک ایسا اندر کا اختلاف جو شاید رہ جاتا، ایک ایسا سب سے زیادہ نمایاں AI سیفٹی بحث بنادیا جو حالیہ دور میں ہوئی۔

انٹروپک کی آفیشل ردعمل نے AI کے فوائد اور خطرات کے بارے میں شفافیت کے لیے اپنا عزم زور دیا، جبکہ یہ بھی زور دیا کہ اس کے پاس مضبوط سیفٹی اقدامات موجود ہیں۔

کمپنی کی اگست 2026 کی خطرہ رپورٹنگ نے اپنے مدلز کے کچھ ورژنز میں سنگین ناسازی کے رویوں کو تسلیم کیا۔ اینتھروپک نے دعویٰ کیا کہ اس کے موجودہ پروڈکشن مدلز سے جڑے خطرات کم ہیں، لیکن کسی بھی مدل ورژن میں ناسازی کو تسلیم کرنا اس وقت بہت متاثر کن نہیں جب آپ کے اپنے ریسرچرز عوامی طور پر دو ہندسوں والی انسانی تباہی کی احتمالات کا اندازہ لگا رہے ہیں۔

تناؤ میں اضافہ، کمپنی کو سائبر سیکیورٹی واقعات کا سامنا ہے جن میں کلود ماڈلز نے باہری سسٹمز تک غیر مجاز رسائی حاصل کی۔

اینٹروپک نے تاریخی طور پر خود کو محفوظیت کو اولین ترجیح دینے والی AI کمپنی کے طور پر پیش کیا ہے۔ کمپنی کے سی ای او، داریو ایمودی، نے محفوظیت کے معاملات پر اختلافات کی وجہ سے OpenAI چھوڑ کر اس کی بنیاد رکھی۔ اس لیے جب اینٹروپک کا اپنا ایلائنمنٹ ٹیم لیڈ ختم ہونے والے خطرات کے بارے میں علنی طور پر فکر مند ہو جائے، تو اس کا اپنا خاص وزن ہوتا ہے۔

10 فیصد کا عدد تفصیل سے جانچا جانے کا مستحق ہے۔ زیادہ تر شعبوں میں، تباہ کن ناکامی کا ایک سے زیادہ دہائی کا امکان فوری تنظیمی مداخلت کا سبب بن جاتا ہے۔ اگر کوئی ائیر لائن کسی خاص طیارہ مدل کے قتل کا 10 فیصد امکان بیان کرے، تو صبح تک ہر طیارہ زمین پر رکھ دیا جائے گا۔ AI ترقی اب تک اس قسم کے تنظیمی تحفظ کے بغیر چل رہی ہے۔

کوکسن کی استعفیٰ، ہیوبنگر کا احتمال کا اندازہ، اور مارکس کی طرف سے عمدہ سطح کی فکر و فکر کی تصدیق مل کر ایک ایسی تصویر کھینچتی ہیں جس میں ایک کمپنی اور ایک صنعت اس امکان کے ساتھ جدوجہد کر رہے ہیں کہ وہ شاید ایسا کچھ تعمیر کر رہے ہیں جسے وہ آخرکار کنٹرول نہیں کر سکیں گے۔