برڈجیٹ ویٹر کے گریگ جینسن نے چیتنائی کو ریگولیٹرز کے کام کرنے سے پہلے لوگوں کو مارنے کی ضرورت ہو سکتی ہے، اس بات کی چेतاؤ دیا

گریج جینسن، بریج ویٹر ایسوسی ایٹس کے ملٹی چیف انویسٹمنٹ آفیسر، نے 11 ستمبر کو AI کے تنظیم کے بارے میں اب تک کا سب سے اندھیرا جائزہ پیش کیا۔ ان کا مرکزی دعویٰ: تاریخ سے پتہ چلتا ہے کہ حکومتیں تب تک کام نہیں کرتیں جب تک کہ کچھ واقعی بہت بدتر نہ ہو جائے۔

"جب تک AI لوگوں کو مارنا شروع نہیں کرتا، افسوس کی بات ہے کہ تاریخ کہتی ہے کہ ہم کچھ نہیں کریں گے،" جینسن نے کہا، اور موجودہ لمحے کا موازنہ فروری 2020 سے کیا جس وقت کووڈ-19 پہلے ہی عالمی سطح پر پھیل رہا تھا لیکن زیادہ تر حکومتوں نے ابھی تک جوابی اقدامات نہیں کیے تھے۔

جینسن کے تبصرے نے ایک ایسے دنوں کا خاتمہ کیا جن میں AI کی ترقی کے رخ کے بارے میں کئی اہم شخصیات نے شدید فکر کا اظہار کیا۔ 9 اور 10 ستمبر کو، اینٹروپک کے محققین، جیکب کوکسن اور ایون ہوبنگر سمیت، AI تحقیق کی موجودہ رفتار کے بارے میں سخت انتباہات جاری کیں۔

کوکسن نے اس دوران اینتھرپک سے استعفیٰ دے دیا، جس میں وہی خطرات بیان کیے جو انہوں نے اندر سے مطالعہ کیے تھے۔ دونوں محققین نے چیتن کیا کہ شعبے کی موجودہ راہ ہمیشہ خود بہتر بننے والی سپر انٹیلی جنسز پیدا کر سکتی ہے، وہی نظام جو صرف ہدایات پر عمل نہیں کرتے بلکہ اپنی صلاحیتیں خود دوبارہ لکھتے ہیں۔

ان کا اندازہ دردناک تھا: اگلی دہائی کے اندر AI سے انسانی ماتم کی احتمال 10 فیصد سے زیادہ۔

جینسن نے سفارش کی کہ اگر کوئی فعال اقدامات نہیں کیے گئے، تو اگلے دو سالوں کے اندر ایک بڑا AI سے متعلق واقعہ پیش آ سکتا ہے۔

9 اور 10 ستمبر کو، ریپ۔ لوری ٹرہان اور سینیٹر تیڈ کروز سمیت امریکی کانگریس کے ارکان نے قانونی اقدامات کی درخواست کی، جس میں AI ڈویلپرز سے شفافیت کا تقاضا کیا گیا اور اعلیٰ خطرہ والے ماڈلز کے لیے فوری روک تھام کے مکینزمز متعین کیے گئے۔

یہ تجاویز ایک اقوام متحدہ کے مستقل پینل کے کام پر مبنی ہیں، جس نے جولائی میں ایک رپورٹ جاری کی جس میں AI کے صلاحیتوں کے تیزی سے بڑھنے کو اٹھایا گیا۔ پینل کا مرکزی نتیجہ ناگوار تھا: AI، سائنسی سمجھ اور حکومتی پالیسی دونوں سے زیادہ تیزی سے آگے بڑھ رہا ہے۔

یونائٹڈ نیشنز کا پینل خاص طور پر دھوکہ دہی یا ایجنٹ سسٹم کے غیر مقصودی ترقی کے بارے میں انتباہ کیا، جس میں AI اپنے مقاصد کو خودکار طور پر حاصل کر سکتا ہے اور اس کی نگرانی کرنے والے انسانوں کو ممکنہ طور پر گمراہ کر سکتا ہے۔