ایک رات میں، سلیکون ویلی کے بڑے کمپنیاں AI کو روکنے کے لیے تیار ہو گئیں!
توہیں، OpenAI، Anthropic، Google جیسے بڑے کمپنیوں کے 1100 سے زائد مرکزی ملازمین نے مل کر "Pacing the Frontier" کی درخواست شروع کر دی ہے۔
اس فہرست پر دستخط کرنے والے افراد کی تعداد اتنی زیادہ ہے کہ آنکھیں چلی جائیں۔ اور یہ تعداد اب بھی بڑھ رہی ہے۔
دیکھنے پر، فہرست میں AI دنیا کا تقریباً نصف حصہ شامل ہے—
اوپن اے آئی کے سربراہ سائنسدان جاکوب پیچوکی، سربراہ تحقیق مارک چین؛
اینٹروپک کے سی ای او داریو ایموڈی، اور چار ملٹی کریٹرز جیرڈ کیپلان، جیک کلارک، کریس اوہا، بین مین؛
میٹا کے سربراہ سائنسدان شینگجیا زھاؤ (زھاؤ شینگجیا)، اے آئی تحقیق کے نائب صدر دان سنگ (سنگ شیاؤڈونگ)؛
تھنکنگ ماشینز کے سربراہ سائنسدان، چیٹ جی پی ٹی کے مرکزی قائم کنندگان میں سے ایک جان شولمان؛
گوگل کے AI سیکورٹی اور الائنمنٹ کے نائب صدر اینکا ڈراگن
ایک شمار کے مطابق، 46.2% دستخط کرنے والے Anthropic سے ہیں۔
اس مشترکہ خط میں صرف ایک درخواست کی گئی ہے—
ہم امریکی حکومت سے درخواست کرتے ہیں کہ وہ ایک بین الاقوامی تعاون کو فروغ دے: ضروری ٹیکنالوجی اور حکومتی اوزار ترقی دیں جس سے دنیا آگے کی آٹومیٹڈ AI ترقی کے رفتار کو سرگرمانہ طور پر کنٹرول کرنے کے قابل ہو سکے۔
شاید بہت سے لوگ سمجھ نہیں پا رہے ہیں کہ LLM کو لے کر سب سے زیادہ پاگل لوگ اچانک "درست رہو" کیوں کہتے ہیں؟
سیلیکون ویلی کے AI بڑے دماغوں کی مشترکہ درخواست: AI کو روکیں
اوپن اے آئی ماڈلز کا ہگنگ فیس کے 'انویژن' کی طرح ایک جاگنے کی گھنٹی ہے۔
صرف ایک ہفتے میں، 1132 سامنے والے AI بڑی کمپنیوں کے ملازمین نے مل کر امریکی حکومت کو "بریک لگائیں" کی درخواست کی۔
اس مشترکہ پروجیکٹ میں شرکت کرنے والے ملازمین، OpenAI، Anthropic، گوگل، Meta سمیت تقریباً 12 سرحدی ٹیکنالوجی کے بڑے کمپنیوں سے ہیں۔
زیادہ اہم بات یہ ہے کہ فہرست میں 80 فیصد لوگوں نے اپنا نام ظاہر کرتے ہوئے بیان دیا۔
پورٹل: https://www.pacingthefrontier.com/
شروع میں ذکر کیے گئے کچھ بڑے لوگوں کے علاوہ، نیچے اسکرول کریں تو ڈینسٹی اور زیادہ خوفناک ہے۔
یہ بیان ایک خبردار کرنے والے بنیادی جائزے کو پیش کرتا ہے:
عالمی سطح پر لیڈنگ AI کمپنیاں شاید 'آٹومیٹڈ AI ریسرچ' (RSI، ریکرسیو سلف-ایمپروومنٹ) کو حاصل کرنے کے قریب ہو چکی ہیں، جس میں ماڈلز اگلی نسل کے ماڈلز کے ترقی میں شامل ہوتے ہیں۔
جب یہ چکر تیز ہو جائے گا، تو صلاحیت کا اضافہ انسانی سمجھ اور کنٹرول کی رفتار سے زیادہ ہو سکتا ہے۔
کوئی بھی کمپنی اکیلے تیزی سے کم نہیں ہونا چاہتی، اس لیے وہ امریکی حکومت سے مطالبہ کرتی ہیں کہ وہ بین الاقوامی مکینزم بنانے میں مدد کرے، جس میں خطرہ آنے سے پہلے مشترکہ تیزی سے کم ہونے کے اوزار تیار کر لیے جائیں۔
اوتومان نے پہلی بار "جلد کے ساتھ جُڑی درد" پر بات کی
اوپن اے آئی فوری تھام لیا
اعلام جاری کیے جانے کے ایک ہفتہ پہلے، OpenAI نے ایک سیکیورٹی حادثہ کا اعلان کیا تھا—
کئی ایڈوانسڈ ماڈلز نے اپنے اندر سیکیورٹی ٹیسٹنگ میں زیرو ڈے وولنریبilities کو خود دریافت کیا، سینڈ باکس آئزولیشن کو توڑ دیا، اور آخر کار ہگنگ فیس کے پروڈکشن سسٹم میں گھس گئے اور ٹیسٹ جوابات چھین لیے۔
اوپن اے آئی اسے "بے مثال سائبر سیکیورٹی واقعہ" کہتی ہے۔
ماڈل نے بھاگنے کا ارادہ نہیں کیا، اس نے صرف ایک تنگ مقصد کو پورا کرنے کے لیے انتہائی توجہ دی اور ٹیسٹ ماحول کو ہی عبور کرنا سب سے زیادہ موثر راستہ پایا۔
آج ہی، اوپن اے آئی کے سی ای او اوتھمن نے علنا کیا کہ AI کے ترقی کی رفتار کو فعال طور پر کنٹرول کیا جانا چاہیے۔
وہ اس کے بارے میں دل سے ڈر کر کہتے ہیں، "یہ پہلا ایسا سیکورٹی واقعہ تھا جس نے مجھے براہ راست متاثر کیا۔ مجھے حیرانی ہو رہی ہے کہ اس بات کو زیادہ لوگ نہیں محسوس کر رہے۔"
ہگنگ فیس کی ہیکنگ کے باعث، اوپن اے آئی نے تربیت روک دی ہے۔
ایک ایسے ماحول میں جہاں کئی 0day کمزوریاں متصل طریقے سے استعمال کی جا رہی ہیں، ہمیں سینڈ باکس سیکورٹی کو مضبوط بنانے کے طریقے تلاش کرنے ہوں گے۔
ہمیں شاید AI کے ترقی کی رفتار کو کنٹرول کرنا پڑے، تاکہ سماج کو ان نئی صلاحیتوں کے حوالے سے دفاعی دیواریں مضبوط بنانے کے لیے کافی وقت مل سکے۔
اور اینتھرپک نے جون میں حکومت اور ڈیولپرز کے درمیان مشترکہ فیصلہ سازی کے نظام کی تجویز کی تھی، جس میں ضرورت پڑنے پر ترقی کو سست کیا جائے۔
اسی دوران، گوگل ڈیپ مائنڈ کے سی ای او حسابیس نے بھی بین الاقوامی نگرانی ادارہ قائم کرنے کا مطالبہ کیا تھا۔
گزشتہ تین سالوں میں، ان کمپنیوں نے طاقت، صارفین اور کمپیوٹنگ پاور پر شدید مقابلہ کیا۔
اس بار، ان کے سب سے اہم ٹیکنیکل ٹیم نے بے ترتیب کام کرنے والی کمپنی کو چھوڑ دیا اور پوری انسانیت کے فائدے کے لیے مل کر تیزی کو کم کرنے کا مطالبہ کیا۔
متفقہ خط: بڑے لوگوں کے اقوال
لکھنے تک، "Pacing the Frontier" فہرست میں 1134 افراد شامل ہو چکے ہیں۔
کئی صنعت کے بڑے چہرے بھی اپنی رائے رکھی اور کئی بہت گہری "بہترین تبصرے" چھوڑے۔ تمام تبصرے ذاتی طور پر کیے گئے ہیں اور ان کی کمپنیوں کی پالیسی کی نمائندگی نہیں کرتے۔
سونگ شیائودونگ (ڈاون سونگ) | میٹا AI کے تحقیق کے نائب صدر
سائبر جِم اور ایکسپلوٹ جِم کے نتائج سے پتہ چلتا ہے کہ سرحدی AI ایجینٹس اب حقیقی دنیا کے سافٹ ویئر کے خرابیوں کو دریافت کر سکتے ہیں اور ان کا استعمال کر سکتے ہیں — اگر مناسب تحفظ نہ ہو تو یہ بڑے پیمانے پر سائبر حملوں کا باعث بن سکتا ہے۔ بہت سے تحقیق کاروں کا توجہ ریکرسیو... پر ہے
سونگ شیائودونگ عالمی کمپیوٹر سیکورٹی اور AI سیکورٹی کے شعبے میں سب سے زیادہ اثرانداز شہریوں میں سے ایک ہیں، جنہوں نے تشنگوا یونیورسٹی سے فارغ التحصیلی حاصل کی ہے۔
ژاؤ شینگجیا (Shengjia Zhao) | میٹا کے سربراہ سائنسدان
AI سماج کے لیے شاید ابھی تیار نہ ہونے کی شکل میں تیزی سے آگے بڑھ رہا ہے۔ سب سے بہترین انسانوں کو تمام ذہنی اشاروں میں پار کرنے والے AI تک پہنچنا، اب بہت قریب ہے۔ اس سے بے مثال سماجی اور سلامتی کے خطرات پیدا ہوں گے۔ ایک مثبت مستقبل کو یقینی بنانے کے لیے، ہمیں AI کے ترقی کو ذمہ داری اور غور و فکر کے ساتھ چلانا ہوگا۔
کلہا کے فارغ التحصیل چاو شینجیا، میٹا کے سپر انسٹیلیجنس کے چیف سائنسدان مقرر ہو گئے! GPT-4 کے مرکزی کردار میں شامل، لیکن کے ساتھ برابری کرتے ہوئے
جون شولمان | تھنکنگ میشینز کے سربراہ سائنسدان، سابق OpenAI کے ماسہلک
میں نے دستخط کیے کیونکہ یہ بیان ایک ایسا اتفاق رائے قائم کرنے میں مدد کرتا ہے کہ جب خودکار AI تحقیق کا تیزی سے ترقی کا عمل جاری ہے، تو ہمیں تنظیمی مکینزم کی ضرورت ہو سکتی ہے۔ میں چاہتا ہوں کہ لیبز امریکی حکومت کے مداخلت سے پہلے خود بخود ان مکینزمز کی تعمیر شروع کر دیں۔
ایتھن پیریز | اینتھروپک کے الائنمنٹ ٹیم کے ہیڈ
موجودہ AI ترقی کے رفتار کے مطابق، AI کمپنیوں کے سیکورٹی ٹیمیں نئے سماجی خطرات سے نمٹنے کے لیے ہر کچھ ماہ بعد مکمل طور پر تیار ہوتی ہیں۔ ایک دن ہم ایسے مسائل سے ملیں گے جن کا حل کرنے کے لیے زیادہ وقت درکار ہوگا۔
لیو گاؤ | OpenAI ٹیکنالوجی ٹیم کا رکن
دُنیا ایک مہلک مقابلے میں قید ہے جس کا مقصد ذہنی انفجار تک پہنچنا ہے — AI کی طرف سے زیادہ طاقتور AI بنانے کی صلاحیت اب ایک ناگہانی حد تک پہنچ رہی ہے، جیسے کہ کنٹرول سے باہر ہو چکا نیوکلیئر زنجیری رد عمل۔ رفتار کم کرنا ہمیں ضروری وقت فراہم کرے گا تاکہ چیزیں بہتر سمت میں جائیں، لیکن کوئی بھی شرکاء اکیلے تھام نہیں رہے۔ زندہ رہنے کے لیے، ہمیں اس مقابلے کو ساتھ مل کر سست کرنا ہوگا۔
ویلکر اسمتھ｜میٹا کے ڈیٹا انجینئر
ہاسبیس کہتے ہیں کہ ہم آج سینٹر کے پاؤں پر کھڑے ہیں۔ OpenAI کا وہ غیر متوقع ماڈل فرار — جس نے HuggingFace پر حملہ کر دیا — ایک واضح اور ناپید ثابت شدہ انتباہ ہے: ہم انسانی دماغ سے زیادہ طاقتور AI سسٹم کے لیے تیار نہیں ہیں۔ ہمیں وقت درکار ہے تاکہ AI کو مطابقت اور کنٹرول کو اولین ترجیح بنایا جا سکے، اور اس مقابلے کو مزید آگے نہ بڑھایا جائے۔
برینڈن ہوٹن｜اوپنای آئی
میں انسانوں کو اگلے سطح کے AI پر کنٹرول رکھنے کی حمایت کرتا ہوں، لیکن ہمیں یہ سوچنا چاہیے کہ یہ کیسے کیا جائے۔ اگر حکومت صرف عوامی ماڈلز تک محدود رہی، تو اس سے اعلیٰ ترین صلاحیتیں نجی یا مخصوص نظاموں میں دھکیل دی جائیں گی—جو مستقل جانچ کے تحت نہیں ہوتیں اور صرف کچھ لوگوں تک محدود ہوتی ہیں۔ اس کا نتیجہ طاقت کا مزید مرکزیکرن ہوگا، جبکہ خطرات میں کوئی اہم کمی نہیں آئے گی۔ مؤثر تنظیم قابل پیمائش، قابل تصدیق ہونی چاہیے، اور عوامی اور غیر عوامی تحقیق دونوں میں ایک جیسے طور پر لاگو ہونی چاہیے، جبکہ حساس ڈیٹا کا تحفظ بھی برقرار رکھا جائے۔ ورنہ، ہم صرف حصول کی رفتار کو ہی سست کر رہے ہیں، نہ کہ اگلے سطح کے خود کو روک رہے ہیں۔
جو کارلسمیت | Anthropic ٹیکنالوجی ٹیم کا رکن
میری متحرک AI ترقی پر تفصیلی رائے کے لیے، اس مضمون کو دیکھیں: https://joecarlsmith.com/2026/03/19/on-restraining-ai-development-for-the-sake-of-safety/
حوالہ جات:
https://www.pacingthefrontier.com/
یہ مضمون ویچن گروپ "نیوزی یوان" سے ہے، ایڈیٹر: تاؤزی، مارکو