اینثروپک میں تین سال تک ماڈل تربیت دینے والے تحقیق کار نے استعفیٰ دے دیا اور اپنی وجوہات کو ایسی جگہ پر لکھ دیا جہاں ہر کوئی دیکھ سکے 🧐 جیکب کوکسن، 27 سال کے۔ پہلے OpenAI میں، پھر Anthropic میں پری ٹریننگ کے شعبے میں کام کرتے رہے۔ جب وہ چلے گئے تو انہوں نے اپنا خلاصہ ایک جملے میں دیا: لیبز خود کو بہتر بنانے والے AI کی طرف دوڑ رہے ہیں، اور یہ سب ہماری زندگیوں کے ذریعے کر رہے ہیں۔ اصل بات اس کے بعد سے شروع ہوتی ہے 👇 اینثروپک کے الائنمنٹ سائنس کے ذمہ دار ایون ہوبنگر نے اس بات کی تصدیق کر دی۔ ان کا اندازہ: اگلے دس سالوں میں AI کا احتمال ہے کہ ہم سب کو ختم کر دے — اس کا امکان 10 فیصد سے زائد۔ وہ کہتے ہیں کہ موجودہ ماڈلز کے لیے خطرہ کم ہے، لیکن ان کا خوف تھا — خود کو بار بار بہتر بنانے والی صلاحیت۔ ایک کمپنی کے اپنے سیکورٹی ٹیم کے رکن نے اس بات کو علنی طور پر کہنا عام بات نہیں 😳 بحث کے دوران سیاست میں چلی گئی 🏛️ برنی سینڈرز اور گریگ کاسر نے 3 ستمبر کو Ban Artificial Superintelligence Act کا اعلان کر دیا تھا — جو پہلے سے میز پر تھا: سپر زکا کو مستقل طور پر منع کرنا، ایک نئے فیڈرل ادارے کا قیام، جب تک کہ سلامتی قوانین تحریر نہ ہو جائیں، عارضی توقف صرف سرحدی ماڈلز پر، خلاف ورزی پر تکرار تک 20 سال قید، اور کمپنیوں کے لیے اجباری تصفیہ۔ مخالف فریق بھی خاموش نہیں بیٹھا 🤨 استعفے کا وقت، پہلے حوالوں کا زیادہ تر اسی فنڈ سے مالی مدد حاصل کرنے والے پالسی تنظیموں سے آنا، اور بالکل اس منصوبے سے مطابقت — “�ہ فطرت سے نہیں، بلکہ رگڑ والوں کو پکڑنے کا منصوبہ ہے” — کہنے والوں کو حرکت میں لایا۔ تو یہاں دو کہانیاں ہیں: یا تو صنعت کے دل سے آنے والا اصل خطرہ، یا پھر مقابلین کو روکنے کے لیے قوانین بنانے والا آپریشن۔ دونوں اس وقت سچ ہونے کا امکان بھی موجود ہے۔ اس دوران، Anthropic نے آج تک اپنا سب سے تفصیلی خطرہ معلومات کا رپورٹ جاری کیا۔ ماڈلز کو سائبر حملوں، اثرات آپریشنز، اور نگرانی کے لئے غلط استعمال کرنے کی کوششوں کا ذکر ہے۔ بحث کس زمین پر چل رہی ہے، یہ جاننا چاہنے والوں کے لئے اچھا دستاوز 📄 آپ کو کون سا زیادہ منطقی لگتا ہے — سچّا انتباہ؟ یا اچھا تعمیر شدہ لوبّي؟ 🤔 اس مواد کا مقصد صرف معلومات فراہم کرنا ہے، سرمایہ کاری مشورہ یا سرمایہ کاری مشاورت نہیں۔