انٹروپک فیبل AI ماڈل کے خلاف حکومتی مخالفت کا سامنا کر رہا ہے

لکھنے والہ: بن تھامسن

ترجمہ: شن چاؤ ٹیک فلو

شین چاؤ کا خلاصہ: اینتھروپک کا نیا ماڈل فیبل صرف دو ماہ کے بعد امریکی حکومت کے ذریعہ فوری طور پر روک دیا گیا، جس کا ظاہری سبب "سیکورٹی بریچ" ہے، لیکن اس سے AI لیبارٹریز اور حکومت، اور سافٹ ویئر صنعت کے درمیان دوہری جنگ کا اظہار ہوتا ہے۔ یہ کمپنی جو "سیکورٹی" کو اپنا بڑا دعویٰ بناتی ہے، اس کا مقصد سیکورٹی کے نرخ کو اپنے تجارتی فائدے کے لیے استعمال کرنا ہے، اور وہ حقیقت میں مائکروسافٹ جیسی کمپنیوں کے پاس موجود صارفین کے ڈیٹا پر قبضہ کرنا چاہتی ہے۔

میں ان مزاحیہ لوگوں کے موقف کو سمجھتا ہوں، جو ہمیشہ سوچتے ہیں کہ Anthropic کے علیحدہ اعلانات — خاص طور پر ماڈل جاری کرتے وقت کے بیانات — مارکیٹنگ کے لیے خوف پھیلانے کے لیے ہیں۔ دو ماہ پہلے Anthropic نے Mythos Preview کا اعلان کیا، اور دعویٰ کیا کہ یہ ماڈل بہت خطرناک ہے اور اسے عوامی طور پر جاری نہیں کیا جا سکتا، خاص طور پر اس کی طاقتور سائبر سیکورٹی صلاحیتوں کے باعث۔ پھر دو ماہ بعد، کمپنی نے Fable کو عوامی طور پر جاری کیا، جو Mythos کا وہ ورژن ہے جس میں مختلف سیکورٹی گارڈریلز شامل ہیں۔

میرے محدود تجربے کے مطابق، فیبل واقعی ایک بہت ہی عالی مدل ہے۔ اب پروگرامنگ کی صلاحیت کے علاوہ مدلز کا جائزہ لینا مشکل ہو گیا ہے، لیکن ذاتی احساسات اب بھی موجود ہیں؛ میں نے فیبل کے ساتھ تعامل کا تجربہ بہت عالی پایا؛ اس نے دوسرے تمام مدلز، جن میں GPT 5.5 اور Opus 4.8 بھی شامل ہیں، کو چھوٹا اور بے وقوف بنادیا۔ میرے پاس صرف دو بار ایسا احساس ہوا تھا، ایک بار GPT-4 کے ساتھ اور دوسری بار Grok 4 کے ساتھ، جو دونوں بنیادی مدل کے سائز اور پیچیدگی کی نئی نسل کی نمائندگی کرتے ہیں؛ مجھے لگتا ہے کہ فیبل نئے پری ٹریننگ سے نکلا ہے اور یہ نئی نسل کا پہلا مدل ہے۔

اس لیے، میں مکمل طور پر قبول کرتا ہوں کہ Fable/Mythos سیکورٹی مسائل کی شناخت اور استعمال میں حقیقت میں زیادہ طاقتور ہے، اور Anthropic کا احتیاط سے جاری کرنا منطقی ہے۔ لیکن ماڈل کو علنا جاری کرنے کا مسئلہ یہ ہے کہ گارڈریلز کو بائی پاس کیا جا سکتا ہے، جو واضح طور پر جاری کرنے کے فوراً بعد ہو گیا۔

اگلی بات کچھ واضح نہیں ہے۔ Anthropic نے اپنے بلاگ پوسٹ میں لکھا:

امریکی حکومت نے قومی سلامتی کے اختیارات کا استعمال کرتے ہوئے برآمد کنٹرول کے حکم جاری کیے ہیں، جس کے تحت Fable 5 اور Mythos 5 تک تمام خارجی شہریوں کی رسائی، چاہے وہ امریکہ کے اندر ہوں یا باہر، بشمول Anthropic کے غیر ملکی ملازمین، روک دی گئی ہے۔ اس حکم کا عملی اثر یہ ہے کہ ہمیں مطابقت کو یقینی بنانے کے لیے Fable 5 اور Mythos 5 تک تمام صارفین کی رسائی فوراً بند کرنا پڑے گا۔ Anthropic کے دیگر تمام ماڈلز تک رسائی متاثر نہیں ہوئی ہے۔

ہم نے آج مشرقی وقت کے دوپہر 5:21 بجے حکومتی ہدایات حاصل کیں۔ خط میں قومی سلامتی کے خدشات کے متعلق کوئی تفصیلات فراہم نہیں کی گئیں۔ ہم سمجھتے ہیں کہ حکومت کو یہ لگتا ہے کہ Fable 5 کو چھوٹنے یا "جاری" کرنے کا طریقہ دریافت ہو گیا ہے۔ ہم نے اس خاص ٹیکنالوجی کا استعمال کرتے ہوئے کچھ معلوم چھوٹے خامیوں کی شناخت کرنے والے ڈیمو کا جائزہ لیا۔ ان خامیوں کا ظاہر ہوتا ہے کہ وہ نسبتاً آسان ہیں، اور ہم نے پایا کہ دیگر عوامی طور پر دستیاب ماڈل بھی انہیں تلاش کر سکتے ہیں بغیر کسی چھوٹنے کے۔

اینثرپک نے دلیل دی کہ غیر جامع جیل توڑنا ناگزیر اور محدود ہے، اور جامع جیل توڑنے کا کوئی ثبوت نہیں ہے؛ جو جیل توڑنے کی اطلاعات ملی ہیں وہ ایمازون کی رپورٹس ہیں، جو قابل توجہ ہیں کیونکہ ایمازون اینثرپک کا سرمایہ کار اور کمپنی کے ریزننگ سروسز کا اہم فراہم کنندہ دونوں ہے۔ جب میں یہ مضمون لکھ رہا تھا، تو اینثرپک کے اعلیٰ افسران واشنگٹن ڈی سی میں تھے، جو اپنے دعوے کو درست کرنے کی کوشش کر رہے تھے کہ یہ ایک غلط فہمی تھی، جبکہ وائٹ ہاؤس افسران نے اسے کمپنی کے لیڈرشپ کی قانونی قومی سلامتی کے خدشات کے لحاظ سے بے پرواہی کا اشارہ قرار دیا۔

چونکہ بہت سے حقائق پر اختلاف ہے، اس لیے میں موجودہ تنازع کے بارے میں کچھ مزید نہیں کہہ سکتا؛ لیکن میں یہ تنازع کے ہونے سے حیران نہیں ہوں: میں نے اپنے مضمون "Anthropic اور ایلائنمنٹ" میں وضاحت کر دی ہے کہ امریکی حکومت اور Anthropic کے درمیان تنازع ناگزیر ہے۔ اس حوالے سے، جو لوگ سمجھتے ہیں کہ Mythos ابھی تک اتنی طاقتور نہیں کہ حکومت کو شدید اقدامات کرنے کی ضرورت ہو، وہ اصل نکتہ چوکھٹ کر رہے ہیں: اگر ابھی تک کافی طاقتور نہیں، تو اگلی یا اس کے بعد والی ہوگی، خاص طور پر اب جب ماڈلز اپنے جانشین بنانے میں زیادہ مددگار ہو رہے ہیں۔

تاہم، یہ ایک اور سوال کو جنم دیتا ہے — ایک ایسا سوال جو مزاحیہ لوگوں کے نقطہ نظر کی تصدیق کرتا ہے: اگر مائتھوس اتنے خطرناک ہیں، تو پھر Fable کو شروع کیوں کیا گیا، اور آپ جو کرنے کا دعویٰ کرتے ہیں اس کے لیے حکومت کے خلاف کیوں کام کیا گیا؟ درحقیقت، میرے خیال میں Anthropic کا رویہ بالکل سمجھ میں آتا ہے؛ کمپنی کی منفرد بات یہ ہے کہ وہ ان اقدامات کے لیے کیسے دلائل پیش کرتی ہے، جن دلائل نے مزاحیہ لوگوں کو ایندھن فراہم کیا اور Anthropic کو جادو بھی دیا۔

AI کے ابتدائی سالوں میں زیادہ تر مالی قیمت کی توجہ کمپوٹیشنل پاور کی طرف گئی، کیونکہ مانگ کے مقابلے میں پیشکش کم تھی، جس کا نتیجہ قیمتیں بلند ہونا تھا؛ سب سے بڑے فائدہ اٹھانے والے نوڈیا، TSMC اور میموری سازان (SK ہائیٹیکس، سامسنگ اور میکرون) تھے۔ اس کے برابر، Anthropic اور OpenAI نے اعلیٰ ماڈلز تعمیر کرنے کے لیے مل کر سو بیلین ڈالر کے نقصان کا سامنا کیا، اور جب یہ ماڈلز جاری ہوئے تو انہیں خاص طور پر چین سے آنے والے اوپن سورس ماڈلز کے ذریعہ ڈسٹل اور مصنوعات میں تبدیل کر دیا گیا۔

یہ لیب کی مایوس کن صورتحال کو ظاہر کرتا ہے — کہ وہ کبھی بھی اپنے اخراجات کو پورا نہیں کر پائیں گی کیونکہ ان کی تفریقی صلاحیتیں عارضی ہیں اور مفت متبادل "کافی اچھے" بن جاتے ہیں — مجھے لگتا ہے کہ یہ منطقی ہے۔ ایک دنیا جہاں ماڈلز قابل تبادلہ ہیں، ماڈلز مال ہوتے ہیں اور زیادہ تر قیمت دوسری جگہوں پر جاتی ہے۔ اب یہ کمپوٹنگ پاور ہے، لیکن وقت کے ساتھ، جب ہمارے پاس کافی کمپوٹنگ پاور ہو جائے گی، تو ویلیو چین میں سب سے قیمتی جگہ وہی رہے گی جو ہمیشہ سب سے قیمتی رہی ہے: صارف تک رسائی رکھنا۔

اس لیے، میرے لیے ہمیشہ واضح رہا ہے کہ فرانتیر لیب کو صارفین کے قریب آنے کی معاشی ضرورت ہے۔ اگر آپ کے پاس صارف تک رسائی کے نقاط ہیں، تو آپ کے پاس معنی خیز انحصار ہے، اور صارف تک رسائی کے نقاط حاصل کرنے کا بہترین طریقہ یہ ہے کہ آپ ان کے لیے جو بھی کرنا ہو، اس کا ماحول بن جائیں۔ اس سے یہ نکلتا ہے کہ فرانتیر لیب نرم افزار کمپنیوں کے ساتھ تنازعے میں گھل رہا ہے: کیا نرم افزار صارف تک رسائی کے نقاط رکھتا ہے، اور فرانتیر لیب کا طویل مدتی مفاد صرف نرم افزار کا ایک سادہ مصنوعات ان پٹ بننا نہیں، بلکہ نرم افزار کو براہ راست بدلنا ہے۔

اسی دوران، سافٹ ویئر کمپنیاں اس کے بالکل برعکس کرنے کی کوشش کر رہی ہیں۔ ساتیا نیدھلا نے ایک X پر مضمون میں اپنی یہ ویژن بیان کی ہے کہ کمپنیاں ماڈلز پر کیسے بنائیں:

ہر کمپنی کو میں جو انسانی سرمایہ اور ٹوکن سرمایہ کہتا ہوں، ان دونوں کو تعمیر کرنا ہوگا۔ انسانی سرمایہ میں اس کے ملازمین کی علم، فیصلہ سازی، تعلقات، ابتکار اور ماڈل شناخت شامل ہے، جبکہ ٹوکن سرمایہ کمپنی کی تعمیر کردہ اور ملکیت والی AI کی صلاحیت ہے۔ اہم بات یہ ہے کہ جب ٹوکن سرمایہ بڑھتا ہے، تو انسانی سرمایہ کم قیمتی نہیں ہوتا۔ یہ صرف زیادہ قیمتی ہوتا جا رہا ہے! میرا خیال ہے کہ انسانی پہل ٹوکن سرمایہ کے بڑھنے کا محرک ہوگی۔ انسان اعلیٰ مقاصد طے کریں گے، مختلف شعبوں میں نقاط کو جوڑیں گے، تعلقات قائم کریں گے، اور سب سے اہم ماڈلز کو شناخت کریں گے۔ انسانی رہنمائی کے بغیر، آپ کا کمپوٹیشنل طاقت خالی میں گھوم رہا ہے۔

اس کا مطلب یہ ہے کہ اصل موقع اس بات میں نہیں کہ آپ بہترین ماڈل منتخب کریں، بلکہ ماڈل کے اوپر ایک سیکھنے کا حلقوں کا نظام تعمیر کرنا ہے جس سے انسانی سرمایہ اور ٹوکن سرمایہ دونوں کا فائدہ مرکب طور پر بڑھے۔ آپ ایک کام یا حتیٰ کہ ایک نوکری آؤٹ سورس کر سکتے ہیں، لیکن آپ اپنا سیکھنا کبھی بھی آؤٹ سورس نہیں کر سکتے۔ کمپنیوں کا مستقبل اس بات پر منحصر ہے کہ وہ اس سیکھنے کو انسان اور AI کے درمیان مرکب فائدہ دینے کی صلاحیت رکھیں۔ اس کے لیے ایک نئی ڈھانچہ کی ضرورت ہے جس سے ہر کمپنی وقت کے ساتھ بہتر ہونے والے ایجنٹ سسٹم تعمیر کر سکے، جبکہ اپنے ملکیت کے حقوق پر کنٹرول برقرار رکھے۔ کمپنیوں کو "جنرل" ماڈلز کو تبدیل کرنے کی اجازت ہونی چاہیے، بغیر اپنے سیکھنے کے نظام میں شامل "کمپنی کے ورلڈ" کی مہارت کو ضائع کئے۔ یہ مستقبل کے دور میں آپ کے کنٹرول اور س sovereignty کا اہم "ٹیسٹ" ہے۔

نادرلا نے اس خیال کو ایک انتباہ کے ساتھ شروع کیا:

ہم جو کچھ نہیں چاہتے وہ ایک ایسا دنیا ہے جہاں ہر صنعت کی ہر کمپنی اپنا اقدار کچھ معدود، سب کچھ نگل لینے والے ماڈلز کو دے دے۔ اگر تمام اقدار صرف کچھ معدود ماڈلز کے پاس جا رہے ہیں، تو سیاسی معیشت اسے برداشت نہیں کرے گی۔ پورے صنعت کو خالی کرنے والے AI کے مستقبل کو معاشرہ اجازت نہیں دے گا۔

سوچیں کہ جب عالمیکرنش کا پہلا مرحلہ ہوا، تو پورا صنعتی معاشی نظام باہر کی طرف منتقل ہو گیا۔ سطحی طور پر جی ڈی پی کے اعداد و شمار اچھے لگ رہے تھے، لیکن بے گھر ہونا حقیقی تھا اور اس کے نتائج آج بھی محسوس کیے جا رہے ہیں۔ آئیے اسی طرز کو AI دور میں نہ لائیں، جہاں کچھ AI سسٹم تمام معاشی منافع حاصل کر لیں اور پورے صنعتی شعبے کو احساس ہو کہ ان کا علم ان کی آنکھوں کے سامنے مصنوعات میں تبدیل ہو گیا۔

اس تشبیہ کی پریشانی یہ ہے کہ عالمیکریشن واقعی ہو چکی ہے، اور صنعتی معیشتیں واقعی خالی ہو چکی ہیں۔ یہ انتباہ نہیں بلکہ پیش گوئی ہو سکتی ہے؛ اس لیے نادیلا کا انتباہ دینا قابل فہم ہے کیونکہ مائیکروسافٹ بھی اس کا شکار ہو سکتا ہے۔ اسی طرح، ماڈل کے سازوں کی معاشی ضرورت بھی اسے حاصل کرنا ہے۔

یہ ماڈلز — حتی کہ مائیتھوس — ابھی اس مرحلے تک نہیں پہنچے ہیں۔ انہیں صرف زیادہ کمپوٹیشنل طاقت کے علاوہ زیادہ اور بہتر ڈیٹا کی ضرورت ہے۔ ماڈل میں بہتری کا زیادہ تر ذریعہ تقویت سیکھنے سے آ رہا ہے؛ کچھ کو صنعتی طور پر تخلیق کیا جا سکتا ہے، لیکن سب سے زیادہ طاقتور اثر حقیقی دنیا کے استعمال پر ہے۔

میں سمجھتا ہوں کہ یہی وجہ ہے کہ OpenAI اور Anthropic دونوں بڑے سبسکرپشن پلانز فراہم کر رہے ہیں۔ SemiAnalysis نے حال ہی میں اندازہ لگایا ہے کہ 200 ڈالر کا پلان آپ کو 8000 ڈالر کے Claude ٹوکن اور 14000 ڈالر کے Codex ٹوکن فراہم کرتا ہے۔ بالکل، دونوں صرف صارفین اور ڈویلپرز کے دلوں اور ذہنوں کے لیے مقابلہ نہیں کر رہے، بلکہ ماڈلز کو بہتر بنانے کے لیے حقیقی استعمال کے ڈیٹا تک رسائی بھی حاصل کر رہے ہیں۔

اینٹروپک نے فیبل پر بڑے پیمانے پر سرمایہ کاری کی ہے اور اعلان کیا ہے کہ وہ تمام استعمال شدہ ڈیٹا کو 30 دن تک محفوظ رکھیں گے، یہاں تک کہ پہلے صفر ڈیٹا محفوظ رکھنے کے عہد کے ساتھ آنے والے کاروباری منصوبوں کے لیے بھی۔ کمپنی کا کہنا ہے کہ وہ ان ڈیٹا کو تربیت کے لیے استعمال نہیں کریں گے، لیکن وہ مستقبل میں ایسا کرنے سے روکنے کے لیے کوئی ضمانتی تدابیر نہیں رکھتے (جیسے ڈیٹا کو تیسری فریق میں محفوظ کرنا)۔ اگر یہ پالیسی میں تبدیلی (جب فیبل دوبارہ شروع ہو) بڑی تعداد میں صارفین کو ضائع نہ کرتی، تو میں شک کرتا ہوں کہ وہ ڈیٹا استعمال شروع کرنا صرف ایک سوالِ وقت ہے: ان کے آخری مقصد کے لیے یہ بہت قیمتی ہے۔

اس کے علاوہ، صارف کے نقطہ تک رسائی کے لیے اوپر کی طرف جانے والے مثبت حلقوں کو بھی نوٹ کریں: جتنا زیادہ کام Claude یا Codex کے ذریعہ براہ راست مکمل ہوگا، اتنی ہی زیادہ ڈیٹا کی فراہمی ہوگی جسے ہر کمپنی اپنے تربیتی مراحل میں واپس استعمال کر سکتی ہے، جس سے ان کے پروڈکٹس زیادہ طاقتور اور مفید بن جاتے ہیں، جس سے وہ خدمت فراہم کرنے کے قابل کام کے عمل کی تعداد بڑھ جاتی ہے اور ڈیٹا تک رسائی بھی وسعت پاتی ہے۔

نادرلا نے مضمون میں ان ڈیٹا کی اہمیت پر زور دیا، لیکن قدرتی طور پر اس کا خیال ہے کہ یہ ماڈل سے مستقل ہونا چاہیے:

کمپنی کو اپنے ورک فلو، شعبہ جانکاری اور جمع کردہ ججمنٹس کو ہر استعمال کے ساتھ بہتر ہونے والے AI سسٹم میں تبدیل کرنا ہوگا۔ پرائیویٹ ایوالیویشن کو یہ پکڑنا چاہیے کہ ماڈل اصل میں کیا بزنس کے لیے اہم نتائج پر بہتری لائے ہیں (صرف باہری بنچ مارکس نہیں!)۔ پرائیویٹ ری انفورسمنٹ لرننگ ماحول کو ادارے کے اندر کے اصل ٹریکس پر ماڈل کو مضبوط بنانے کی ضرورت ہے۔ اس کا معرفتی ذخیرہ ادارے کی یادداشت کو قابلِ استفسار بناتا ہے اور ٹوکن استعمال کو زیادہ موثر بناتا ہے۔

یہ چکر کمپنی کا نیا ملکیتی حقوق بن گیا ہے۔ میں اسے ایک پہاڑ چڑھنے والی مشین کے طور پر دیکھتا ہوں۔ زیادہ تر اثاثوں کے برعکس، یہ مرکب سود پر مبنی ہے۔ ہر بہترین عمل کا عمل بہتر تربیتی سگنلز پیدا کرتا ہے، جو کمپنی کے منفرد ضمنی علم کے جمع ہونے کو تیز کرتا ہے۔ اس کو شروع کرنے والی کمپنیوں کو کسی بھی نئے منفرد ماڈل کی صلاحیت کے باوجود مشکل سے نقل کیا جانے والا فائدہ حاصل ہوگا۔

یہ چکر کمپنی کا نیا IP بن گیا۔ میں اسے ایک پہاڑ چڑھنے والی مشین کے طور پر دیکھتا ہوں۔ زیادہ تر اثاثوں کے برعکس، یہ مرکب فائدہ حاصل کرتا ہے۔ ہر بہترین عملی عمل سے بہتر تربیتی سگنلز پیدا ہوتے ہیں، جو کمپنی کے منفرد ضمنی علم کے جمع ہونے کو تیز کرتے ہیں۔ اس صلاحیت کو جلد از جلد قائم کرنے والی کمپنیوں کے پاس ایسا مزیدد ناممکن فائدہ ہوگا، چاہے مستقبل میں الگ الگ ماڈلز کی صلاحیت کتنی بھی بڑھ جائے۔

تاہم، اگر وہ کمپنیاں جو Anthropic کی ڈیٹا پالیسی کی پابندی کرتی ہیں، ابھی بہتر نتائج حاصل کر سکتی ہیں؟ یا اگر موجودہ کمپنیاں مزاحمت کرتی ہیں، تو نئی کمپنیوں—یا ماڈل کے سازوں کے خود—کو انہیں بازار میں شکست دینے کا موقع ملتا ہے؟ Anthropic بالکل Nadella کے طرف سے مانگے گئے عزم کا امتحان لے رہا ہے۔

فیبل/مایتھوس کے ڈیٹا ریٹینشن پالیسی کے ارد گرد کی بحث ابھی تک جاری اشاعت کا سب سے زیادہ تنازعہ والے حصہ نہیں ہے۔ بلکہ، اینتھروپک نے اشاعت کے وقت کہا کہ اگر فیبل کو LLM ترقی کے لیے استعمال کیا جائے تو اس کی کارکردگی کو چپ چاپ کم کر دیا جائے گا؛ سسٹم کارڈ میں لکھا گیا ہے:

ہم نے اگلے LLM ترقی کے ساتھ متعلق حفاظتی اقدامات بھی شامل کیے ہیں۔ جیسا کہ ہماری 2026ء کی فروری کی رپورٹ کے حصہ 6.1 میں بیان کیا گیا ہے، ہمیں مجموعی AI ترقی کے رفتار کو تیز کرنے کے خطرات کی فکر ہے، حالانکہ ہم ان خطرات کی شدت کے بارے میں اب بھی بھروسہ نہیں کر سکتے۔ خاص طور پر، ہماری فکر یہ ہے — جیسا کہ ہم نے اس وقت لکھا تھا — "دیگر AI ڈویلپرز کو اس طرح کے طاقتور AI سسٹم بنانے کی ترقی میں مدد فراہم کرنا جن کے پاس ہمارے سسٹم جیسے خطرات ہوں — لیکن ان کے پاس متعلقہ حفاظتی اقدامات نہ ہوں۔"

حالیہ مدلز کی خود کو تیار کرنے کی صلاحیت کے پیش نظر، ہم نے نئے مداخلتی اقدامات اپنائے ہیں جن کے تحت کلاؤڈ کو ایسی درخواستوں جیسے پری ٹریننگ پائپ لائن، ڈسٹریبیوٹڈ ٹریننگ انفراسٹرکچر یا ML ایکسلریٹر ڈیزائن کے حوالے سے آگے بڑھنے والے LLMs کی ترقی میں اس کی کارکردگی کو محدود کر دیا گیا ہے۔ کلاؤڈ کا استعمال کرکے مقابلہ کرنے والے مدلز تیار کرنا پہلے ہی ہماری سروس کے شرائط کی خلاف ورزی تھی، لیکن اس حد کو محفوظ اقدامات کے ذریعے نافذ کرنا ان لوگوں کو روکے گا جو ان شرائط کی خلاف ورزی کرنے کے لیے سب سے زیادہ تیار ہیں۔

ہماری سائبر سیکیورٹی، بائیو کیمیسٹری اور ڈسٹلیشن کے اقدامات کے برعکس، یہ حفاظتی اقدامات صارفین کے لیے نظر نہیں آتے۔ Fable 5 کسی اور ماڈل پر واپس نہیں جائے گا۔ بجائے اس کے، حفاظتی اقدامات پرامپٹ میں تبدیلی، ہدایتی ویکٹر یا پیرامیٹر کے موثر فائن ٹیوننگ (PEFT) جیسے طریقوں سے اس کی مؤثر صلاحیت کو محدود کر دیں گے۔ یہ اقدامات زیادہ تر پروگرامنگ کاموں کو متاثر نہیں کریں گے۔ ہم تخمہ لگاتے ہیں کہ یہ تقریباً 0.03% ٹریفک کو متاثر کریں گے، جو صرف 0.1% سے کم تنظیموں میں مرکوز ہوگا۔ جب یہ اقدامات لاگو ہوں گے، تو ہم اس بات کا تخمہ لگاتے ہیں کہ ان کا ماڈل کے رویے پر ناقابلِ توجہ اثر ہوگا، سوائے اس کے کہ وہ اپنے ترقیاتی سطح کے LLMs کی مؤثر صلاحیت کو محدود کر دیں گے۔ Claude صارفین کے درخواستوں کے لیے مددگار جوابات دیتا رہے گا۔ ہم اس ماڈل کے جاری ہونے کے بعد检测 طریقوں کی درستگی بڑھاتے رہیں گے۔

اینٹروپک نے اس تبدیلی کو واپس لے لیا — فیبل LLM سے متعلق درخواستوں کو Opus 4.8 کو منتقل کرے گا اور صارفین کو اس منتقلی کا اطلاع دے گا — لیکن میری رائے میں اصل پالیسی بہت مفید تھی۔ ایک طرف، میں اینٹروپک کو انکار نہیں کرتا کہ وہ مقابلہ کرنے والوں کی مدد نہیں کرنا چاہتے تھے؛ دوسری طرف، یہ بہت واضح ہونا چاہیے کہ اینٹروپک کو لگتا ہے کہ ان کے علاوہ کسی اور کو آگے کے LLM تیار نہیں کرنے چاہئیں۔

اس پالیسی کا زیادہ دلچسپ پہلو یہ ہے کہ اسے Anthropic اور جنگ کے محکمہ کے درمیان تنازع کے صرف دو ماہ بعد جاری کیا گیا: جنگ کا محکمہ Claude کو کسی بھی قانونی مقصد کے لیے استعمال کرنا چاہتا تھا، جبکہ Anthropic نے نگرانی اور خودمختار ہتھیاروں پر زیادہ سخت کنٹرول کی درخواست کی تھی۔ یہ ڈیگریڈیشن کا اقدام نہ صرف Anthropic کی اپنی پالیسی کی ترجیحات کو حاصل کرنے کے لیے اپنے ماڈلز کو چھپا کر تبدیل کرنے کی صلاحیت کو ظاہر کرتا ہے، بلکہ اس کی خواہش بھی۔ دوسرے الفاظ میں، Anthropic نے فعال طور پر بعض تنقید کرنے والوں کے بارے میں اپنے سپلائی چین کے خطرے کے بڑے تشویش کو تصدیق کر دیا۔

تاہم، اس واقعہ سے نکلنے والا وسیع نتیجہ یہ ہے کہ Anthropic کو لگتا ہے کہ انہیں Anthropic کے استعمال کا آخری فیصلہ کرنے کا حق ہونا چاہیے؛ اچھی طرح سے، جب وہ سمجھتے ہیں کہ صرف وہی آگے کی AI ترقی کر سکتے ہیں، تو وہ دراصل یہ سمجھتے ہیں کہ صرف وہی AI کے مجموعی طور پر آخری فیصلہ کرنے کا حق رکھتے ہیں۔ جب آپ اس سمجھ کو اس کمپنی کے اس دعوے کے ساتھ جوڑتے ہیں کہ AI تمام معاشی سرگرمیوں کو کر سکتا ہے، تو آپ سمجھ جاتے ہیں کہ Anthropic کی قیادت دراصل ہر چیز اور ہر ایک پر اختیار رکھنا چاhti ہے۔

بالکل، Anthropic کبھی اتنا واضح نہیں بیان کرے گا؛ بجائے اس کے، کہانی کیفیت کے بارے میں ہے:

میں یہ توقع کرتا ہوں کہ اینتھروپک اپنے ماڈل کی صلاحیتیں ختم کنندگان تک اس طرح پہنچائے گا کہ ہر عمل کے لیے مخصوص اینڈ پوائنٹس استعمال کرے، یہاں تک کہ وہ API کو محدود کرنا شروع کر دیں۔ اس نرم افزار کی جگہ لینے اور رسائی کو محدود کرنے کا دعویٰ محفوظ رہنے کے نام پر کیا جائے گا، جبکہ اینتھروپک اپنے ختم کنندگان تک پہنچنے کے مالی مفادات کو پورا کر رہا ہے۔

انٹروپک نے اپنی ڈیٹا محفوظ رکھنے کی پالیسی میں بڑے تبدیلی کی وضاحت کی ہے کہ یہ سلامتی کے لیے ہے۔ خاص طور پر، کمپنی کا دعویٰ ہے کہ امریکی حکومت کے خوف کے خلاف جیل سے بھاگنے کے عمل کو روکنے کے لیے تمام صارفین کے ڈیٹا کو 30 دن تک محفوظ رکھنا ضروری ہے۔ میں بالکل ایک مستقبل کا تخیل کر سکتا ہوں جہاں سلامتی کے عوامل انہیں ان ڈیٹا کو بھی تربیت دینے پر مجبور کر دیں گے تاکہ برائی کے استعمال کا بہتر طریقہ سے مقابلہ کیا جا سکے۔

اینٹھرپک کی مکمل تاریخ بنیادی طور پر اس بات پر مبنی ہے کہ اس کے بانیوں کو لگتا تھا کہ OpenAI سیفٹی کو کافی سنجیدگی سے نہیں لے رہا تھا؛ کمپنی کا خیال تھا کہ صرف وہی AI کو کنٹرول کر سکتے ہیں، اور چونکہ وہ سیفٹی کے لیے منفرد طور پر فکر مند ہیں، اس لیے ان کے پاس دوسروں، جن میں امریکی حکومت بھی شامل ہے، کو کنٹرول کرنے کا دعویٰ کرنے کا سبب ہے۔

ان سلامتی کی وجوہات کے بارے میں مسئلہ یہ ہے کہ میں انہیں مؤثر سمجھتا ہوں، کیونکہ Anthropic کے لیے وہ وجوہات نہیں ہیں۔ کمپنی کو واقعی لگتا ہے کہ وہی واحد افراد ہیں جو سупر انسٹیلیجنس پر یقین رکھتے ہیں، اور اس لیے وہی واحد افراد ہیں جو خطرات کو مکمل طور پر سنجیدہ لیتے ہیں۔ اس سے ایک کے بعد ایک فیصلے، ایک کے بعد ایک پالیسیاں، اور ایک کے بعد ایک تصادم کو معاف کر دیا جاتا ہے، جبکہ باہر کے لوگوں کے لیے یہ شکست خور اور بے چینی کا عجیب مجموعہ لگتے ہیں۔

OpenAI کے ساتھ بہت بڑا فرق ہے: میں سمجھتا ہوں کہ ChatGPT کے جاری ہونے کے کچھ سالوں کے دوران، کمپنی کے اندر داخلی جھگڑے ہوئے، جس کی وجہ سے ایک وقت کا تحقیقی لیب اچانک ایک غیر متوقع مصرفی ٹیکنالوجی کمپنی بننے کا بوجھ اٹھانے لگا؛ جب OpenAI اس تنازع کو حل کرنے کی کوشش کر رہا تھا، تو اس نے Anthropic جیسی کمپنیوں کو بہت سارے ماہرین کھو دیے۔

دوسری طرف، اینتھرپک کے افراد، مشن اور کاروبار کے درمیان مکمل ہم آہنگی ہے۔ یہ کمپنی تحقیق کاروں کو مشین کے خدا بنانے کے خواب کو بیچ سکتی ہے، ایسے لوگوں کے ساتھ جو خطرات کی فکر کرتے ہیں اور انسانیت کے لیے خطرات کا مقابلہ کرنے کے لیے کافی ذہین ہیں؛ اور جو بھی نتیجہ نکلتا ہے، وہ بالکل کاروبار کے لیے فائدہ مند ہوتا ہے، جو دنیا کا سب سے خوبصورت مطابقت ہے۔

میں اس ایکری کی تعریف کرتا ہوں اور اس سے ڈرتا ہوں۔ میں اس کی تعریف کرتا ہوں کیونکہ یہ واضح طور پر بہت مؤثر ہے؛ قریب ترین تشبیہ ایپل ہے، جو ہر خود غرض عمل کو صرف صارفین کے لیے درست کام کرنے کے نام پر ڈھانچتا ہے—اور وہ اکثر ایسا ہی کرتے ہیں۔ اینتھروپک بھی اسی طرح ہے۔ تاہم، میں اس بات سے ڈرتا ہوں کہ جو لوگ یقین رکھتے ہیں کہ وہ سب سے زیادہ جانتے ہیں، وہ ایک ایسا سمارٹ فون بنائیں جسے میں قبول یا مسترد کر سکوں، اس سے زیادہ فکر مند کرنے والی بات یہ ہے کہ وہ ایسا سپر انٹیلی جنس بنائیں جو قومی ریاستوں یا صرف بڑے کاروباروں کی طاقت کے برابر یا اس سے زیادہ ہو سکتی ہے۔ ان عقلمند لوگوں کا تاریخی ریکارڈ، جو یقین رکھتے ہیں کہ وہ انسانوں کو کیا چاہئے، آلودہ ہے، کیونکہ انہوں نے خود کو یقین دلایا کہ ان کے نیتیں اچھی ہیں، جس سے واقعی اچھے نتائج نہ دینے والے اقدامات کو توجہ دینے کا دلائل فراہم ہوتے رہے۔