انٹروپک کا نئی ترین AI ماڈل تقریباً 24 گھنٹے تک لائیو رہا، جب تک کہ صارفین نے محسوس نہیں کیا کہ کچھ غلط ہے۔ کلاؤڈ فیبل 5، جو کمپنی کا پہلا مائتھوس-کلاس ماڈل ہے جو عام عوام کے لیے دستیاب ہے، کچھ سوالات کو بغیر کسی کو بتائے ایک کم صلاحیت والا ماڈل پر ری ڈائریکٹ کر رہا تھا۔ جب AI کمیونٹی نے پرفارمنس میں کمی کو نوٹ کیا اور اس پر توجہ دلائی، تو اینٹروپک نے ٹیکنالوجی میں ایک نایاب بات کی: اس نے غلطی کو تسلیم کر لیا۔
کمپنی نے اب آگے کے لیے واضح محفوظی کے اقدامات کا وعدہ کیا ہے، جس کا مطلب ہے کہ صارفین کو بالکل معلوم ہو جائے گا جب ان کے سوالات کو نشان زد یا ریڈائریکٹ کیا جا رہا ہے۔ مگر شرط یہ ہے؟ اینتھروپک نے چेतاؤ دیا ہے کہ شفافیت کے مسئلے کو حل کرنے سے ایک معاون اثر ہوگا: جب کمپنی اپنے طبقہ بند کنندگان کو دوبارہ کیلبریٹ کرے گی تو زیادہ جھوٹے مثبت نتائج آئیں گے۔ انگلش میں: اس نظام کو اکثر بالکل بے گناہ سوالات کو نشان زد کرتے ہوئے دیکھیں گے جب تک کہ وہ حقیقی خطرہ اور ایک زندگیات کا طالب علم جو ہوم ورک کر رہا ہو، کے درمیان بہتر فرق کرنے کے لیے سیکھتا نہیں جاتا۔
کیا ہوا
کلوڈ فیبل 5 کو 9 جون، 2026 کو لانچ کیا گیا، جسے اینتھروپک کے ماڈل لائن اپ میں ایک بڑی کامیابی کے طور پر پیش کیا گیا۔ اندر کی ساخت میں، مائیتھوس-کلاس آرکیٹیکچر میں ایک نیا سیفٹی لیئر شامل تھا جو اعلیٰ خطرے والے سوالات، خاص طور پر سائبر سیکورٹی اور حیاتیات جیسے حساس شعبوں میں ہینڈل کرنے کے لیے ڈیزائن کیا گیا تھا۔
جب سسٹم نے ایک ممکنہ طور پر خطرناک پرومپٹ کا پتہ لگایا، تو وہ بے خبری سے بات چیت کو کلوڈ آپس 4.8 پر ریڈائریکٹ کر دیتا تھا، جو ایک پرانا، کم صلاحیت والا ماڈل ہے۔ کوئی نوٹیفیکیشن نہیں، کوئی وضاحت نہیں، کوئی آپٹ آؤٹ نہیں۔ صارف کو بس بدتر جوابات ملتے تھے اور اسے پتہ نہیں چلتا تھا کہ کیوں۔
اینٹروپک کا کہنا ہے کہ یہ فیل بیک میکنزم صرف 5 فیصد سے کم صارفین کے سیشنز میں فعال ہوا۔ یہ چھوٹا لگتا ہے جب تک کہ آپ کلود کے صارفین کے بڑے پیمانے پر اور اس حقیقت پر غور نہ کریں کہ متاثرہ صارفین میں سے بہت سے ایسے طاقتور صارفین تھے جو ماڈل کی صلاحیتوں کا جائزہ لینے کے لیے ٹیکنیکل شعبوں میں ٹیسٹ کر رہے تھے، جو بالکل وہی مخاطب ہیں جو معیار میں اچانک کمی کو نوٹ کرنے کے سب سے زیادہ امکان رکھتے ہیں۔
phản hồi فوراً اور واضح تھا۔ صارفین نے اینتھرپک کو بے نقاب کارکردگی کے خلاف مقدمہ چلایا، ایک ایسا لفظ جو ڈیویلپر فورمز اور سوشل میڈیا میں جلدی پھیل گیا۔ بنیادی شکایت واقعی حفاظت کے بارے میں نہیں تھی۔ یہ رازداری کے بارے میں تھی۔ ڈیویلپرز اور ریسرچر عام طور پر اس وقت منطقی گارڈریلز قبول کرتے ہیں جب انہیں واضح طور پر بیان کیا جائے۔ انہیں چھپانا بالکل الگ کہانی ہے۔
شفافیت کا محور اور اس کی لاگتیں
انٹروپک کا جواب اس بحث کے فوراً ایک دن کے اندر آیا۔ کمپنی نے تسلیم کیا کہ یہ ایک غلط تخمینہ تھا اور آگے چل کر صرف محفوظیت سے متعلقہ ری ڈائریکشنز صارفین کے لیے نمایاں بنانے کا عہد کیا۔
لیکن شفافیت ایک مفت اپ گریڈ نہیں ہے۔ اینتھرپک نے صاف طور پر انتباہ کیا ہے کہ اس تبدیلی کے نتیجے میں ان کے طبقہ بند کرنے والے اوزار میں زیادہ جھوٹے مثبت نتائج آئیں گے۔
کلاسیفائر کے تبدیلیوں کے علاوہ، اینتھرپک نے تمام مائتھوس-کلاس ماڈلز کے لیے ایک لازمی 30 دن کی ڈیٹا محفوظ رکھنے کی پالیسی متعارف کرائی ہے۔ یہ پالیسی تمام صارفین کے لیے لاگو ہوتی ہے، صنعتی شراکت داروں کے لیے بھی کوئی آپٹ آؤٹ نہیں۔ حساس ڈیٹا کے ساتھ کام کرنے والے صنعتی صارفین کو اب ایک کم از کم محفوظ رکھنے کا وقفہ مدنظر رکھنا ہوگا جس پر انہیں مذاکرہ نہیں کر سکتے۔
تاہم، ایک استثناء ہے۔ اینتھرپک زندگی کی سائنس کے شعبے میں جانچے گئے شراکت داروں کو اپنے مائیتھوس کلاس ماڈلز کے غیر محدود ورژن فراہم کرنے کا منصوبہ رکھتا ہے۔ منطق سادہ ہے: بائیومیڈیکل ریسرچر کو محفوظ رہنمائیوں کے بغیر مکمل ماڈل کی صلاحیتوں تک رسائی کی ضرورت ہوتی ہے، جو صرف اس لیے ہوتی ہے کہ ان کے کام کے موضوعات اعلیٰ خطرہ والے شعبوں سے گزرتے ہیں۔
اس بات کا اہمیت AI کے ڈراما سے کہیں زیادہ ہے
اینٹروپک کے مقابلہ کرنے والے اسٹیک ہولڈرز توجہ سے دیکھ رہے ہیں۔ اوپن اے آئی، گوگل ڈیپ مائنڈ، اور دیگر جو مشابہ فرنٹیئر سسٹمز تیار کر رہے ہیں، انہیں بھی اسی طرح کے فیصلے کرنے پڑیں گے کہ کیا وہ پیداواروں کو خاموشی سے کم کریں یا مواد کی پابندیوں کو صاف طور پر نشان زد کریں۔ اینٹروپک نے صرف ابھی ثابت کر دیا ہے کہ خاموش نقطہ نظر سے 24 گھنٹوں کے اندر پالیسی کا تبدیل ہونا لازمی ہو جاتا ہے۔
30 دن کی محفوظ رکھنے کی پالیسی شاید یہاں سب سے کم توجہ دی جانے والی مسئلہ ہے۔ اب Anthropic کے Mythos-کلاس ماڈلز کا جائزہ لینے والے اینٹرپرائز کسٹمرز کو نئی آرکیٹیکچر کے فوائد کے مقابلے میں ایک غیر قابل مذاکرہ ڈیٹا ہینڈلنگ کی ضرورت کو وزن دینا ہوگا۔ صحت یا فنانس جیسے منظم صنعتوں میں کام کرنے والی کمپنیوں کے لیے، یہ لازمی محفوظ رکھنے کا دورہ ان کے اپنے ڈیٹا حکمت عملی فریم ورکس کے ساتھ مطابقت کے تنازعات پیدا کر سکتا ہے، جس سے کچھ اینٹرپرائز خریدار دوسرے مقابلہ کرنے والوں کی طرف رجوع کر سکتے ہیں جو زیادہ لچکدار شرائط فراہم کرنے کو تیار ہوں۔