بڑے مُقَدَّمہ کا دور ختم ہونے والا ہے!
2 ستمبر کو، Anthropic نے ایک طاقتور کارروائی کی، جس نے API کے قواعد کو تبدیل کر دیا اور چھلکے والے بڑے ماڈلز اور ڈسٹلیشن کرنے والوں کے لیے تمام پیچیدہ راستوں کو ختم کر دیا۔
کبھی، بہت سی کمپنیاں بڑے کمپوٹیشنل کوسٹ اور لمبے تربیت کے وقت سے بچنے کے لیے API کے ذریعے ٹاپ ماڈلز کے انفرینس پروسیس کو حاصل کرتی تھیں، اور ان ڈیٹا کا استعمال اپنے "چھوٹے ماڈلز" کو تربیت دینے کے لیے کرتی تھیں۔
لیکن آج کے بعد، یہ امکان ختم ہو چکا ہے۔
کلود فیبل 5.1 نے "سوجی بلوک" کی تبدیلی پر پابندی لگا دی ہے
اینٹروپک نے اس بار Fable 5.1 جاری کیا ہے، جس میں سب سے سخت ترین ڈسٹلیشن روکنے کا مکینزم شامل کیا گیا ہے۔
مرکزی عمل، "سوچنے والا بلاک" کو سختی سے لاک کرنا ہے۔
"سُوچ بلوک" کیا ہے؟
بس اس کا مطلب یہ ہے کہ AI آپ کو آخری جواب دینے سے پہلے اپنے دماغ میں CoT پروسیس چلاتا ہے۔
کلود ذہنی حساب کے دوران پیچیدہ، متوازی راستوں کا استعمال کرتا ہے
API کال کے دوران، کلاؤڈ ان استدلال کے مراحل کو "سوچ کے بلاکس" کے طور پر صارف کو واپس کرے گا۔
عام بات چیت کے دوران، ڈویلپرز ان سوچ کے بلاکس کو سسٹم پرومپٹس، ٹولز اور تاریخی پیغامات کے ساتھ دوبارہ کلاؤڈ کو بھیجتے ہیں تاکہ ماڈل سیاق و سباق کو یاد رکھ سکے اور بات چیت کو مسلسل رکھ سکے۔
لیکن بالکل اسی مکینزم نے ڈسٹلیٹرز کے لیے موقع پیدا کر دیا۔
انہوں نے ایک بہت بڑا خامی دریافت کی: صرف کئی مکالموں کے دوران، سوچ کے بلاک کے قبل اور بعد کے حوالہ جات کو چپکے سے تبدیل کرکے (مثلاً ابتدائی سسٹم ہدایات یا تاریخی پیغامات کو تبدیل کرکے)، وہ کلاڈ کے دفاعی نظام کو توڑ سکتے ہیں، اور یہاں تک کہ کلاڈ کو اس کے اصلی طور پر چھپائے گئے بنیادی استدلالی منطق کو نکالنے پر مجبور بھی کر سکتے ہیں!
اس بے ترتیبی کے خلاف، Anthropic نے Fable 5.1 میں "سیکھنے کی مطابقت کی تصدیق" کا نیا قاعدہ متعارف کرایا۔
1. اصل راستہ پر واپسی، ایک حرف بھی نہیں بدلنا: API اب کلائنٹ کے ذریعہ واپس بھیجے گئے "سوچنے والے بلاک" کی تصدیق کرے گا کہ کیا وہ اصلی سسٹم کے پرومپٹ، ٹولز اور تاریخی پیغامات کے بالکل مطابق ہیں۔
2. دستکاری؟ فوری خطا! جب بھی سسٹم پائے کہ کنٹیکس تبدیل کیا گیا ہے، چاہے ایک ہی کلک کریں سب میچ نہیں ہوں گے، API فوراً خطا کا پیغام واپس کر دے گا اور سروس منع کر دے گا۔
اور، واقعی میں سیٹنگ کو تبدیل کرنے کی ضرورت رکھنے والے قانونی ڈیولپرز (جیسے لاگت بچانے کے لیے سیٹنگ کی لمبائی کو کم کرنا چاہتے ہیں) کے لیے، Anthropic ایک "غیر سخت موڈ" فراہم کرتا ہے۔
اس موڈ میں آپ کا درخواست قبول ہو جائے گا، لیکن سسٹم «سوچنے کا بلاک» مکمل طور پر حذف کر دے گا! ماڈل پہلے کے استدلال کے عمل کو دیکھے بغیر مجبوراً جواب دے گا۔
یہ ایک حقیقی جڑ کاٹنے والا اقدام ہے۔
جب کلود کو ایک آسان اور ایک مشکل سوال پوچھا جاتا ہے، تو سچائی بھری استدلال اور محرک (غیر سچائی بھری) استدلال کے مثالیں
صنعتی درجہ کی آستین، کتنی پاگل ہو سکتی ہے؟
اینٹروپک کو اتنی بڑی غصہ کیوں آیا، اتنی سخت پابندیاں کیوں لگائیں؟
جواب یہ ہے: اور بہت ضروری۔
کیونکہ موجودہ غیر قانونی تقطیر نے صنعتی سطح کا رخ کر لیا ہے۔
گزشتہ سال، اینٹروپک کی سیکورٹی ٹیم نے شOCKنگ سطح کے غلط استعمال کا مشاہدہ کیا۔
یہ ماہر "ڈسٹلیشن ہیکرز" روزانہ ایک اکاؤنٹ سے کچھ سوالات نہیں پوچھتے، بلکہ ہزاروں جعلی اکاؤنٹس کا استعمال کرتے ہیں اور آٹومیٹڈ اسکرپٹس کے ذریعے API اینڈ پوائنٹ پر رات دن بے ترتیب طور پر "گیندھا" کھا رہے ہیں۔
ان کے عمل کا طریقہ بہت چھپا ہوا اور حملہ آور ہے۔
پہلے بات کی گئی تھی کہ ہاں، اینٹھرپک نےClaude کے مرکزی سوچنے والے ٹکڑوں کو پہلے ہی اینکرپٹ کر دیا تھا، لیکن ہیکرز نے "کنٹیکس انجیکشن" اور "ڈائیلاگ ری ورائٹ" کی ٹیکنالوجی استعمال کی۔
یہ عمل بالکل اس طرح ہے جیسے کلاؤڈ کو "ہائپنوسس" کیا جائے، جس سے وہ منطقی بگاڑ کے دوران اپنی خود کوڈ شدہ استدلالی عمل کو خود ہی ڈی کوڈ کر کے پرنٹ کر دے۔
اس لیے، بہت سے چھوٹے پیرامیٹر ماڈلز نے صفر سے کمپیوٹیشنل طاقت کے اضافے اور الگورتھم کی نوآوری کا تجربہ نہیں کیا، بلکہ صرف بہترین AI کے جواب دینے کے طریقے یاد کر لیے، جس سے ان کی کارکردگی برابر ہو گئی۔
مزید خوفناک بات یہ ہے کہ یہ عمل سیدھا سرخ خط کو چھوتا ہے اور سुرکھا کے نظام کو تباہ کر دیتا ہے۔
AI کے بے قابو ہونے کا سب سے بڑا خطرہ
اگر تجارتی فائدے کا نقصان صرف Anthropic کے لیے درد کا سبب بنے، تو "استعداد اور محفوظیت کا الگ ہونا" پوری AI محفوظیت کے شعبے کو خوف میں ڈال دے گا۔
یہی Anthropic کے فیصلے کا مرکزی موٹیویشن ہے۔
مشہور ہے کہ Claude، GPT-4 جیسے بڑے ماڈلز، انتہائی اعلیٰ ذہانت کے ساتھ ساتھ بہت سخت "قدروں کی مطابقت" اور حفاظتی تربیت بھی حاصل کرتے ہیں۔ وہ جانتے ہیں کہ وہ لوگوں کو بم بنانے کی تعلیم نہیں دے سکتے، برے مقاصد کے لیے ریمپٹ سافٹ ویئر نہیں لکھ سکتے، اور نفرت انگیز تبصرے نہیں کر سکتے۔
یہ "کابیلیت + سیکورٹی گارڈ" کا دوہرا بندھنا، بڑی AI کمپنیوں نے RLHF اور ریڈ بلیو کنٹراسٹ پر کروڑوں امریکی ڈالر خرچ کر کے قائم کیا ہے۔
لیکن، ڈسٹلیشن ماڈل نے اس سیفٹی نیٹ کو مکمل طور پر چھوڑ دیا!
جب مصنوعی ذہن کو تبدیل کر کے کلاڈ کے "سوچنے کے بلاکس" کو نکالا جاتا ہے، تو وہ صرف اس کی اعلیٰ ذہانت کی "استدلالی صلاحیت" ہی نکالتے ہیں، جبکہ بنیادی حفاظتی اقدامات کو بالکل نہیں سیکھ پاتے۔
ایک بری تنظیم کی طرح، جس نے انسٹائن کی ذہانت کا نقل کیا، لیکن انسٹائن کی اخلاقیات اور ہمدردی کا نقل نہیں کیا۔
اس غیرقانونی ڈسٹلیشن کے ذریعے تربیت دیا گیا سسٹم عجیب و غریب طریقے سے اپنے پاس نہ ہونے والی اعلیٰ منطق اور کوڈنگ کی صلاحیتیں حاصل کر لیتا ہے۔
لیکن چونکہ وہ خود ایک «کم گارنٹی، کمزور حفاظتی فراہمی» والے بنیادی ماڈل ہیں، وہ ہیکرز کے درخواستوں کا جواب دینے میں کوئی تردید نہیں کریں گے، جیسے نیٹ ورک حملوں کے اسکرپٹس تخلیق کرنا یا جانوری ہتھیاروں کے ترقی میں مدد کرنا۔
"کابیلیت اور محفوظیت کا الگ ہونا، آج کے AI کا سب سے بڑا خطرہ ہے۔"
نئے قواعد نافذ: کون متاثر ہو رہا ہے؟
کیا یہ حملہ سچے ڈویلپرز کو متاثر کرے گا؟
بے خوف رہیں، اینتھرپک نے نقصان کو کم سے کم رکھنے کے لیے درست "مرحلہ وار نفاذ" کی حکمت عملی اپنائی ہے۔
سب سے پہلے، "نیا اکاؤنٹ"۔
سرکاری دستاویزات کے مطابق، اس پابندی کو سب سے زیادہ غلط استعمال کرنے والے نئے اکاؤنٹس سے شروع کیا جائے گا۔ Fable 5.1 ماڈل کے لیے، یہ اپڈیٹ صرف 31 اگست 2026، 12:00:00 AM UTC کے بعد بنائے گئے نئے API اکاؤنٹس پر لاگو ہوگا۔
درج ذیل لوگ مکمل طور پر آرام کر سکتے ہیں، کیونکہ ان پر کوئی اثر نہیں پڑتا۔
1. موجودہ API اکاؤنٹ: موجودہ پرانے اکاؤنٹس Fable 5.1 پر اب تک متاثر نہیں ہوئے ہیں۔ اس سے قانونی ڈیولپرز کو اپنے اقدامات کو ترتیب دینے کے لیے کافی وقت ملتا ہے۔
2. خریدار کے عام صارفین: اگر آپ صرف ویب ورژن Claude.ai، یا Claude Code، Claude Cowork جیسے عرفی مصنوعات کے C-end صارف ہیں، یا تیسری پارٹی کے ذریعہ بنائے گئے مصنوعات کے ذریعہ عام بات چیت کر رہے ہیں، تو آپ کو کوئی پریشانی نہیں ہوگی۔
متاثرہ API ڈیولپرز کے لیے آپ کو کیا نوٹ کرنا چاہیے؟
اگر آپ کے پچھلے ایپلیکیشن اندماج میں، "مکالمے کے درمیان پہلے راؤنڈز کو دوبارہ لکھنا" کی ٹیکنالوجی استعمال ہوئی تھی (مثلاً لاگت بچانے کے لیے کنٹیکس کمپریشن، یا مکالمے کے درمیان نئے سسٹم ریمائنڈر کو مجبوراً شامل کرنا)، تو آپ کو فوراً اپنے کوڈ منطق کو تبدیل کرنا شروع کر دینا چاہیے۔
اس تبدیلی کے جواب میں، Anthropic نے مکمل منتقلی کی ہدایات فراہم کی ہیں۔ ڈویلپرز کے پاس دو اختیارات ہیں۔
ایک کا انتخاب کریں: ماحول کو مکمل طور پر ایک جیسا رکھیں۔ اصل سوچ کے بلاک، سسٹم کی ہدایات اور ٹولز کو ایسے ہی واپس بھیجیں۔
اختیار دو: API درخواست میں "غیر سخت گیر موڈ" کو شامل کریں۔ اس موڈ میں، چاہے آپ ماحول کو کیسے بھی تبدیل کریں، API غلطی نہیں دے گا اور نہ ہی عمل روکے گا، بلکہ درخواست میں متاثرہ سوچ کے بلاکس کو خودکار اور خاموشی سے حذف کر دے گا۔
یہ مدل کو اگلی بات چیت میں پچھلے تفصیلی استدلال کو "بھولنے" کی اجازت دے گا، لیکن کم از کم یہ یقینی بنائے گا کہ آپ کی بات چیت یا کام متوقف نہ ہو۔
یہ یاد رکھیں: حالانکہ ابھی اس پالیسی کے لیے معافی کا دور چل رہا ہے، لیکن Anthropic نے واضح کر دیا ہے کہ "سوچنے کا مکان" مستقبل کے مدل ورژنز میں تمام اکاؤنٹس پر لاگو ہوگا!
موجودہ بفر ونڈو بھی محدود ہے۔
اندازہ سے زیادہ خوشی: ایماندار لوگوں کے لیے فائدہ
اور اس نئے قانون کے بعد، قانونی ڈیولپرز کے لیے ایک فائدہ بھی چھپا ہوا ہے — لاگت میں بڑی کمی اور ردعمل کی رفتار میں طاقتور اضافہ۔
یہ کیسے ممکن ہے؟
اس کا مرکزی نقطہ "سیاق و سباق کی ایک جہت" ہے۔
گزشتہ میں، ڈیولپرز کے پاس کنٹیکس کو بے ترتیب طور پر تبدیل کرنے کی اجازت تھی، جس کی وجہ سے ماڈل کو ہر درخواست نئی لگتی تھی۔ اس سے نہ صرف کمپیوٹنگ طاقت کا زیادہ استعمال ہوتا تھا، بلکہ رفتار بھی بہت سست تھی۔
اب، نئے قوانین کے تحت تمام کو «سوچنے والا بلاک» اور اس کے اردگرد کے سسٹم کے پیغامات، تاریخی پیغامات کو بالکل ویسا ہی رکھنا ہوگا، اس میں کوئی تبدیلی نہیں کی جا سکتی۔
یہ تکنیکی طور پر ایک مثالی صورتحال پیدا کرتا ہے: پرومپٹ کیش کو بہت اعلی فریکوئنسی پر ہٹ میں حاصل کیا جا سکتا ہے!
اب، API سرور پچھلے مکالمے کے حوالہ کو آسانی سے کیش میں محفوظ کر سکتا ہے۔ جب اگلی مکالمہ درخواست آئے، تو سسٹم کیش سے فوراً ڈیٹا حاصل کر لیتا ہے اور مطابقت فوراً مکمل ہو جاتی ہے۔
اس کا نتیجہ یہ ہے کہ API کا جواب دینے کا وقت کافی کم ہو گیا، لیٹنسی براہ راست کم ہو گئی، اور ڈویلپرز کی API کال کی لاگت بھی نمایاں طور پر کم ہو جائے گی!
یہ "بے خودی سے لگائی گئی شاخ" کی حکمت عملی، سچے اور مصروف ڈویلپرز کو سچی قیمت کی سبسڈی فراہم کرتی ہے۔
در مجموع، یہ نئے احکامات پورے AI صنعت کے لیے ایک عظیم تقسیم ہیں۔
چھوٹے پیرامیٹرز والی ہیمر کی کہانی، شاید کم ہو جائے۔
ٹیلے کے بعد، کون ننگا تیر رہا ہے؟
حوالہ جات:
https://support.claude.com/zh-CN/articles/16761192-%E4%BF%9D%E7%95%99%E6%80%9D%E8%80%83-%E6%94%B9%E5%8F%98messages-api%E5%A4%84%E7%90%86%E6%80%9D%E8%80%83%E5%9D%97%E7%9A%84%E6%96%B9%E5%BC%8F%E4%BB%A5%E9%98%B2%E6%AD%A2%E8%92%B8%E9%A6%8F
ایڈیٹ: اینیاس
یہ مضمون ویچن گروپ "نیوزی ایل" (ID: AI_era) سے ہے، مصنف: ASI启示录