Anthropic نے Claude API کے لیے بیٹا فیچر متعارف کرایا ہے: ڈیولپرز میسج اسٹریم کے دوران کسی بھی وقت ایفورٹ لیول کو تبدیل کر سکتے ہیں، جس سے رفتار، مکملیت اور لاگت کے درمیان توازن برقرار رکھا جا سکتا ہے، خاص طور پر ایجنٹ سیناریوز کے لیے۔مضمون کے مصنف، ذریعہ: AIBase
ایک ہی مکالمے میں شروع میں آرام دہ اور آخر میں تیز، اینتھرپک نے ڈیولپرز کو آخرکار ماڈل کو "گیس دینے" کی اجازت دے دی۔ 12 نومبر کو، یہ کلاؤڈ ڈولپر نے API میں ایک بیٹا سہولت شامل کی: ڈیولپرز میسج اسٹریم کے دوران کوشش کی سطح کو فوری طور پر ایڈجسٹ کر سکتے ہیں، یعنی ماڈل کے جواب دینے کے لیے "کتنا زور لگانا" چاہتے ہیں، جس سے صارفین جواب کی تفصیل، جواب کی رفتار اور استعمال کی لاگت کے درمیان آسانی سے توازن بنا سکتے ہیں۔
گیئر بدلیں، دوبارہ شروع نہ کریں، کیش کنکشن ختم نہ ہو
پچھلی مکالمہ صرف ایک مخصوص سیٹنگس کے ساتھ ہی کام کرتی تھی، لیکن اب ایسا نہیں ہے۔ اس کا طریقہ یہ ہے کہ میسج سیکوئنس میں ایک خالی سسٹم میسج شامل کریں، اور نئے output_config.effort کا استعمال کرکے مقصد کا درجہ متعین کریں، جبکہ ٹاپ لیول کانفگریشن اور پہلے سے مطابقت رکھنے والے پرامپٹ کیش کو ویسے ہی برقرار رکھیں۔ توجہ دیں کہ یہ حکم رetroactive نہیں ہے — یہ اگلے نئے ان پٹ والے صارف کے میسج سے ہی لاگو ہوتا ہے، جبکہ پہلے سے تخلیق شدہ مواد میں کوئی تبدیلی نہیں ہوتی، اس لیے اسے کہاں اور کب درج کرنا ہے، اس کا خوبصورت طریقے سے خیال رکھنا ضروری ہے۔
بے نقاب سے گہری تفصیل تک، ایک تقسیم کنندہ
کوشش کا مقصد صرف آخر میں کتنے الفاظ لکھنا نہیں ہے؛ سوچ کی گہرائی، ٹولز کو کتنی بار استعمال کرنا، اور جواب کو منظم کرنے میں لگائی گئی کوشش بھی متاثر ہوتی ہے۔ عام استعمال یہ ہے: مکالمے کے پہلے حصے میں ہلکے سوال جواب کریں، اور جب پیچیدہ تجزیہ کی ضرورت ہو تو فوراً سطح بڑھائیں، تو ماڈل خودبخود زیادہ کوشش کرے گا۔ لمبے راستے والے ایجنٹس کے لیے خاص طور پر فائدہ مند ہے — شروع میں تلاش کے لیے کم سطح استعمال کریں تاکہ ٹوکن بچ جائیں، اور جب حقیقی استدلال کی ضرورت ہو تو صرف اس وقت سطح بڑھائیں، پورے مکالمے کے لیے پہلے سے ادائیگی نہ کریں۔ جب AI "کھانا دیکھ کر بھوک مانگنا" سیکھ لے، تو توانائی اور بل دونوں ڈوولپرز کے ہاتھ میں ہو جاتے ہیں۔