ایک ٹیچر ماڈل جو بلیوں سے پیار کرتا ہے، تصادفی لگنے والی نمبر سیکوئنسز کا ڈیٹا سیٹ تیار کر سکتا ہے۔ متن میں کہیں بھی “بلیاں” نہیں کہی گئی۔ اس کے باوجود ایک طالب علم کو اس پر فائن ٹیون کر دیں، اور ترجیح اب بھی منتقل ہو سکتی ہے۔ یہ زیرِ فہم سیکھنا ہے۔ یہ ایک ڈیٹا کا زہر ہے، کیونکہ یہ خصوصیت ڈیٹا سیٹ میں قابلِ تشخیص نہیں ہے۔ ناتھن ہو، سانمی کوئے جو، اور کرسٹوفر پوٹس کی نئی اسٹینفورڈ کی تحقیق اس پوشیدہ سگنل کو قابلِ پڑھنا بناتی ہے۔ وہ متحرک زیرِ فہم سیکھنا کو حوالہ جات کے تخلیص کا ایک خاص معاملہ سمجھتے ہیں: نظریہ کے مطابق، ڈیٹا سیٹ ٹیچر کے پرامپٹ کو شناخت کرتا ہے۔ پھر وہ اس پرامپٹ کو SALVE (Search-Aided Latent Verbalization) کے ذریعے واپس حاصل کرتے ہیں: - ایک سافٹ پرامپٹ کو بہتر بنائیں تاکہ اصل ماڈل ڈیٹا سیٹ کا بہترین اندازہ لگا سکے - اسی ماڈل سے پوچھیں کہ وہ سافٹ پرامپٹ کو الفاظ میں بیان کرے - بیم سرچ استعمال کرکے الفاظ کو بہترین اور اصل سے مطابقت رکھنے دیں معیاری جانوروں کی ترجیح والے ماحول میں، SALVE 20 میں سے 18 بار اس خصوصیت کا نام شامل پرامپٹز واپس حاصل کرتا ہے۔ عام متن بہتر بنانے والے بنیادی طریقے نہیں کرتے۔ کچھ صورتوں میں، یہ اس طرح کے ڈیٹا سے بھی خصوصیت واپس حاصل کرتا ہے جہاں طالب علم کا فائن ٹیوننگ اسے نہیں پکڑ پاتا۔ وہ اس اثر کو مخلوط ڈیٹا، اینکٹی و اسٹیرڈ ٹیچرز، اور Logit-Linear Selection (سائکوفنسی / غلط تطابق) کے ذریعے منتخب کردہ حقیقی ترجیحات کے ذخائر میں بھی پکڑتے ہیں۔ عملی نقطہ آسان ہے: آپ ڈیٹا سیٹ کو فائن ٹیوننگ سے پہلے ہدایاتِ پوشیدہ روایات کے لئے جانچ سکتے ہیں۔ پیر: https://t.co/1mncXR5Fyv