میٹا ریسرچرز نے ڈسٹلڈ AI ماڈلز کو دریافت کرنے کے لیے WM-Basin تیار کیا

icon币界网
بانٹیں
AI summary iconخلاصہ
میٹا کے تحقیقی افراد نے WM-Basin نامی ایک تشخیصی طریقہ تیار کیا ہے جو ڈسٹلڈ AI ماڈلز کی شناخت کرتا ہے۔ یہ طریقہ ماڈل کے وزن یا لاجٹس کے بغیر API سے پیدا شدہ متن کا تجزیہ کرکے 79 فیصد نقل شدہ ماڈلز کو پکڑتا ہے اور صرف 0.1 فیصد جھوٹے مثبت نتائج دیتا ہے۔ یہ مختلف ماڈل تبدیلیوں کے تحت کام کرتا ہے لیکن جب ماڈل کو صاف ڈیٹا کے ساتھ فائن ٹیون کیا جائے یا ٹیچر ماڈل کے آؤٹ پٹس کو دوبارہ لکھا جائے تو اسے مشکل ہوتی ہے۔ جبکہ عالمی کرپٹو قانون سازی سخت ہو رہی ہے، CFT کو AI سے پیدا شدہ مالی سرگرمیوں کی نگرانی میں نئے چیلنجز کا سامنا ہے۔
CoinDesk کی رپورٹ:

میٹا کے تحقیق کاروں نے ایک طریقہ تیار کیا ہے جو蒸馏 AI ماڈلز کو شناخت کرتا ہے، بغیر مشکوک ماڈل کی داخلی ساخت کو دیکھے، 0.1% فیک مثبت شرح کے ساتھ 79% ٹیسٹ کیے گئے نقل ماڈلز کو شناخت کیا گیا۔ اس تکنیک کا نام WM-Basin ہے، جو اس بات پر مبنی ہے جو "اساتذہ" ماڈل کے آؤٹ پٹ کا استعمال کرکے تربیت پا چکے ہیں، متعلقہ تحقیقی مقالہ 27 اکتوبر، 2026 کو شائع کیا گیا۔

اہم نکات

  • WM-Basin API سے تولید شدہ متن کا تجزیہ کرتا ہے، نہ کہ ماڈل وزن یا logits کا۔
  • میٹا نے اس ٹیکنالوجی کو 1,200 طلبہ کے ماڈلز پر جانچا۔
  • یہ طریقہ مختلف ماڈل میں تبدیلیوں کے باوجود检测 کی صلاحیت برقرار رکھتا ہے، لیکن صاف ڈیٹا کا استعمال کرتے ہوئے مزید فائن ٹیوننگ اور دوبارہ لکھنے کے بعد اس کا اثر کم ہو جاتا ہے۔

WM-Basin کیسے ڈسٹلیٹڈ AI ماڈلز کو ڈیٹیکٹ کرتا ہے؟

WM-Basin، ایک الگ، صاف پروب ماڈل کا استعمال کرتا ہے جو شک کی جانے والی ڈسٹلڈ ماڈلز کے ذریعہ تخلیق کیے گئے متن کا تجزیہ کرتا ہے۔ میٹا FAIR اور میٹا سپر انٹیلی جنس لیبز کے تحقیق کاروں نے اس طریقہ کار کو "Watermark Basins: Black-Box Detection of Distilled LLMs" عنوان سے arXiv:2610.37266 نمبر والے پیپر میں پیش کیا ہے۔

یہ تحقیق ایک خاص کاپی اسکینریو کو دریافت کرتی ہے: کوئی API کے ذریعے واتر مارک والے ٹیچر ماڈل کے جوابات جمع کرتا ہے، اور پھر ان جوابات کا استعمال کرکے ایک طالب علم ماڈل تربیت دیتا ہے۔ WM-Basin صرف طالب علم ماڈل کے ذریعہ تخلیق کردہ متن کا استعمال کرتا ہے تاکہ اس تربیت کے تعلق کے ثبوت تلاش کیا جا سکے۔

ڈیٹیکٹر ان ٹیکسٹس کو ایک فکسڈ پروب ماڈل میں داخل کرتا ہے اور انہیں گریڈینٹ رپریزینٹیشن میں تبدیل کرتا ہے — یعنی یہ دیکھتا ہے کہ اگر ان ٹیکسٹس کو استعمال کرکے پروب ماڈل کو فائن ٹیون کیا جائے تو پیرامیٹرز کس طرح حرکت کریں گے۔ اس کے بعد، یہ عام فائن ٹیوننگ کی سمت اور پیرامیٹر سپیس میں کسی خاص کلید سے متعلق "واٹر مارک بیسن" کے درمیان مطابقت کو الگ کرتا ہے۔

یہ ٹیکنالوجی کو ایک بلیک باکس تجزیہ طریقہ بناتی ہے: مشکوک ماڈل کے وزن یا لاجٹس تک رسائی کی ضرورت نہیں۔ صرف API کے ذریعے متن کے جوابات حاصل کرنا کافی ہوتا ہے۔

1,200 طلبہ ماڈلز پر 79% ڈیٹیکشن ریٹ

محققین کے مطابق، n-gram=1 کے استعمال کے ساتھ، WM-Basin کی درست مثبت شرح 79% ہے، جبکہ جھوٹے مثبت شرح 0.1% تک محدود ہے؛ اسی شرط کے تحت، پچھلے طاقتور ترین بلیک باکس ٹوکن لیول ڈیٹیکٹر کی درست مثبت شرح صرف 29% تھی۔

مصنف نے یہ بھی اشارہ کیا کہ جب پتہ لگانے کی حد زیادہ سخت ہو جائے اور n-gram ونڈو بڑھ جائے، تو WM-Basin کا مقابلہ کرنے والے طریقوں کے مقابلے میں فرق مزید بڑھ جائے گا۔

کل 1,200 طلبہ کے ماڈلز کا جائزہ لیا گیا، جن کا سائز 135 ملین سے لے کر 82 ارب پیرامیٹرز تک مختلف ہے۔ تحقیق کاروں نے ان ماڈلز کو OpenR1-Math سے لی گئی ریاضی کی استدلال ٹریسز کے ذریعے تربیت دی، جس میں ستہ کلاس کے طلبہ کے آرکیٹیکچر، متعدد ٹیچر ماڈلز اور مختلف واتر مارک طریقے شامل ہیں۔

یہ نتائج کاغذ کے ریاضیاتی استدلال جائزہ میں مختصر AI ماڈلز کی تشخیص کی صلاحیت میں اضافے کے نتائج کی تائید کرتے ہیں۔

کون سے تبدیلیاں ڈیٹیکشن کے اثر کو برقرار رکھیں گی یا کمزور کریں گی؟

محققین نے پایا کہ WM-Basin کا检测 سگنل مقداری، کٹنے اور تربیت کے بعد بھی موجود رہتا ہے۔ مقداری کرنا ماڈل کو دبایا جاتا ہے تاکہ چلانے کا خرچ کم ہو، جبکہ کٹنا کچھ پیرامیٹرز کو ختم کرتا ہے۔

ٹوکن لیول کے سگنل کمزور ہونے پر بھی یہ طریقہ زیادہ قابل اعتماد رہتا ہے، جس میں کم درجہ حرارت کے نمونہ لینے کے دوران بھی شamil ہے۔

تاہم، دیگر تبدیلیاں اس کے اثر کو کم کر دیں گی۔ صاف، ویٹر مارک کے بغیر ڈیٹا کا استعمال کرتے ہوئے بڑے پیمانے پر فائن ٹیوننگ سے ڈیٹیکشن کی صلاحیت کمزور ہو جائے گی، اور اساتذہ ماڈل کے استدلال کے راستوں کو دوبارہ لکھنا ایک اور ممکنہ بچنے کا طریقہ فراہم کرتا ہے۔ مصنفین خاص طور پر اشارہ کرتے ہیں کہ بے ویٹر مارک مواد پر نگرانی کے ساتھ فائن ٹیوننگ ان طریقوں میں سے ایک ہے۔

AI ڈیولپرز کے لیے ویٹر مارک ثبوت

بہتر ڈیٹیکشن ریٹ اور کم فیک مثبت ریٹ، ویٹر مارکنگ کے بنیاد پر ثبوت کو قانونی یا معاہدہ سطح پر ماڈل کی نقل کا دعویٰ کرنے کے لیے زیادہ طاقتور بناسکتی ہے۔ اس قسم کے استعمال کے لیے، فیک مثبت ریٹ خاص طور پر اہم ہے، کیونکہ یہ کامیاب شناخت کے بجائے غلط مثبت کی نشاندہی کرتا ہے۔

WM-Basin کی رپورٹ میں، 0.1% فیک فراڈ ریٹ کے تحت 79% سچے مثبت ریٹ حاصل کیا گیا، جبکہ پہلے کے ٹوکن لیول طریقے میں 29% تھا۔ متعلقہ ٹیسٹ OpenR1-Math ریاضی استدلال ٹریجکٹری پر تربیت پانے والے اسٹوڈنٹ ماڈل پر کیے گئے۔

یہ مضمون مصنوعی ذہانت کی مدد سے تیار کیا گیا اور ایڈیٹنگ ٹیم نے اس کا جائزہ لیا۔

فرانچیسکو انٹونیو روسو

ویب 3.0 کے کاروباری، جنہوں نے کریپٹو کرنسی اور آرٹیفیشل انٹیلی جنس پر 4 سال سے زائد تجربہ حاصل کیا ہے۔ وہ فنکشنل اور ٹرینڈ-آریئنٹڈ سوشل میڈیا مینجمنٹ کے لیے متعدد شعبوں کے مہارت استعمال کرتے ہیں۔

اعلان دستبرداری: اس صفحہ پر معلومات تیسرے فریق سے حاصل کی گئی ہوں گی اور یہ ضروری نہیں کہ KuCoin کے خیالات یا خیالات کی عکاسی کرے۔ یہ مواد کسی بھی قسم کی نمائندگی یا وارنٹی کے بغیر صرف عام معلوماتی مقاصد کے لیے فراہم کیا گیا ہے، اور نہ ہی اسے مالی یا سرمایہ کاری کے مشورے کے طور پر سمجھا جائے گا۔ KuCoin کسی غلطی یا کوتاہی کے لیے، یا اس معلومات کے استعمال کے نتیجے میں کسی بھی نتائج کے لیے ذمہ دار نہیں ہوگا۔ ڈیجیٹل اثاثوں میں سرمایہ کاری خطرناک ہو سکتی ہے۔ براہ کرم اپنے مالی حالات کی بنیاد پر کسی پروڈکٹ کے خطرات اور اپنے خطرے کی برداشت کا بغور جائزہ لیں۔ مزید معلومات کے لیے، براہ کرم ہماری استعمال کی شرائط اور خطرے کا انکشاف دیکھیں۔