يقترح ورقة جديدة تدريبًا شاملاً للنماذج التوليدية عبر النمذجة الاستكشافية

في عام 2012، أنهت AlexNet عصرًا بفوز ساحق. قبل ذلك، كان التعرف على الصور يعتمد على تصميم يدوي لسلسلة من خطوات استخراج الميزات؛ وأثبتت AlexNet شيئًا تم التحقق منه مرارًا وتكرارًا لاحقًا: أن توكيل المهمة بالكامل للنموذج ليتعلمها من البداية إلى النهاية، يتفوق تقريبًا دائمًا على خطوط الإنتاج المُصممة بعناية من قبل البشر.

من تصنيف الصور إلى كشف الأهداف ثم تقسيم الصور، خلف كل قفزة في التعلم العميق تكمن نفس الجملة: اتركه يتعلمها كلها دفعة واحدة.

هناك مجال واحد فقط يظل استثناءً: النماذج التوليدية.

أقوى نماذج التوليد وأكثرها قابلية للتوسع اليوم (سواء كانت نموذجًا تلقائيًا أو انتشاريًا) ليست نماذج نهاية إلى نهاية.

تم تدريبها فقط على توقع "خطوة صغيرة واحدة"، ولكن أثناء الاستدلال، يجب أن تُكرّر هذه الخطوة مئات أو آلاف المرات كما في الشبكات التكرارية.

طرق العينات المستخدمة للتدريب والاستدلال ليست نفسها. هذا الفجوة تُعيد إثارة مشكلة قديمة: خطوة واحدة تُدخل خطأها إلى الخطوة التالية، مما يؤدي إلى انحراف تدريجي عن التوزيع الذي تم رؤيته أثناء التدريب، مع تراكم الأخطاء طبقةً بعد طبقة. في الأوساط الأكاديمية، يُطلق على هذا "تحيز التعرض" (exposure bias).

بعبارة أخرى، فإن الدروس الأساسية الأكثر أهمية في التعلم العميق، وهي "النهاية إلى النهاية أفضل"، لم تُطبّق فعليًا على نماذج التوليد على مدار أكثر من عقد ونصف.

وفي الآونة الأخيرة، حاولت ورقة بحثية من جامعة إيلينوي في أوربانا-شامبين وهارفارد سد هذه القطعة الأخيرة من اللغز.

أطلق المؤلف على هذا النموذج الجديد اسم "Explorative Modeling" (النمذجة الاستكشافية)، ويُشار إليه اختصارًا بـ XM. فكرته بسيطة لدرجة تكاد تكون بسيطة، لكنها تؤدي إلى استنتاج جريء: إن النماذج التوليدية، بالإضافة إلى المعلمات والبيانات، لديها محور ثالث يمكن تكبيره.

موقع المشروع: https://explorative-modeling.github.io

رابط الورقة البحثية: https://arxiv.org/abs/2607.27372

مستودع الكود: https://github.com/alexiglad/XM

لفهم ما تحله هذه الورقة، يجب أولاً فهم صعوبة التوليد.

في التعلم الخاضع للإشراف العادي (مثل التصنيف)، يكون هناك إجابة صحيحة واحدة فقط لكل مدخل، لذا يكفي أن يتعلم النموذج خريطة محددة.

لكن النتائج تختلف. عندما تطلب من النموذج "إنشاء كلب"، قد تكون الإجابة الصحيحة حتى ذات عدد لا نهائي من الاحتمالات. هذه المخرجات القانونية هي في الواقع modes فردية ضمن توزيع البيانات (أي القمم المستقلة داخل التوزيع). الصعوبة في التوليد تكمن في ضرورة التقاط كل هذه الـ modes في آنٍ واحد.

المشكلة تكمن في أن النماذج التوليدية الرئيسية تُدرَّب باستخدام خسارة إعادة البناء (مثل الخطأ التربيعي). عندما يُزَوَّد مدخل واحد بعديد من الأهداف القانونية المختلفة عشوائيًا، فإن أفضل حل يمكن أن تقدمه خسارة إعادة البناء هو متوسط هذه الأهداف. أما بالنسبة لأغلب البيانات، فإن المتوسط لا يقع على متعدد الأشكال للبيانات، بل يقع بين عدة أوضاع، ولا يشبه أيًا منها.

الرسم البياني في الورقة واضح جدًا: عندما يُطلب من النموذج التنبؤ مباشرة من المدخلات إلى المخرجات دون أي حيل، فإنه سيتوقع ثلاث مجموعات من النقاط المبعثرة كنقطة واحدة في المنتصف، وستصبح صورة كلب مشوشة، وستختزل جملة إلى تكرار كلمة "the" إلى الأبد. هذا ما يُعرف بـ"الضبابية الوضعية" (mode blurring)، أي أن الحل الأمثل هو بالضبط الإجابة الأقل تشابهًا مع البيانات الحقيقية.

كيف تتجاوز النماذج الحالية هذا؟ الإجابة هي تقسيم عملية "الإنشاء" إلى خطوات صغيرة. فالنماذج التكرارية تتنبأ بعنصر واحد فقط في كل مرة، والنماذج التفريقية تزيل قليلاً من الضوضاء في كل خطوة، بحيث يُختصر هدف كل خطوة صغيرة إلى ما يكاد يكون وضعًا واحدًا فقط، وبالتالي لا يعود فقدان إعادة البناء يأخذ المتوسط.

إن عملية "التفكيك والتكوين" هذه هي ما يجعل التشتت والانحدار الذاتي قادرين على إنتاج عينات عالية الجودة، لكنها أيضًا ما يمنع النموذج من أن يكون طرفًا إلى طرف.

من هنا، يطرح المؤلف سؤالًا أساسيًا: إن نموذج التوليد لا يمتلك سوى شيئين يمكن تفكيكهما: كيفية التوليد، وكيفية التدريب.

إذا كان تفكيك التوليد سيُدمّر التدفق الكامل، فلماذا لا نفكّك التدريب؟

Explorative Modeling يفكك دورة التدريب نفسها.

يمكن توضيح آلية عمله بجملة واحدة: في كل خطوة تدريب، لا يولد النموذج عينة واحدة فقط لمحاولة تحقيق الهدف، بل يولد K مرشحًا، ثم يختار فقط أقربها إلى البيانات الحقيقية للتدريب ونقل التدرجات. وقد نفذوا هذا في الورقة كحلقة for مكونة من 3 إلى 5 أسطر، وهو بسيط لدرجة تثير الشك (الخوارزمية 1).

لماذا يحل هذا المشكلة في حالة التمويه؟

غيّر سياق الحياة: تخمن مكان سقوط السهام. إذا سُمح لك بالتخمين مرة واحدة فقط، فإن أفضل استراتيجية هي تخمين الموقع المتوسط لجميع السهام، لكن هذا غالبًا ما يكون مكانًا لا توجد فيه سوى بضع سهام على اللوحة. لكن إذا سُمح لك بالتخمين K مرات، وتم احتساب النقاط فقط بناءً على أقرب تخمين، فتتغير الاستراتيجية المثلى فورًا: ستوزع تخميناتك بحيث يغطي كل تخمين مجموعة مختلفة من نقاط السقوط.

نفس الشيء ينطبق على النموذج. عندما يُسمح له باستكشاف K من المرشحين، فإن ضوضاء المدخلات المختلفة ستُنسب كل منها إلى mode مختلف، بدلاً من ازدحامها جميعًا في المنتصف لأخذ المتوسط. كم مرة يتم الاستكشاف، يلتقط النموذج بثبات هذا العدد من الـ modes.

أطلق المؤلف اسم "القدرة التوليدية التعبيرية" (generative expressivity) على هذه القدرة المهمَلة لفترة طويلة، وأشار إلى أنها تُحدَّد بواسطة هدف التدريب نفسه، بغض النظر عن كمية المعلمات والبيانات التي تضيفها، فهي لن تزداد تلقائيًا.

وهذا يفسر أيضًا الظاهرة الغريبة التي لوحظت في الصناعة منذ فترة طويلة: لماذا تعتمد أفضل النماذج اليوم بشكل كبير على تقنية "الإرشاد" (guidance).

ما يُسمى التوجيه الخالي من الطبقات، جوهره دفع التنبؤ "بعيدًا" عن المتوسط الغامض. لكن إذا لم يكن النموذج غامضًا من الأساس، فلماذا ندفعه؟ إن التوجيه مفيد بالضبط بسبب العيوب الناتجة عن الغموض في الوضع.

كما قدمت الورقة اتجاهين للبحث: الأمامي والعكسي. يُثبّت الأول هدفًا حقيقيًا واحدًا ويبحث عن أقرب توليد في إنشاءاته، وهو ما يميل نحو "الشمولية" (تغطية جميع الوضعيات)؛ بينما يُثبّت الثاني توليدًا واحدًا ويبحث عن أقرب بيانات حقيقية، وهو ما يميل نحو "الدقة"، مع زيادة شبه معدومة في تكلفة الحوسبة، لكن بثمن محتمل هو الانكماش إلى عدد قليل من الوضعيات. يكمل كلا الاتجاهين بعضهما البعض ويمكن دمجهما معًا.

الاستنتاج الأكثر أهمية في هذه الورقة هو تحويل "الاستكشاف" إلى محور توسعة حقيقي.

قام المؤلف بتطبيق الاستكشاف على نماذج الانتشار/التدفق، ونماذج Jumpy، وحتى نماذج الانتشار اللغوي الم масك، ولاحظ تحسينًا منتظمًا في الأداء عبر ثلاثة أنماط: الصور والفيديو واللغة. والأهم من ذلك، أن المكاسب تزداد مع التوسع: كلما زاد الحجم، زادت الفائدة بشكل أكبر.

الأرقام المقدمة في الورقة هي: مع نمو حجم البيانات، زادت المكاسب الناتجة عن الاستكشاف من 7% إلى 36%؛ مع زيادة حجم النموذج، ارتفعت من 13% إلى 23%؛ وعندما تضاعفت القدرة الحسابية ثلاثة أضعاف، تضاعفت مكاسب الكفاءة أكثر من مرتين.

من حيث الكفاءة، تم تحسين كفاءة FLOP بنسبة 4.1 مرات، وكفاءة العينات بنسبة 6.2 مرات، وكفاءة المعلمات بنسبة 47%. وفي توليد الصور، دفعت هذه الطريقة وصفة RAE الأقوى حاليًا إلى تحقيق FID قدره 1.43 بدون توجيه على ImageNet، مما يقترب من أفضل مستويات الصناعة.

نموذج كبير يستكشف 5 أوضاع، ويمكنه حتى تجاوز نموذج XLarge يحتوي على 47% معلمات إضافية دون استكشاف.

لا تُعدّ هذه الاتجاهات صغيرة الدلالة. شرح المؤلف أنّه عند الحجم الصغير، تكون النماذج محدودة أساسًا بالمعالم والبيانات، والتعبير التوليدي ليس بعدُ عائقًا؛ لكن بمجرد زيادة المعالم والبيانات إلى درجة لم تعد فيها قيودًا، يصبح التعبير التوليدي تدريجيًا العائق الحقيقي. وهو بالضبط ما يُستكشف كشيء يمكن تكبيره مباشرة.

نظرًا لتدريب النماذج الأساسية الحقيقية حاليًا باستخدام قوة حوسبة تزيد بنحو أربعة أرقام عشرية عن أكبر تجربة في هذه الورقة، يرى المؤلفون أن الأرقام المذكورة في الورقة هي على الأرجح حد أدنى للعائدات في المقاييس الأكبر.

ماذا يحدث إذا دفعت الاستكشاف إلى الحد الأقصى؟ الإجابة تعود إلى التشويق الأولي: أصبحت النماذج التوليدية قادرة الآن على التنفيذ الكامل من البداية إلى النهاية.

قام المؤلف بمعالجة XM كنموذج مستقل من طرف إلى طرف لمهام التحكم بالروبوتات. في تقليد السلوك (Behavior Cloning)، حقق سياسة الاستكشاف الخاصة بهم أداءً مساويًا أو أفضل من سياسة التشتت التي تتطلب 100 عملية تقدمية، باستخدام عملية تقدمية واحدة فقط؛ وفي نمذجة العالم المستندة إلى الهدف، حققت نموذج العالم الاستكشافي أداءً متوسطًا أفضل باستخدام قوة حوسبة استنتاجية أقل بـ 16 إلى 256 مرة مقارنةً بـ Diffuser.

مصدر هذا الفرق واضح: نماذج الانتشار تُنتج النتائج خلال الاستدلال باستخدام مئات الخطوات مقابل التعبيرية، بينما ينقل XM المتكامل هذه التكلفة إلى استكشاف التدريب، مما يجعل الاستدلال يتطلب خطوة واحدة فقط للأمام. معالجة "العدة أوضاع" هي نفس الشيء: إما تقسيمها ببطء أثناء الاستدلال، أو استكشافها بالكامل أثناء التدريب؛ اختار هذا البحث الخيار الثاني.

الكاتب الأول للورقة، أليسي غلادستون، ليس غريبًا. ففي يوليو 2025، أثار عمله القيادي على Transformers القائمة على الطاقة (EBT) نقاشًا كبيرًا على منصات التواصل الاجتماعي.

ادّعى هذا العمل أنه تفوق لأول مرة على منحنى التوسع للـ Transformer التغذوي الأمامي القياسي عبر عدة أبعاد، وحاول تعميم "التفكير النظامي 2" على أي وضع. راجع تقرير MachineHeart: "جاء النموذج الجديد! نموذج الطاقة الجديد يكسر حدود توسع Transformer++، بسرعة توسع تدريب أعلى بـ 35%".

نموذج الاستكشاف يتوافق تمامًا مع منهجيته المعتادة: فهو يطرح دائمًا سؤالًا حول "ما إذا كان يمكن للنموذج أن يقوم، عبر طريقة بحث أو استكشاف معينة، بأشياء لا يمكن تحقيقها في خطوة تقدّمية واحدة". كما أن هذه الورقة تُبنى على نظرية أخرى طوّرها هو ومشاركوه (ييلون دو وهينغ جي) تُسمى Mode Forcing. وتُقر الورقة صراحةً بأنه بسبب وجود هذه النظرية مسبقًا، تم التنبؤ بمعظم نتائج XM نظريًا قبل التحقق منها تجريبيًا، وهو أمر نادر في مجال التعلم العميق، الذي يعتمد عادةً على "إجراء التجارب أولًا ثم تفسير النتائج لاحقًا".

كما اعترف المؤلف بصدق بالقيود: فكرة "best-of-K" ليست جديدة على الإطلاق، فقد تم تنفيذها من قبل العديد من الباحثين؛ إن إسهامهم الحقيقي هو فهم الدور الدقيق الذي تلعبه هذه الحلقة البسيطة: إنها تُضخم قدرة التعبير التوليدية مباشرةً دون تقسيم عملية التوليد.

بالإضافة إلى ذلك، لا تزال نماذج اللغة التكرارية هي الأكثر صعوبة، ولا تزال Forward XM الصرفة مكلفة جدًا على التوزيعات ذات الوضعيات المتعددة جدًا (مثل توليد الصور)، وتم تأجيل هذه الأمور إلى أعمال لاحقة.

لعقودٍ عديدة، اعتدنا على استخدام مفتاحين لضبط النماذج التوليدية: جعلها أكبر، وإطعامها المزيد من البيانات.

المفتاح الثالث الذي اقترحه البحث بسيط نسبيًا: اجعل النموذج يُجري تنبؤات متعددة واحتفظ فقط بأفضل تنبؤ واحد. لكن إذا كانت الاتجاهات التي كشف عنها صحيحة، فمع استمرار التوسع، ستصل المفتاحان الأولان حتمًا إلى حدودهما، بينما يبدأ المفتاح الثالث للتو في الدوران.

رابط المرجع

https://x.com/AlexiGlad/status/2083230922196107288

هذا المقال من حساب WeChat "Machine Heart" (ID: almosthuman2014)، الكاتب: Panda