حكومة ريو دي جانيرو تطلق نموذج ذكاء اصطناعي بـ 397 مليار معلمة مع تحسين الاستدلال الضمني

ME AI رسالة، وفقًا لمراقبة Beating، أطلقت شركة IplanRIO التابعة لبلدية ريو دي جانيرو البرازيلية نموذج Rio-3.5-Open-397B مفتوح المصدر على Hugging Face. تم تدريب النموذج بعد Qwen 3.5 397B باستخدام بنية MoE، بإجمالي معلمات حوالي 397 مليار، مع تنشيط حوالي 17 مليار معلمة لكل Token، ويدعم سياقًا يصل إلى حوالي مليون Token، وتم إطلاقه بموجب ترخيص MIT. تُظهر بطاقة النموذج أن Rio-3.5-Open-397B يدمج إطار عمل SwiReasoning للاستدلال. SwiReasoning هي طريقة استدلال لا تتطلب تدريبًا، وتنتقل بين الاستدلال الصريح في سلسلة التفكير والاستدلال الضمني في الفضاء المتجهي بناءً على تغيرات إنتروبيا المعلومات. يُستخدم الاستدلال الصريح لكتابة الاستنتاجات كـ Tokens بلغة طبيعية، بينما يستكشف الاستدلال الضمني مسارات متعددة في الفضاء المخفي، مما يقلل من الإخراج النصي غير الضروري. أظهرت الاختبارات التي كشف عنها الفريق أنه عند تفعيل الاستدلال الضمني، حصل Rio-3.5-Open-397B على درجة 58.1 في SWE-Bench Pro و89.5 في IMOAnswerBench. كمقارنة، حصلت النسخة الأصلية من Qwen 3.5 397B على درجات 50.9 و80.9 على التوالي، بينما حصلت النسخة المُدربة لاحقًا دون تفعيل الاستدلال الضمني على درجات 54.8 و84.5. أي أن الاستدلال الضمني لم يضاعف الأداء المطلق للنموذج، لكنه قرب الزيادة النسبية مقارنة بالنموذج الأساسي من الضعف تقريبًا. التوافق هو القيود الرئيسية. أكد أعضاء الفريق في منتدى Hugging Face أن هذه النتائج المنشورة تم تحقيقها بعد تفعيل SwiReasoning. يتطلب SwiReasoning إدخال متجهات "إدخال ناعم" متصلة موزونة بالاحتمالات أثناء الاستدلال، ولا يمكن لمحركات الاستدلال مثل llama.cpp التي تدعم فقط إنتاج معرفات Token منفصلة تنفيذها بشكل كامل حاليًا. أشار الفريق إلى أن النموذج لا يزال أقوى بكثير من النسخة الأصلية من Qwen 3.5 397B عند عدم تفعيل الاستدلال الضمني، لكن القدرة الكاملة تتطلب توافق إطار الاستدلال مع إدخالات المتجهات الناعمة. (المصدر: BlockBeats)