جوجل ديب مايند تُطلق مفتوحة المصدر عائلة نماذج Gemma 4 متعددة الوسائط

أخبار ME، في 3 أبريل (UTC+8)، أطلقت Google DeepMind مؤخرًا عائلة نماذج Gemma 4 متعددة الوسائط مفتوحة المصدر. تدعم هذه السلسلة من النماذج المدخلات النصية والصور (تدعم النماذج الصغيرة أيضًا الصوت)، وتولد مخرجات نصية، وتشمل إصدارات مُدرَّبة مسبقًا ومُعدَّلة حسب التعليمات، مع نافذة سياقية تصل إلى 256K رمز، وتدعم أكثر من 140 لغة. تستخدم النماذج هندستين: كثيفة (Dense) وخبراء مختلطين (MoE)، وتتوفر بأربعة أحجام: E2B وE4B و26B A4B و31B. تشمل قدراتها الأساسية الاستدلال عالي الأداء، ومعالجة متعددة الوسائط موسعة، وتحسينات على الجهاز، وتوسيع نافذة السياق، وتعزيز القدرة على الترميز والوكيل، ودعم إرشادات النظام الأصلية. من حيث التفاصيل التقنية، تستخدم النماذج آلية انتباه مختلطة، مع استخدام أزواج المفاتيح والقيم الموحدة ونسبة RoPE (p-RoPE) في الطبقات العالمية. كما تستخدم نماذج E2B وE4B تقنية التضمين الطبقي التدريجي (PLE)، حيث تكون المعلمات الفعالة أقل من إجمالي المعلمات. وفي نموذج 26B A4B MoE، يتم تفعيل 3.8B معلمة فقط أثناء الاستدلال، مما يجعل سرعته قريبة من نموذج بـ 4B معلمة. (المصدر: InFoQ)