BitPush News: Baidu has open-sourced the model weights of Wenxin ERNIE-5.5-Flash-Base. Following the Wenxin 4.5 series in June 2025, Baidu has once again open-sourced a trillion-parameter large model after approximately 16 months. The previously released Wenxin 5.0 and 5.1 were not open-sourced.
Wenxin 5.5 Flash ориентирован на эффективность рассуждения, общее количество параметров — 280 миллиардов, при генерации каждого токена активируется только 14 миллиардов параметров. Модель была предобучена с нуля на 33,5 триллионах токенов и поддерживает контекст рассуждения до 1 миллиона токенов.
Baidu также переработала механизм обработки длинных текстов. В сети из 43 слоев 37 слоев сжимают каждые 128 исторических токенов в одну запись кэша, а еще 6 слоев сохраняют возможность точного доступа к исходному содержанию, чтобы снизить потребление видеопамяти и вычислительные затраты при обработке длинных текстов.
Он был унифицированно оценен вместе с DeepSeek-V4-Flash-Base, Tencent Hy3-preview-Base и Xiaomi MiMo-V2.5-Base, заняв первое место в 24 из 30 тестовых наборов.
Сейчас доступна чистая текстовая базовая модель без предварительной и последующей настройки, предназначенная в первую очередь для разработчиков, желающих продолжить тонкую настройку в конкретной области, обучение по инструкциям и усиление обучения. Baidu заявила, что после этого будет выпущена послеобученная модель Wenxin 5.5 Flash.
Лицензия строже, чем у предыдущего поколения. Wenxin 4.5 использует лицензию Apache 2.0, а Wenxin 5.5 Flash перешел на пользовательскую лицензию, не предоставляющую права на использование в Европейском союзе, Великобритании и Республике Корея. Если связанные продукты или услуги имели доход более 50 миллионов долларов США за последние непрерывные 12 месяцев, для коммерческого использования необходимо отдельное письменное разрешение от Baidu.