報道によると、百度はオープンソースの文心 ERNIE-5.5-Flash-Base モデルの重みを公開しました。2025年6月の文心4.5シリーズに続き、百度は約16ヶ月ぶりに千億パラメータ級の大規模モデルをオープンソース化しました。その間に発表された文心5.0および5.1はいずれもオープンソース化されていません。
文心 5.5 Flash は推論効率を強調し、総パラメータ数は2800億で、1つのトークンを生成する際に活性化されるパラメータは140億のみです。モデルは33.5兆トークンを使用してゼロから事前学習され、最大100万トークンの推論コンテキストをサポートします。
百度は長文処理メカニズムを再設計しました。43層のネットワークのうち、37層は128個の履歴トークンを1つのキャッシュレコードに圧縮し、残り6層は元のコンテンツに対する細かい検索機能を維持することで、長文処理のVRAMおよび計算オーバーヘッドを削減しています。
公式により、DeepSeek-V4-Flash-Base、騰訊 Hy3-preview-Base、小米 MiMo-V2.5-Base と統一評価を実施し、30のベンチマークテストのうち24で1位を獲得しました。
本次提供的是未经预训练和后训练的纯文本Base模型,主要供开发者进行领域微调、指令训练和强化学习。百度表示,经过后训练的文心5.5 Flash将随后推出。
ライセンスは前世代よりも厳格になりました。文心4.5はApache 2.0ライセンスを採用していますが、5.5 Flashはカスタムライセンスに変更され、EU、英国、韓国での使用は許可されていません。関連製品またはサービスが過去12ヶ月間の売上高が5,000万ドルを超える場合、商用利用前に百度の書面による別途承認が必要です。

