DeepSeek、DeepSpecフレームワークをオープンソース化し、V4モデルの速度を最大85%向上

動察 Beating の監測によると、DeepSeek は北京大学と共同で、投机サンプリング加速フレームワーク「DSpark」の技術レポートを公開し、フルスタックコードライブラリ「DeepSpec」をオープンソース化しました。現在、DSpark は DeepSeek-V4 の本番環境に導入されています。出力の損失を保ちながら、DSpark は Flash 版の単一ユーザー生成速度を 60% から 85% 向上させ、Pro 版の速度を 57% から 78% 向上させました。DSpark は、従来の単トークン複数枝予測（MTP-1）ベースラインを上回り、厳格な遅延制約下でシステム全体のスループットを大幅に向上させました。 これまで、複数トークン投机サンプリングは本番環境への実装が困難でした。自己回帰ドラフトモデルの生成が遅すぎ、並列ドラフトモデルは各位置が独立して予測するため、長シーケンスの後半部分の受容率が極めて低かったのです。高並列環境で無計画に複数トークンドラフトを検証すると、大規模モデルは明らかに拒否される誤りの検証に大量の計算リソースを消費し、システム全体のスループットが深刻に低下するため、業界では本番環境で単一トークン予測（MTP-1）に限定されてきました。 DSpark は高並列環境下でのスループット劣化ボトルネックを克服しました。DSpark はまず DFlash 並列バックボーンネットワークで隠れ状態を生成し、その後、極めて軽量なマルコフヘッドを追加します。マルコフヘッドはテーブル参照と1回の行列演算により、極めて低コストで隣接単語の関連性を直列に注入します。また、システムは信頼度予測ヘッドと事後補正アルゴリズムを統合しています。本番環境でのゼロオーバーヘッドスケジューリングとの完全互換性を確保し、未来情報のリークを防ぐため、スケジューラは非同期メカニズムを採用し、2ステップ前の履歴予測を利用して候補語のカット長を動的に決定し、大規模モデルが高負荷時にリスクの高い末尾誤りを検証することを完全に防止します。 DSpark に加えて、DeepSeek は今回、DeepSpec コードライブラリをオープンソース化し、Qwen3 や Gemma などのオープンソース大規模モデルを内蔵サポートしています。DeepSpec は、プロンプトのダウンロードから大規模モデルキャッシュの再構築、ドラフトモデルの訓練、ベンチマーク評価までの一連の Python ツールチェーンを提供します。開発者はオープンソーススクリプトを直接利用し、ローカル環境でさまざまなオープンソース大規模モデル向けに専用の加速モジュールをカスタマイズしてデプロイできます。