DeepSeek Membuka Sumber Kerangka DeepSpec, Meningkatkan Kelajuan Model V4 sehingga sehingga 85%

Berdasarkan pemantauan Beating, DeepSeek bekerjasama dengan Universitas Peking telah menerbitkan laporan teknis mengenai kerangka kerja percepatan pengambilan spekulatif DSpark, serta membuka sumber kode penuh DeepSpec. Saat ini, DSpark telah diterapkan pada operasi langsung DeepSeek-V4. Dengan menjamin output tanpa kehilangan informasi, DSpark meningkatkan kecepatan generasi pengguna tunggal versi Flash sebesar 60% hingga 85%, dan versi Pro sebesar 57% hingga 78%. DSpark menunjukkan kinerja yang melampaui baseline MTP-1 (Multi-Token Prediction-1), secara signifikan meningkatkan throughput sistem secara keseluruhan di bawah batas latensi yang ketat. Sebelumnya, pengambilan spekulatif multi-token sulit diterapkan di lingkungan produksi langsung. Model draf autoregresif terlalu lambat, sementara model draf paralel, karena memprediksi setiap posisi secara independen, menghasilkan tingkat penerimaan yang sangat rendah pada bagian akhir urutan panjang. Jika verifikasi draf multi-token dilakukan secara sembarangan di bawah beban tinggi, model besar akan membuang sejumlah besar daya komputasi untuk memverifikasi kesalahan yang pasti ditolak, menyebabkan throughput sistem secara keseluruhan kolaps parah; oleh karena itu, industri secara umum hanya membatasi diri pada prediksi satu token (MTP-1) di lingkungan produksi. DSpark mengatasi hambatan penurunan throughput di bawah beban tinggi. DSpark terlebih dahulu menggunakan jaringan utama paralel DFlash untuk menghasilkan status tersembunyi, kemudian menambahkan kepala Markov yang sangat ringan. Kepala Markov menyuntikkan korelasi kata berturut-turut secara serial dengan biaya sangat rendah melalui pencarian tabel dan satu operasi perkalian matriks. Selain itu, sistem mengintegrasikan kepala prediksi kepercayaan dan algoritma kalibrasi posterior. Untuk kompatibilitas sempurna dengan penjadwalan nol-overhead di lingkungan produksi dan mencegah kebocoran informasi masa depan, penjadwal menggunakan mekanisme asinkron, memanfaatkan prediksi historis dua langkah sebelumnya untuk secara dinamis menentukan panjang pemotongan kandidat kata, sehingga sepenuhnya mencegah model besar memverifikasi kesalahan ekstrem berisiko tinggi di bawah beban berat. Selain DSpark, perpustakaan kode DeepSpec yang dibuka oleh DeepSeek kali ini secara bawaan mendukung model besar open-source seperti Qwen3 dan Gemma. DeepSpec menyediakan rangkaian alat Python lengkap mulai dari unduhan prompt, rekonstruksi cache model besar, pelatihan model draf, hingga evaluasi benchmark. Pengembang dapat langsung menggunakan skrip open-source untuk menyesuaikan dan menerapkan modul percepatan khusus untuk berbagai model besar open-source secara lokal.