Beating İzleme'ye göre, DeepSeek, Pekin Üniversitesi ile birlikte spekülatif örnekleme hızlandırma çerçevesi DSpark'ın teknik raporunu yayınladı ve tam yığın kod kitaplığını DeepSpec olarak açık kaynak hale getirdi. Şu anda DSpark, DeepSeek-V4 üretim hattında kullanılmaktadır. Çıktı kaybı olmadan, DSpark Flash sürümünde tek kullanıcı başına üretim hızını %60 ile %85 arasında artırırken, Pro sürümünde %57 ile %78 arasında hızlanma sağlamaktadır. DSpark, mevcut tek Token çoklu dal tahmini (MTP-1) temelini aştı ve sıkı gecikme sınırları altında sistemin genel verimliliğini önemli ölçüde artırdı. Daha önce, çok Token spekülatif örnekleme üretim ortamlarında uygulanamıyordu. Oto-regresif taslak model çok yavaş üretiyordu; paralel taslak modeller ise her konumda bağımsız tahmin yaptığından uzun dizilerin son kısmında kabul oranı çok düşüktü. Yüksek eşzamanlılık altında çok Token taslaklarını körükçe doğrulamak, büyük modellerin doğrulanması kesinlikle reddedilecek hataları onaylamak için büyük miktarda hesaplama gücü harcamasına neden olurdu ve bu da sistemin genel verimliliğini ciddi şekilde bozuyordu. Bu nedenle endüstri, üretim ortamlarında genellikle tek Token tahmini (MTP-1) ile sınırlı kalmıştı. DSpark, yüksek eşzamanlılık altında verimlilik düşüşü sınırlarını aştı. DSpark, önce DFlash paralel ana ağını kullanarak gizli durumları üretir, ardından son derece hafif bir Markov kafası ekler. Markov kafası, bir tablo araması ve tek bir matris çarpımı ile çok düşük maliyetle komşu kelimeler arasındaki ilişkileri seri olarak entegre eder. Aynı zamanda sistem, güvenilirlik tahmini kafası ve posterior kalibrasyon algoritmasını entegre eder. Üretim ortamına sıfır maliyetli zamanlama ile mükemmel uyum sağlamak ve gelecek bilgisi sızıntısını önlemek için zamanlayıcı, asenkron bir mekanizma kullanır ve iki adım önceden yapılan tahminleri kullanarak aday kelime kesme uzunluğunu dinamik olarak belirler; bu da büyük modellerin yüksek yük altında riskli son hataları doğrulamasını tamamen önler. DSpark’in yanı sıra, DeepSeek bu kez DeepSpec kod kitaplığını da açık kaynak hale getirdi ve bu kitaplık Qwen3 ve Gemma gibi açık kaynak büyük modelleri doğrudan desteklemektedir. DeepSpec, başlangıçtan itibaren uyarı metinlerini indirme, büyük model önbelleğini yeniden oluşturma, taslak modeli eğitme ve temel değerlendirme kadar tam bir Python araç zinciri sunar. Geliştiriciler, açık kaynak betikleri doğrudan kullanarak yerel ortamlarda farklı açık kaynak büyük modeller için özel hızlandırma modüllerini özelleştirebilir ve dağıtabilir.
DeepSeek, DeepSpec Çerçevesini Açık Kaynak Hale Getiriyor ve V4 Modelinin Hızını %85'e Kadar Artırıyor
MarsBitPaylaş
Özet
DeepSeek, DeepSpec çerçevesini açık kaynak hale getirdi ve DSpark hızlandırma sistemini başlattı; bu sayede DeepSeek-V4 hızı %85'e kadar artırıldı. Çerçeve, kalite kaybı olmadan Flash ve Pro sürümlerini %60-%78 arasında geliştirdi. DSpark, DFlash ve hafif bir Markov kafası kullanarak reddetme oranlarını azaltıyor ve verimliliği artırıyor. DeepSpec, Qwen3 ve Gemma'yı destekliyor ve yerel dağıtım için tam bir Python araç zinciri sunuyor. Bu güncelleme, yeni token listelemeleri getiriyor ve geliştiriciler ile traderlar için önemli bir token lanzmanı haber etkinliğini işaret ediyor.
Kaynak:Orijinalini göster
Yasal Uyarı: Bu sayfadaki bilgiler üçüncü şahıslardan alınmış olabilir ve KuCoin'in görüşlerini veya fikirlerini yansıtmayabilir. Bu içerik, herhangi bir beyan veya garanti olmaksızın yalnızca genel bilgilendirme amacıyla sağlanmıştır ve finansal veya yatırım tavsiyesi olarak yorumlanamaz. KuCoin, herhangi bir hata veya eksiklikten veya bu bilgilerin kullanımından kaynaklanan sonuçtan sorumlu değildir.
Dijital varlıklara yapılan yatırımlar riskli olabilir. Lütfen bir ürünün risklerini ve risk toleransınızı kendi finansal koşullarınıza göre dikkatlice değerlendirin. Daha fazla bilgi için lütfen Kullanım Koşullarımıza ve Risk Açıklamamıza bakınız.