Beating Monitoring के अनुसार, DeepSeek ने पeking University के साथ मिलकर ट्रेडिंग सैंपलिंग स्पीडअप फ्रेमवर्क DSpark की तकनीकी रिपोर्ट जारी की है और पूर्ण स्टैक कोडबेस DeepSpec को ओपन सोर्स किया है। वर्तमान में DSpark DeepSeek-V4 ऑनलाइन बिजनेस पर डिप्लॉय किया गया है। आउटपुट के नुकसान के बिना, DSpark ने Flash संस्करण की एकल उपयोगकर्ता जनरेशन गति को 60% से 85% तक बढ़ाया है, जबकि Pro संस्करण की गति 57% से 78% तक बढ़ी है। DSpark, मूल सिंगल टोकन मल्टी-ब्रांच प्रेडिक्शन (MTP-1) बेसलाइन को पार करता है और कठोर लेटेंसी सीमाओं के तहत सिस्टम की कुल थ्रूपुट को महत्वपूर्ण रूप से बढ़ाता है। पहले, मल्टी-टोकन ट्रेडिंग सैंपलिंग ऑनलाइन प्रोडक्शन वातावरण में लागू करना मुश्किल था। ऑटोरिग्रेसिव ड्राफ्ट मॉडल बहुत धीमे थे, जबकि पैरेलल ड्राफ्ट मॉडल, क्योंकि प्रत्येक स्थिति स्वतंत्र रूप से प्रेडिक्ट करती है, लंबी सीक्वेंस के अंतिम हिस्से में स्वीकृति दर बहुत कम होती है। यदि उच्च समानांतरता के दौरान मल्टी-टोकन ड्राफ्ट का अनियंत्रित रूप से पुष्टि की जाए, तो बड़ा मॉडल अपनी कई कैलकुलेशन संसाधनों को असफल होने वाले गलत शब्दों की पुष्टि में बर्बाद कर देगा, जिससे सिस्टम की कुल थ्रूपुट गंभीरता से प्रभावित होगी, इसलिए उद्योग में ऑनलाइन प्रयोग मुख्यतः सिंगल-टोकन प्रेडिक्शन (MTP-1) तक सीमित है। DSpark, हाई-कंकरेंसी के दौरान थ्रूपुट डिग्रेडेशन की समस्या को हल करता है। DSpark पहले DFlash पैरेलल मेनबोडी का उपयोग करके हिडन स्टेट्स का उत्पादन करता है, फिर अत्यंत हल्के मार्कोव हेड को जोड़ता है। मार्कोव हेड, संबंधित शब्दों के संबंध को समानांतर में सम्मिलित करने के लिए, एक प्रश्न-उत्तर सारणी के साथ-साथ एकल मैट्रिक्स गुणन का प्रयोग करता है। साथ ही, सिस्टम में कंफिडेंस प्रेडिक्शन हेड और पोस्टेरियर कैलिब्रेशन एल्गोरिदम समाहित हैं। प्रोडक्शन पर्यावरण में शून्य-ओवरहेड स्केड्यूलिंग के साथ पूर्ण संगति प्राप्त करने और भविष्य की सूचना प्रवाह को रोकने के लिए, स्केड्यूलर, पहले के 2-चरणों के प्रेडिक्शन का प्रयोग करके, प्रत्याशित-शब्दों की कटऑफ़ लंबाई को सक्रिय रूप से निर्धारित करने के लिए, असमynchronous मechanism का प्रयोग करता है,जिससे महान मॉडल,भारी लोड के दौरान,उच्च-जोखिमवाले पीछे के प्रशब्दों की पुष्टि में प्रयास ही महत्वपूर्ण होता है। DSpark के साथ-साथ, DeepSeek ने DeepSpec कोडबेस में Qwen3, Gemma,औरअन्यओपन-सोर्सबड़ेमॉडलसमर्थनशामिलकियाहै।DeepSpecएकपूर्णPythonटूलचेनप्रदानकरताहैजिसमेंप्रॉम्प्टडाउनलोड,बड़ेमॉडलकैशकीपुनःसंरचना,ड्राफ्टमॉडलट्रेनिंगऔरबेंचमार्कएवलुएशनशामिलहै।डेवलपरअपनेस्थानीयपरयहओपन-सोर्सस्क्रिप्टकाउपयोगकरकेअलग-अलगओपन-सोर्सबड़ेमॉडलकेलिएअपना-अपनास्पीडअपमॉडयूलकस्टमाइज़औरडिप्लॉयकरसकतेहैं।
DeepSeek ने DeepSpec फ्रेमवर्क को ओपन सोर्स किया, जिससे V4 मॉडल की गति अधिकतम 85% तक बढ़ गई
MarsBitसाझा करें
सारांश
DeepSeek ने DeepSpec फ्रेमवर्क को ओपन-सोर्स किया है और DSpark त्वरण प्रणाली लॉन्च की है, जिससे DeepSeek-V4 की गति अधिकतम 85% तक बढ़ गई है। यह फ्रेमवर्क बिना किसी गुणवत्ता के नुकसान के Flash और Pro संस्करणों में 60%-78% सुधार करता है। DSpark, DFlash और एक हल्के Markov हेड का उपयोग करके अस्वीकृति दरों को कम करता है और थ्रूपुट बढ़ाता है। DeepSpec Qwen3 और Gemma का समर्थन करता है और स्थानीय डिप्लॉयमेंट के लिए पूर्ण Python टूलचेन प्रदान करता है। यह अपडेट नए टोकन सूचीकरण लाता है और डेवलपर्स और ट्रेडर्स के लिए एक महत्वपूर्ण टोकन लॉन्च समाचार घटना को चिह्नित करता है।
स्रोत:मूल दिखाएं
डिस्क्लेमर: इस पेज पर दी गई जानकारी थर्ड पार्टीज़ से प्राप्त की गई हो सकती है और यह जरूरी नहीं कि KuCoin के विचारों या राय को दर्शाती हो। यह सामग्री केवल सामान्य सूचनात्मक उद्देश्यों के लिए प्रदान की गई है, किसी भी प्रकार के प्रस्तुतीकरण या वारंटी के बिना, न ही इसे वित्तीय या निवेश सलाह के रूप में माना जाएगा। KuCoin किसी भी त्रुटि या चूक के लिए या इस जानकारी के इस्तेमाल से होने वाले किसी भी नतीजे के लिए उत्तरदायी नहीं होगा।
डिजिटल संपत्तियों में निवेश जोखिम भरा हो सकता है। कृपया अपनी वित्तीय परिस्थितियों के आधार पर किसी प्रोडक्ट के जोखिमों और अपनी जोखिम सहनशीलता का सावधानीपूर्वक मूल्यांकन करें। अधिक जानकारी के लिए, कृपया हमारे उपयोग के नियम और जोखिम प्रकटीकरण देखें।