Beating মনিটরিং-এর অনুসন্ধান অনুযায়ী, DeepSeek এবং পেকিং বিশ্ববিদ্যালয় স্পেকুলেটিভ স্যাম্পলিং স্পিড-আপ ফ্রেমওয়ার্ক DSpark-এর একটি প্রযুক্তিগত রিপোর্ট প্রকাশ করেছে এবং সম্পূর্ণ স্ট্যাক কোডবেস DeepSpec-কে ওপেন-সোর্স করেছে। বর্তমানে DSpark DeepSeek-V4-এর লাইভ বিজনেস অপারেশনে ডিপ্লয় করা হয়েছে। আউটপুটের ক্ষতি ছাড়াই, DSpark Flash ভার্সনের একক ব্যবহারকারী জেনারেশন স্পিডকে 60% থেকে 85% পর্যন্ত বাড়িয়েছে, Pro ভার্সনের স্পিডকে 57% থেকে 78% পর্যন্ত বাড়িয়েছে। DSpark, MTP-1 (একটি টোকেন-ভিত্তিক মাল্টি-ব্রাঞ্চ প্রেডিকশন) বেসলাইনকে ছাড়িয়েছে এবং কঠোর ল্যাটেন্সি সীমাবদ্ধতার অধীনে সিস্টেমের মোট থ্রুপুটকে উল্লেখযোগ্যভাবে বাড়িয়েছে। আগে, মাল্টি-টোকেন স্পেকুলেটিভ স্যাম্পলিং লাইভ প্রডাকশন পরিবেশে বাস্তবায়ন করা কঠিন ছিল। অটোরিগ্রেসিভ ডraf-মডেলগুলির জেনারেশন খুবই ধীর, এবং প্যারালাল ডraf-মডেলগুলি, যেহেতু প্রতিটি পজিশনের জন্য স্বতন্ত্রভাবে প্রেডিকশন করা হয়, তাই দীর্ঘ সিকোয়েন্সের শেষাংশগুলির অপসারণহীনতা (acceptance rate) অত্যন্ত কম। উচ্চ-কনকারেন্সির অধীনে, MTP-1-এর (একটি-টোকেন) -এর 100% -এরও 100% -এরও 100% -এরও 100% -এরও 100% -এরও 100% -এরও 100% -এরও 100% -এরও 100% -এরও 100% -এরও 100% -এরও 100% -এরও 100% -এরও 100% -এরও 100% -এরও 100% -এরও 100% -এরও 100% -এরও 100% -এরও 100% -এরও 100% -এরও 100% -এরও 100% -এরও 100% -এরও 100% -এরও 100% -এরও 100% -এরও 100% -এরও 100% -এরও 100% -এরও 100% -এরও 100% -এরও 100% -এরও 100% -এরও 100% -এরও 100% -এরও 100% -এরও 100% -এরও 100% -এরও 100% -এরও 100% -এরও 100% -এরও 100% -এরও 100% -এরও 100% -এরও 100% -এরও 100% -এরও 100% -এরও 100% -এরও 100% -এরও 100% -এরও 100% -এরও 100% -এরও 100% -এরও 100% -এরও 100% -এরও 100% -এরও 100% -এরও 100% -এরও 100% -এরও 100% -এরও 100% -এরও 100% -এরও 100% -এরও 100% -এরও 100% -এরও 100% -এরও 100% -এরও 100% -এরও 100% -এরও 100% -এরও 100% -এরও 100% -এরও 1০০%-ই, DSpark-কে DFlash-কে DFlash-কে DFlash-কে DFlash-কে DFlash-কে DFlash-কে DFlash-কে DFlash-কে DFlash-কে DFlash-কে DFlash-কে DFlash-কে DFlash-কে DFlash-কে DFlash-কে DFlash-কে DFlash-কে DFlash-কে DFlash-কে DFlash-কে DFlash-কে DFlash-কে DFlash-কে DFlash-কে DFlash-কে DFlash-কে DFlash-কে DFlash-কে DFlash-কে DFlash-কে DFlash-কে DFlash-কে DFlash-কে DFlash-কে DFlash-কে DFlash-কে DFlash-কে DFlash-কে DFlash-কে DFlash-কে DFlash-কে DFlash-কে DFlash-কে DFlash-কে DFlash-কে DFlash-কে DFlash-কে DFlash-কে DFlash-কে DFlash-কে DFlash-কে DFlash-কে DFlash-কে DFlash-কে DFlash-কে DFlash-কে DFlash-কে DFlash-কे DFlash-के DFlash के DFlash के DSpark के लिए एक अत्यंत हल्का मार्कोव हेड जोड़ा जाता है। मार्कोव हेड एक टेबल लुकअप और एकल मैट्रिक्स गुणन के माध्यम से, अत्यंत कम लागत पर पड़ोसी शब्दों के संबंध को सीरियली इंजेक्ट करता है। इसके अलावा, सिस्टम में कन्फिडेंस प्रेडिक्शन हेड और पोस्टेरियर कैलिब्रेशन अल्गोरिदम शामिल हैं। उत्पादन पर्यावरण के शून्य ओवरहेड स्केड्यूलिंग के साथ पूर्ण संगतता और भविष्य की जानकारी के रिलीज़ को रोकने के लिए, स्केड्यूलर एक असिंक्रोनस मैकेनिज़म का उपयोग करता है, जो दो स्टेप पहले के प्रेडिक्शन का उपयोग करके कैंडिडेट टोकन कटिंग लंबाई को डायनामिकली निर्धारित करता है, जिससे भारी लोड के दौरान मॉडल को उच्च जोखिम वाले अंतिम त्रुटि की पुष्टि करने से पूरी तरह से बचा जा सके। DSpark के अलावा, DeepSeek ने DeepSpec कोडबेस में Qwen3 और Gemma सहित कई ओपन सोर्स LLMs का समर्थन समाहित किया है। DeepSpec में प्रॉम्प्ट डाउनलोड, LLM कैश पुनर्निर्माण, draft मॉडल प्रशिक्षण और बेंचमार्क मूल्यांकन सहित पूर्ण Python टूलचेन प्रदान किया गया है। डेवलपर्स सीधे ओपन सोर्स स्क्रिप्ट का उपयोग करके, स्थानीय रूप से विभिन्न ओपन सोर्स LLMs के लिए स्वयं के स्पीडअप मॉड्यूल को कस्टमाइज़ कर सकते हैं और उन्हें डिप्लॉय कर सकते हैं।
ডিপসিক ডিপস্পেক ফ্রেমওয়ার্ক ওপেন সোর্স করেছে, যা V4 মডেলের গতি 85% পর্যন্ত বাড়িয়েছে
MarsBitশেয়ার
সারাংশ
DeepSeek এখন DeepSpec ফ্রেমওয়ার্কটি ওপেন-সোর্স করেছে এবং DSpark অ্যাক্সিলারেশন সিস্টেম চালু করেছে, যা DeepSeek-V4-এর গতি 85% পর্যন্ত বাড়িয়েছে। এই ফ্রেমওয়ার্কটি কোনো গুণগত হ্রাস ছাড়াই Flash এবং Pro সংস্করণগুলিকে 60%-78% পর্যন্ত উন্নত করে। DSpark DFlash এবং একটি হালকা Markov হেড ব্যবহার করে প্রত্যাখ্যানের হার কমিয়ে থ্রুপুট বাড়ায়। DeepSpec Qwen3 এবং Gemmaকে সমর্থন করে, যা স্থানীয়ভাবে ডিপ্লয়মেন্টের জন্য একটি পূর্ণাঙ্গ Python টুলচেইন প্রদান করে। এই আপডেটটি নতুন টোকেন লিস্টিং আনে এবং ডেভেলপারদের ও ট্রেডারদের জন্য একটি গুরুত্বপূর্ণ টোকেন লঞ্চ সংবাদের ঘটনা চিহ্নিত করে।
উৎস:আসল দেখান
দাবিত্যাগ: এই পৃষ্ঠার তথ্য তৃতীয় পক্ষের কাছ থেকে প্রাপ্ত হতে পারে এবং অগত্যা KuCoin এর মতামত বা মতামত প্রতিফলিত করে না। এই বিষয়বস্তু শুধুমাত্র সাধারণ তথ্যগত উদ্দেশ্যে প্রদান করা হয়, কোন ধরনের প্রতিনিধিত্ব বা ওয়ারেন্টি ছাড়াই, বা এটিকে আর্থিক বা বিনিয়োগ পরামর্শ হিসাবে বোঝানো হবে না। KuCoin কোনো ত্রুটি বা বাদ পড়ার জন্য বা এই তথ্য ব্যবহারের ফলে যে কোনো ফলাফলের জন্য দায়ী থাকবে না।
ডিজিটাল সম্পদে বিনিয়োগ ঝুঁকিপূর্ণ হতে পারে। আপনার নিজের আর্থিক পরিস্থিতির উপর ভিত্তি করে একটি পণ্যের ঝুঁকি এবং আপনার ঝুঁকি সহনশীলতা সাবধানে মূল্যায়ন করুন। আরও তথ্যের জন্য, অনুগ্রহ করে আমাদের ব্যবহারের শর্তাবলী এবং ঝুঁকি প্রকাশ পড়ুন।