ME समाचार, 29 जुलाई (UTC+8), द मून के डार्क साइड ने किमी लीनियर लॉन्च किया, जो एक मिश्रित लीनियर अटेंशन आर्किटेक्चर है, जो पहली बार शॉर्ट कॉन्टेक्स्ट, लॉन्ग कॉन्टेक्स्ट और रिइनफोर्समेंट लर्निंग सीनेरियो में पूर्ण अटेंशन मैकेनिज़म को पार करता है। इसका 3B एक्टिवेशन पैरामीटर मॉडल सभी मूल्यांकन कार्यों पर पूर्ण MLA की तुलना में काफी बेहतर है, जबकि KV कैश उपयोग को अधिकतम 75% तक कम करता है और 1M कॉन्टेक्स्ट पर अधिकतम 6 गुना डिकोडिंग थ्रूपुट प्राप्त करता है। द मून के डार्क साइड ने KDA कोर, vLLM इम्प्लीमेंटेशन और मॉडल वेट्स को ओपन सोर्स कर दिया है। 🔗 मूल पढ़ें via AI HOT · https://aihot.virxact.com/items/cms4t5zra01o1roa10b19hmbh (स्रोत: AiHot)
मूनशॉट ने किमी लीनियर, एक हाई-परफॉर्मेंस एटेंशन आर्किटेक्चर लॉन्च किया
KuCoinFlashसाझा करें
सारांश
मूनशॉट ने 29 जुलाई (UTC+8) को किमी लीनियर, एक हाई-परफॉर्मेंस अटेंशन आर्किटेक्चर लॉन्च किया। हाइब्रिड लीनियर मॉडल शॉर्ट और लॉन्ग कॉन्टेक्स्ट स्थितियों और रीइनफोर्समेंट लर्निंग में पूर्ण अटेंशन से बेहतर प्रदर्शन करता है। 3B एक्टिव पैरामीटर्स के साथ, यह KV कैश उपयोग को 75% कम करता है और 1M कॉन्टेक्स्ट पर डिकोडिंग थ्रूपुट को 6x बढ़ाता है। KDA कर्नेल, vLLM इम्प्लीमेंटेशन और मॉडल वेट्स ओपन-सोर्स किए गए हैं। सपोर्ट और रेजिस्टेंस स्तरों का मूल्यांकन करने वाले ट्रेडर्स को यह उन्नति एल्गोरिदमिक स्ट्रैटेजीज़ में रिस्क-टू-रिवॉर्ड अनुपात में सुधार कर सकती है।
स्रोत:मूल दिखाएं
डिस्क्लेमर: इस पेज पर दी गई जानकारी थर्ड पार्टीज़ से प्राप्त की गई हो सकती है और यह जरूरी नहीं कि KuCoin के विचारों या राय को दर्शाती हो। यह सामग्री केवल सामान्य सूचनात्मक उद्देश्यों के लिए प्रदान की गई है, किसी भी प्रकार के प्रस्तुतीकरण या वारंटी के बिना, न ही इसे वित्तीय या निवेश सलाह के रूप में माना जाएगा। KuCoin किसी भी त्रुटि या चूक के लिए या इस जानकारी के इस्तेमाल से होने वाले किसी भी नतीजे के लिए उत्तरदायी नहीं होगा।
डिजिटल संपत्तियों में निवेश जोखिम भरा हो सकता है। कृपया अपनी वित्तीय परिस्थितियों के आधार पर किसी प्रोडक्ट के जोखिमों और अपनी जोखिम सहनशीलता का सावधानीपूर्वक मूल्यांकन करें। अधिक जानकारी के लिए, कृपया हमारे उपयोग के नियम और जोखिम प्रकटीकरण देखें।