ME न्यूज के अनुसार, 20 मई (UTC+8) को, डोंगचा बीटिंग के निगरानी के अनुसार, वेफर-लेवल चिप कंपनी Cerebras ने उद्योग परीक्षण में ट्रिलियन पैरामीटर वाले बड़े मॉडल Kimi K2.6 को लॉन्च किया है, जिसमें 12 इंच के सिलिकॉन वेफर पर चिप को सीधे एकीकृत करके पारंपरिक बोर्ड-लेवल संचार की लैटेंसी पूरी तरह से समाप्त कर दी गई है। तीसरे पक्ष के मूल्यांकन संस्थान Artificial Analysis के प्रयोगात्मक डेटा के अनुसार, इसकी उत्पादन गति 981 टोकन/सेकंड है, जो प्रमुख GPU क्लाउड सेवाओं से 6.7 गुना तेज है। 10000 इनपुट, 500 आउटपुट टोकन के लंबे पाठ कार्य में, कुल प्रतिक्रिया समय Kimi के आधिकारिक इंटरफ़ेस के 163.7 सेकंड से घटकर 5.6 सेकंड हो गया, जिससे 29 गुना तेजी आई। चूंकि मॉडल वेट्स को कई वेफर में वितरित किया जाता है और सक्रिय मूल्यों को स्ट्रीम किया जाता है, इसलिए स्तर-बीच संचार पूरी तरह से वेफर के अंदर के नेटवर्क वेब पर संचालित होता है, जिसका भौतिक संचार बैंडविड्थ NVidia NVL72 आर्किटेक्चर में NVLink से 200 गुना अधिक है। वितरित कंप्यूटिंग अनुकूलन के साथ, Kimi K2.6 मूल 4-बिट (4-बिट) वेट्स का उपयोग करके कम हानि संग्रहण करता है, गणना के दौरान 16-बिट (16-बिट) फ्लोटिंग-पॉइंट संख्याओं का प्रयोग करके सटीकता को बनाए रखता है, और कस्टम ऑपरेटर कर्नल्स और स्पेकुलेटिव डिकोडिंग का प्रयोग करके वास्तविक समय में संचालन प्राप्त करता है। (स्रोत: BlockBeats)
सेरेब्रास ने लंबे पाठ कार्यों में 29x गति वृद्धि के साथ किमी K2.6 मॉडल का परीक्षण किया
KuCoinFlashसाझा करें
सारांश
20 मई (UTC+8) को, सेरेब्रास ने घोषणा की कि उसने अपने वेफर-स्केल चिप्स का उपयोग करके ट्रिलियन पैरामीटर किमी K2.6 मॉडल का परीक्षण किया है। पूरे 12-इंच वेफर पर चिप्स को सीधे माउंट करके, कंपनी ने संचार देरी को कम किया। आर्टिफिशियल एनालिसिस के अनुसार, मॉडल ने 981 टोकन/सेकंड की दर से पाठ उत्पन्न किया, जो मानक GPU सेवाओं की तुलना में 6.7 गुना तेज़ है। 10,000 इनपुट और 500 आउटपुट टोकन के साथ लंबे पाठ परीक्षण में, प्रतिक्रिया समय 163.7 सेकंड से घटकर 5.6 सेकंड हो गया, जो 29 गुना का सुधार है। ऑन-चेन डेटा अभी भी AI बुनियादी ढांचे में प्रदर्शन में सुधार को दर्शा रहा है।
स्रोत:मूल दिखाएं
डिस्क्लेमर: इस पेज पर दी गई जानकारी थर्ड पार्टीज़ से प्राप्त की गई हो सकती है और यह जरूरी नहीं कि KuCoin के विचारों या राय को दर्शाती हो। यह सामग्री केवल सामान्य सूचनात्मक उद्देश्यों के लिए प्रदान की गई है, किसी भी प्रकार के प्रस्तुतीकरण या वारंटी के बिना, न ही इसे वित्तीय या निवेश सलाह के रूप में माना जाएगा। KuCoin किसी भी त्रुटि या चूक के लिए या इस जानकारी के इस्तेमाल से होने वाले किसी भी नतीजे के लिए उत्तरदायी नहीं होगा।
डिजिटल संपत्तियों में निवेश जोखिम भरा हो सकता है। कृपया अपनी वित्तीय परिस्थितियों के आधार पर किसी प्रोडक्ट के जोखिमों और अपनी जोखिम सहनशीलता का सावधानीपूर्वक मूल्यांकन करें। अधिक जानकारी के लिए, कृपया हमारे उपयोग के नियम और जोखिम प्रकटीकरण देखें।