प्री-ट्रेनिंग केवल 12 दिनों में पूरी हो जाती है, लेकिन Beam की रिइनफोर्समेंट लर्निंग ने 10,500 GB300 चिप्स का उपयोग करके चार सप्ताह तक जलाया। Reflection AI @reflection_ai के सह-संस्थापक और CEO मिशा लास्किन ने ओपन मॉडल Beam की ट्रेनिंग लागत का विश्लेषण किया। यह कंपनी 2026 से पहले दो पूर्व Google DeepMind शोधकर्ताओं द्वारा स्थापित की गई थी, और इस वर्ष अप्रैल में 250 बिलियन डॉलर के प्री-इन्वेस्टमेंट वैल्यूएशन के साथ एक नई फंडिंग राउंड पूरी की। Beam के कुल पैरामीटर 501B हैं, सक्रिय पैरामीटर 23B हैं, प्री-ट्रेनिंग में 23.8 ट्रिलियन टोकन का उपयोग हुआ, और वजन 16 अक्टूबर को Apache 2.0 लाइसेंस के तहत खुले हो गए। कैलकुलेशन का वितरण पलटा हुआ है। प्री-ट्रेनिंग 6,144 GB300 NVL72 चिप्स पर चली, जिसके अनुसार, वर्तमान बुनियादी संरचना के साथ, यह केवल 12 दिनों में पूरी हो सकती है। RL चरण में 10,500 समान प्रकार के चिप्स का 4 सप्ताह तक निरंतर उपयोग किया गया, जो लगभग 40,000 GB300-सप्ताह के समान है, जो प्री-ट्रेनिंग के 10,000 GB300-सप्ताह का चार गुना है, और FLOPs का उपयोग भी अधिक हुआ।
0xMediaसाझा करें
स्रोत:मूल दिखाएं
डिस्क्लेमर: इस पेज पर दी गई जानकारी थर्ड पार्टीज़ से प्राप्त की गई हो सकती है और यह जरूरी नहीं कि KuCoin के विचारों या राय को दर्शाती हो। यह सामग्री केवल सामान्य सूचनात्मक उद्देश्यों के लिए प्रदान की गई है, किसी भी प्रकार के प्रस्तुतीकरण या वारंटी के बिना, न ही इसे वित्तीय या निवेश सलाह के रूप में माना जाएगा। KuCoin किसी भी त्रुटि या चूक के लिए या इस जानकारी के इस्तेमाल से होने वाले किसी भी नतीजे के लिए उत्तरदायी नहीं होगा।
डिजिटल संपत्तियों में निवेश जोखिम भरा हो सकता है। कृपया अपनी वित्तीय परिस्थितियों के आधार पर किसी प्रोडक्ट के जोखिमों और अपनी जोखिम सहनशीलता का सावधानीपूर्वक मूल्यांकन करें। अधिक जानकारी के लिए, कृपया हमारे उपयोग के नियम और जोखिम प्रकटीकरण देखें।