Google DeepMind ने DiffusionGemma लॉन्च किया, टेक्स्ट जनरेशन की गति 4 गुना बढ़ गई

iconKuCoinFlash
साझा करें
Share IconShare IconShare IconShare IconShare IconShare IconCopy
AI summary iconसारांश

expand icon
ऑन-चेन समाचार: Google DeepMind ने DiffusionGemma नामक एक ओपन-सोर्स टेक्स्ट जनरेशन मॉडल लॉन्च किया है, जो गति को 4 गुना बढ़ाता है। डिफ्यूजन तकनीक का उपयोग करके, यह 256 टोकन्स को समानांतर रूप से जनरेट करता है और H100 पर 1000+ टोकन/सेकंड और RTX 5090 पर 700+ टोकन/सेकंड प्राप्त करता है। 26B MoE मॉडल निष्पादन के दौरान 3.8B पैरामीटर्स को सक्रिय करता है और क्वांटाइजेशन के बाद कंस्यूमर GPU को समर्थन देता है। इसमें बाइडिरेक्शनल ध्यान और स्व-सुधार की सुविधा है, जो कोड पूरा करने और इंलाइन संपादन के लिए आदर्श है। मॉडल Apache 2.0 के तहत ओपन-सोर्स किया गया है। जनरेशन की दक्षता में ऐसी प्रगति से नए टोकन सूचीबद्ध होने में लाभ मिल सकता है।
ME AI संदेश, Google DeepMind ने ओपन सोर्स प्रयोगात्मक मॉडल DiffusionGemma जारी किया है, जो टेक्स्ट डिफ्यूजन तकनीक का उपयोग करता है और स्वयं-पुनरावर्ती टोकन-दर-टोकन उत्पादन को पार करता है, प्रत्येक फॉरवर्ड पास में 256 टोकन समानांतर रूप से उत्पन्न करता है। यह 26B MoE मॉडल निष्पादन के दौरान केवल 3.8B पैरामीटर सक्रिय करता है, और क्वांटाइज़ेशन के बाद 18GB VRAM वाले कंस्यूमर GPU पर अनुकूलित हो जाता है। H100 पर 1000+ टोकन/सेकंड और RTX 5090 पर 700+ टोकन/सेकंड की गति प्राप्त करता है, जिससे गति 4 गुना बढ़ जाती है। इसमें बाइडिरेक्शनल अटेंशन और स्व-सुधार क्षमता है, जो इनलाइन संपादन, कोड फिलिंग आदि स्थानीय इंटरैक्टिव वर्कफ्लो के लिए डिज़ाइन किया गया है, और Apache 2.0 लाइसेंस के तहत उपलब्ध है। (स्रोत: AiHot)
डिस्क्लेमर: इस पेज पर दी गई जानकारी थर्ड पार्टीज़ से प्राप्त की गई हो सकती है और यह जरूरी नहीं कि KuCoin के विचारों या राय को दर्शाती हो। यह सामग्री केवल सामान्य सूचनात्मक उद्देश्यों के लिए प्रदान की गई है, किसी भी प्रकार के प्रस्तुतीकरण या वारंटी के बिना, न ही इसे वित्तीय या निवेश सलाह के रूप में माना जाएगा। KuCoin किसी भी त्रुटि या चूक के लिए या इस जानकारी के इस्तेमाल से होने वाले किसी भी नतीजे के लिए उत्तरदायी नहीं होगा। डिजिटल संपत्तियों में निवेश जोखिम भरा हो सकता है। कृपया अपनी वित्तीय परिस्थितियों के आधार पर किसी प्रोडक्ट के जोखिमों और अपनी जोखिम सहनशीलता का सावधानीपूर्वक मूल्यांकन करें। अधिक जानकारी के लिए, कृपया हमारे उपयोग के नियम और जोखिम प्रकटीकरण देखें।