डेटा इंफ्रास्ट्रक्चर सेमीकंडक्टर निर्माता Marvell Technology ने AI इंफ्रास्ट्रक्चर के लिए एक नई पीढ़ी के मेमोरी सॉल्यूशन्स का शुभारंभ किया है, जिसमें सर्वर-लेवल AI स्टोरेज, रैक-लेवल CXL मेमोरी एक्सटेंशन और पूलिंग, और मल्टी-कैबिनेट ऑप्टिकल इंटरकनेक्शन के माध्यम से शेयर्ड मेमोरी शामिल है, जिसका उद्देश्य Agentic AI इन्फरेंस प्रक्रिया के दौरान बढ़ते मेमोरी क्षमता और बैंडविड्थ की सीमाओं को हल करना है। Marvell के अनुसार, AI मॉडल्स के आकार में वृद्धि, कॉन्टेक्स्ट विंडो के लंबे होने और KV Cache की मांग में वृद्धि के कारण, पारंपरिक कंप्यूटिंग और मेमोरी का सख्त संयोजन एआई इन्फरेंस की दक्षता को सीमित कर रहा है। मेमोरी डिसएग्रीगेशन (memory disaggregation) के माध्यम से, मेमोरी संसाधनों को कंप्यूटिंग संसाधनों से स्वतंत्र रूप से स्केल किया जा सकता है, जिससे GPU की उपयोगिता में वृद्धि होती है और डेटा स्थानांतरण की देरी कम होती है।
मारवेल ने एजेंटिक एआई इन्फरेंस बॉटलनेक्स को सुलझाने के लिए एआई इंफ्रास्ट्रक्चर मेमोरी समाधान लॉन्च किए हैं
TechFlowसाझा करें
सारांश
मारवेल ने एजेंटिक AI निष्कर्षण की बॉटलनेक को सुलझाने के लिए AI इंफ्रास्ट्रक्चर मेमोरी समाधान पेश किए हैं। नए उत्पादों में सर्वर-लेवल AI स्टोरेज, रैक-लेवल CXL मेमोरी विस्तार, और मल्टी-कैबिनेट ऑप्टिकल इंटरकनेक्ट शेयर्ड मेमोरी शामिल हैं। जैसे-जैसे AI मॉडल बढ़ते हैं, मेमोरी और कंप्यूट का पृथक्करण महत्वपूर्ण हो जाता है। मेमोरी डिसएग्रीगेशन GPU की दक्षता में वृद्धि करता है और लेटेंसी कम करता है। AI + क्रिप्टो समाचार अभी भी इंफ्रास्ट्रक्चर नवाचार पर जोर दे रहे हैं। नए टोकन सूचीकरण अक्सर इस क्षेत्र में प्रमुख प्रौद्योगिकीय उन्नतियों के बाद होते हैं।
स्रोत:मूल दिखाएं
डिस्क्लेमर: इस पेज पर दी गई जानकारी थर्ड पार्टीज़ से प्राप्त की गई हो सकती है और यह जरूरी नहीं कि KuCoin के विचारों या राय को दर्शाती हो। यह सामग्री केवल सामान्य सूचनात्मक उद्देश्यों के लिए प्रदान की गई है, किसी भी प्रकार के प्रस्तुतीकरण या वारंटी के बिना, न ही इसे वित्तीय या निवेश सलाह के रूप में माना जाएगा। KuCoin किसी भी त्रुटि या चूक के लिए या इस जानकारी के इस्तेमाल से होने वाले किसी भी नतीजे के लिए उत्तरदायी नहीं होगा।
डिजिटल संपत्तियों में निवेश जोखिम भरा हो सकता है। कृपया अपनी वित्तीय परिस्थितियों के आधार पर किसी प्रोडक्ट के जोखिमों और अपनी जोखिम सहनशीलता का सावधानीपूर्वक मूल्यांकन करें। अधिक जानकारी के लिए, कृपया हमारे उपयोग के नियम और जोखिम प्रकटीकरण देखें।