Odaily स्टार डेली की खबर: मारवेल टेक्नोलॉजी ने AI इंफ्रास्ट्रक्चर के लिए एक नई पीढ़ी के मेमोरी सॉल्यूशन्स का शुभारंभ किया है, जिसमें सर्वर-लेवल AI स्टोरेज, रैक-लेवल CXL मेमोरी एक्सटेंशन और पूलिंग, और मल्टी-कैबिनेट ऑप्टिकल इंटरकनेक्टेड शेयर्ड मेमोरी शामिल है, जो Agentic AI इनफ़रेंस प्रक्रिया के दौरान बढ़ते मेमोरी क्षमता और बैंडविड्थ की सीमाओं को हल करने का उद्देश्य रखता है।
मारवेल ने कहा कि AI मॉडल के आकार में वृद्धि, संदर्भ खिड़की के विस्तार और KV Cache की आवश्यकता में वृद्धि के साथ, पारंपरिक कंप्यूटिंग और मेमोरी का संकुचित आर्किटेक्चर AI निष्कर्षण की दक्षता को सीमित कर रहा है। मेमोरी डिसएग्रीगेशन (memory disaggregation) के माध्यम से, मेमोरी संसाधनों को कंप्यूटिंग संसाधनों से स्वतंत्र रूप से विस्तारित किया जा सकता है, जिससे GPU की उपयोग दर में वृद्धि होती है और डेटा स्थानांतरण की देरी कम होती है। इस लॉन्च में शामिल उत्पाद हैं:
Bravera SC6 PCIe 6.0 SSD कंट्रोलर: AI निष्कर्षण स्टोरेज स्थितियों के लिए, जो क्लाउड सेवा प्रदाताओं को अधिक KV Cache को उच्च प्रदर्शन वाले SSD पर स्थानांतरित करने में मदद करता है और बुनियादी ढांचे की दक्षता में सुधार करता है। यह उत्पाद बहु-आपूर्तिकर्ता NAND के साथ संगत आर्किटेक्चर का उपयोग करता है और 2026 की चौथी तिमाही में नमूने भेजने की उम्मीद है।
Marvell Structera X मेमोरी एक्सपेंशन सॉल्यूशन: CXL तकनीक पर आधारित, रैक-लेवल मेमोरी एक्सपेंशन और रिसोर्स पूलिंग का समर्थन करता है, जिससे डेटासेंटर मेमोरी रिसोर्सेज को अधिक लचीले ढंग से शेयर और आवंटित कर सकते हैं और AI इंफ्रास्ट्रक्चर लागत कम होती है।
मार्वेल फोटोनिक फैब्रिक ऑप्टिकल इंटरकनेक्ट मेमोरी सॉल्यूशन: ऑप्टिकल इंटरकनेक्ट तकनीक का उपयोग करके बहु-कैबिनेट शेयर्ड मेमोरी आर्किटेक्चर बनाएं, जो अधिकतम 32TB वार्म KV कैश अनलोडिंग का समर्थन करता है और AI इन्फरेंस क्लस्टर की थ्रूपुट क्षमता में सुधार करता है।
मैरवेल ने कहा कि फोटोनिक फैब्रिक समाधान वर्तमान डेटासेंटर की स्थान और बिजली की खपत सीमाओं के भीतर, टोकन थ्रूपुट में 2 से 3 गुना तक की वृद्धि प्राप्त कर सकता है, जिससे बड़े मॉडल और लंबे संदर्भ वाले AI अनुप्रयोगों का समर्थन होता है।
मारवेल के एमडी विल चू का कहना है कि AI इंफ्रास्ट्रक्चर एकल सर्वर आर्किटेक्चर से गणना, मेमोरी और कनेक्टिविटी के सहयोग से काम करने वाले सिस्टम की ओर जा रहा है, भविष्य में मेमोरी को संसाधन उपयोग और टोकन दक्षता में सुधार के लिए अधिक स्वतंत्र रूप से स्केल करने की आवश्यकता होगी।
जैसे-जैसे AI एजेंट और बड़े मॉडल निष्कर्षण की मांग बढ़ रही है, मेमोरी क्षमता, बैंडविड्थ और डेटा ट्रांसफर दक्षता AI बुनियादी ढांचे की प्रतिस्पर्धा का नया केंद्र बन रहे हैं, जो कि कैलकुलेशन पावर के बाद हैं।