মারভেল এজেন্টিক এআই ইনফারেন্স বটলনেক সমাধানের জন্য এআই ইনফ্রাস্ট্রাকচার মেমোরি সমাধান চালু করেছে

ডেটা ইনফ্রাস্ট্রাকচার সেমিকন্ডাক্টর বিগ মারভেল টেকনোলজি ঘোষণা করেছে যে এটি এআই ইনফ্রাস্ট্রাকচারের জন্য একটি নতুন প্রজন্মের মেমোরি সমাধান পরিবার চালু করছে, যা সার্ভার-লেভেল এআই স্টোরেজ, র্যাক-লেভেল CXL মেমোরি এক্সটেনশন এবং পুলিং, এবং মাল্টি-ক্যাবিনেট অপটিক্যাল ইন্টারকনেক্টেড শেয়ার্ড মেমোরি কভার করে, যা Agentic AI ইনফারেন্সের সময় বৃদ্ধি পাওয়া মেমোরি ক্ষমতা এবং ব্যান্ডউইথ বন্ধনীকে সমাধান করার উদ্দেশ্যে। মারভেল বলছে, এআই মডেলের আকার বৃদ্ধি, কনটেক্সট উইন্ডো দীর্ঘায়িত এবং KV Cache-এর চাহিদা বৃদ্ধির সাথে, প্রচলিত কম্পিউটিং এবং মেমোরির ঘনিষ্ঠভাবে সংযুক্ত আর্কিটেকচারটি এআই ইনফারেন্সের দক্ষতা সীমিত করছে। মেমোরি ডিসগ্রিগেশনের (memory disaggregation) মাধ্যমে, মেমোরি সম্পদকে কম্পিউটিং সম্পদের থেকে স্বতন্ত্রভাবে স্কেল করা যাবে, GPU-এর ব্যবহারকে বৃদ্ধি করা যাবে এবং ডেটা মুভমেন্টের ল্যাটেনসি কমানো যাবে।