ওডেইলি প্ল্যানেট ডেইলি সংবাদ: মারভেল টেকনোলজি এআই ইনফ্রাস্ট্রাকচারের জন্য একটি নতুন প্রজন্মের মেমোরি সমাধান পরিবার চালু করেছে, যা সার্ভার-লেভেল এআই স্টোরেজ, র্যাক-লেভেল CXL মেমোরি এক্সটেনশন এবং পুলিং, এবং মাল্টি-ক্যাবিনেট অপটিক্যাল ইন্টারকনেক্টেড শেয়ার্ড মেমোরি কভার করে, যা Agentic AI ইনফারেন্স প্রক্রিয়ায় বৃদ্ধি পাচ্ছে মেমোরি ক্ষমতা এবং ব্যান্ডউইথের বাধা সমাধানের উদ্দেশ্যে।
মারভেল বলেছেন, এআই মডেলের আকার বৃদ্ধি, কনটেক্সট উইন্ডো দীর্ঘায়িত এবং কেভ ক্যাশের চাহিদা বৃদ্ধির সাথে সাথে, প্রাচীন কম্পিউটিং এবং মেমোরির ঘনিষ্ঠভাবে সংযুক্ত আর্কিটেকচার এআই ইনফারেন্স দক্ষতা সীমাবদ্ধ করছে। মেমোরি ডিসগ্রিগেশনের মাধ্যমে, মেমোরি সম্পদকে কম্পিউটিং সম্পদ থেকে স্বাধীনভাবে বিস্তার করা যাবে, GPU ব্যবহারের দক্ষতা বৃদ্ধি পাবে এবং ডেটা স্থানান্তরের দেরি কমবে। এই প্রকাশিত পণ্যগুলি হল:
Bravera SC6 PCIe 6.0 SSD কন্ট্রোলার: এটি AI ইনফারেন্স স্টোরেজ স্কেনারিওর জন্য ডিজাইন করা হয়েছে, যা ক্লাউড সার্ভিস প্রোভাইডারদের বেশি KV Cache উচ্চ পারফরম্যান্সের SSD-এ স্থানান্তর করতে সহায়তা করে এবং ইনফ্রাস্ট্রাকচারের দক্ষতা বৃদ্ধি করে। এই পণ্যটি মাল্টি-সাপ্লায়ার NAND-এর সাথে সামঞ্জস্যপূর্ণ আর্কিটেকচার ব্যবহার করে, যা 2026 এর চতুর্থ ত্রৈমাসিকে নমুনা পাঠানোর পরিকল্পনা করা হয়েছে।
মারভেল স্ট্রাক্টেরা X মেমোরি এক্সপেনশন সলিউশন: CXL টেকনোলজির উপর ভিত্তি করে, র্যাক-লেভেল মেমোরি এক্সপেনশন এবং রিসোর্স পুলিংকে সমর্থন করে, যা ডেটা সেন্টারকে মেমোরি রিসোর্সগুলি আরও ফ্লেক্সিবলভাবে শেয়ার এবং অ্যালোকেট করতে সাহায্য করে এবং AI ইনফ্রাস্ট্রাকচার খরচ কমায়।
মারভেল ফটোনিক ফ্যাব্রিক অপটিক্যাল ইন্টারকনেক্ট মেমোরি সলিউশন: অপটিক্যাল ইন্টারকনেক্ট প্রযুক্তির মাধ্যমে একাধিক ক্যাবিনেটের মধ্যে শেয়ারড মেমোরি আর্কিটেকচার গঠন করে, যা সর্বোচ্চ 32TB উষ্ণ KV ক্যাশে আউটসোর্সিংয়ের সমর্থন করে এবং AI ইনফারেন্স ক্লাস্টারের থ্রুপুট বাড়াতে সাহায্য করে।
মারভেল বলেছেন যে, ফোটোনিক ফ্রব্রিক সমাধানটি বর্তমান ডেটা সেন্টারের স্থান এবং শক্তি সীমাবদ্ধতার মধ্যে টোকেন থ্রুপুটকে 2 থেকে 3 গুণ পর্যন্ত বাড়াতে পারে, যা বড় আকারের মডেল এবং দীর্ঘ কনটেক্সট AI অ্যাপ্লিকেশনকে সমর্থন করে।
মারভেলের কর্মকর্তা উইল চু বলেছেন, এআই ইনফ্রাস্ট্রাকচার একক সার্ভার আর্কিটেকচার থেকে কম্পিউটিং, মেমোরি এবং কানেকশন একসাথে কাজ করে এমন সিস্টেমের দিকে যাচ্ছে, ভবিষ্যতে মেমোরি সংস্থান ব্যবহার এবং টোকেন দক্ষতা বাড়ানোর জন্য আরও স্বাধীনভাবে স্কেল হতে হবে।
এআই এজেন্ট এবং বড় মডেল ইনফারেন্সের চাহিদা বৃদ্ধির সাথে সাথে, মেমোরি ক্ষমতা, ব্যান্ডউইথ এবং ডেটা ট্রান্সমিশন দক্ষতা এখন এআই ইনফ্রাস্ট্রাকচারের প্রতিযোগিতার নতুন কেন্দ্রবিন্দু হয়ে উঠেছে, যা ক্যালকুলেশন পাওয়ারের পরে।