এসকে হাইনিক্স ইন্টেল এবং অন্যান্য শিল্প পার্টনারদের সাথে একটি নতুন উপায়ে এআই সার্ভারগুলিকে পাওয়ার জন্য কাজ করছে। ধারণাটি হলো প্রতিটি মেশিনকে তাদের নিজস্ব ব্যক্তিগত মেমোরির স্টোর দেওয়া বন্ধ করে তাদের একটি সাধারণ পুল শেয়ার করতে দেওয়া।
এই পুশ আসছে যখন এজেন্টিক এআই, যে ধরনের সফটওয়্যার নিজে থেকে একাধিক ধাপের কাজ চালায়, মেমোরি ক্ষমতা এবং ব্যান্ডউইথের জন্য চাহিদা বাড়াচ্ছে।
এসকে হাইনিক্স বাস্তবে কী প্রস্তাব করেছিল
এসকে হাইনিক্স ২০২৬ সালের ১২ নভেম্বর সিওলে অনুষ্ঠিত ইন্টেল এআই সামিটে একটি শেয়ার্ড মেমোরি পুল নামক ধারণা উপস্থাপন করে।
প্রযুক্তিগত শব্দে, ডিজাইনটি উচ্চ ক্ষমতাসম্পন্ন মেমোরি নির্দিষ্ট র্যাকে স্থানান্তরিত করে। তারপর একাধিক GPU এবং CPU সার্ভার CXL (Compute Express Link) এবং RDMA এর মতো হাই-স্পিড ইন্টারকানেকশনের মাধ্যমে সেই মেমোরিতে পৌঁছাতে পারে।
CXL প্রসেসরগুলিকে বাহ্যিক মেমোরির সাথে প্রায় সম্পর্কিত মেমোরির মতো আচরণ করতে দেয়, যখন RDMA মেশিনগুলিকে প্রতিটি অনুরোধকে মূল প্রসেসরের মধ্য দিয়ে রুট না করে পরস্পরের মেমোরি পড়তে দেয়।
পুলড র্যাকগুলি বিদ্যমান সার্ভার সেটআপের পাশাপাশি অবস্থান নেবে, তাদের প্রতিস্থাপন করবে না।
এসকে হাইনিক্সের উপায়কর্তা জু ইয়ং-প্যো প্রাচীন পদ্ধতিতে উচ্চ-ব্যান্ডউইথ মেমোরি প্রতিটি জিপিইউ-এর সাথে সরাসরি সংযুক্ত থাকার অকার্যকরতার দিকে ইঙ্গিত করেন। তিনি সহযোগীদের সাথে যৌথভাবে বাস্তুতন্ত্র বিকাশের কারণে এই অগ্রগতিরও প্রশংসা করেন।
কেভ ক্যাশ সমস্যা এবং একটি ৮১% উত্তর
ডিজাইনটি একটি নির্দিষ্ট সমস্যাকে লক্ষ্য করে: KV ক্যাশ। এটি একটি এআই মডেল যা একটি কথোপকথন বা কাজ চলাকালীন তৈরি করে, এবং এটি মাল্টি-টার্ন ইনফারেন্সের সময় দ্রুত বৃদ্ধি পায়।
এসকে হাইনিক্সের অভ্যন্তরীণ পরীক্ষায় এটি কতটা ব্যয়বহুল হতে পারে তার সংখ্যাগত তথ্য পাওয়া গেছে। বিসর্জন এবং পুনর্গণনা ব্যবহার করে, প্রথম টোকেনের গড় সময় হয়েছে 80.76 সেকেন্ড।
একটি শেয়ার্ড পুল থেকে রিমোট CXL DRAM ব্যবহার করে, এই সংখ্যা কমে দাঁড়ায় ১৫.৪৫ সেকেন্ডে। এটি প্রথম টোকেন ল্যাটেন্সিতে প্রায় ৮১% হ্রাসকে বোঝায়।
এগুলো অন্তর্গত ফলাফল। এসকে হাইনিক্স বলেছে যে আর্কিটেকচারটি সিস্টেম-ডিজাইন পর্যায় থেকে শুরু করে ইন্টেল, গ্রাহক এবং অন্যান্য কৌশলগত পার্টনারদের সাথে যাচাই করা হবে।
ইতিহাস সহ একটি অংশীদারিত্ব
সার্ভার মেমোরির উপর এটি দুটি কোম্পানির প্রথম প্রচেষ্টা নয়। ২০২৫ সালের ডিসেম্বরে, এসকে হাইনিক্স এক্সিয়ন 6 প্ল্যাটফর্মে 256 GB DDR5 RDIMM-এর জন্য ইন্টেল ডেটা সেন্টার সার্টিফিকেশন পাওয়া প্রথম ভেন্ডর হয়েছিল।
এই মডিউলটি উপসংহার পারফরম্যান্সে প্রায় 16% বৃদ্ধি ঘটিয়েছে। এটি প্রায় 18% পাওয়ার খরচও কমিয়েছে।
শেয়ার্ড মেমোরি পুলটি সেই সম্পর্কের উপর ভিত্তি করে গড়ে উঠেছে এবং এটি এসকে হাইনিক্সের মেমোরি-কেন্দ্রিক কম্পিউটিং-এর ব্যাপক ফোকাসের সাথে মানানসই। গবেষণার কাঠামোটি ইন্টেলের সিপিইউগুলিকে এজেন্টিক এআই সিস্টেমে অর্কেস্ট্রেটর হিসাবে অবস্থান দেয়, যেখানে জিপিইউগুলি ভারী গণনা পরিচালনা করে এবং পুলড মেমোরি বৃদ্ধি পাওয়া কনটেক্সটটি ধারণ করে।




