AMD স্থানীয় প্রোগ্রামিং প্ল্যাটফর্ম Instinct Coder 355 চালু করেছে, 8টি MI355X দিয়ে স্থানীয়ভাবে চালানোর ক্ষমতা শীর্ষস্থানীয় মডেলের 98% ইনফারেন্সের কাছাকাছি, ডিফল্টরূপে ইন্টারনেটের সংযোগ নেই, ডেটা স্থানীয়ভাবে রাখা হয়।লেখক এবং উৎস: AIBase
AMD এবার ক্লাউড থেকে বড় মডেলগুলিকে ডেটা সেন্টারে ফিরিয়ে আনছে, এবং এটি এখন এন্টারপ্রাইজ ডেভেলপারদের জন্য। স্থানীয় সময় ৯ নভেম্বর, AMD এবং Spectro Cloud একত্রে এন্টারপ্রাইজ-লেভেল AI-সহায়িত প্রোগ্রামিং প্ল্যাটফর্ম Instinct Coder 355 চালু করেছে, যা স্থানীয়ভাবে GLM-5.3 ইনফারেন্স চালাতে পারে এবং এটি বলা হয়েছে যে এটি শীর্ষস্থানীয় মডেলগুলির ৯৮% পারফরম্যান্সের কাছাকাছি।
আটটি কার্ড একটি প্রোগ্রামিং সার্ভারকে সমর্থন করে
এই সিস্টেমের শক্তি রয়েছে উচ্চ স্পেসিফিকেশনে: কোর হিসাবে 8টি AMD Instinct MI355X অ্যাক্সেলারেটর, 2টি 64-কোর EPYC 9575F "Zen 5" প্রসেসর, 3TB DDR5-6400 মেমোরি এবং মোট 63.36TB সলিড-স্টেট স্টোরেজ সহ। ডেল এবং Supermicro বিভিন্ন স্পেসিফিকেশনের পুরো সিস্টেম প্রদান করে, যা প্রতিষ্ঠানগুলি তাদের ডেটা সেন্টারের অভ্যাস অনুযায়ী বাছাই করতে পারে। একটি নোড একসাথে 85জন ডেভেলপারকে সাপোর্ট করতে পারে, যার 50জন একসাথে কোডিং করতে পারেন—এটি একটি ছোট টিমের কম্পিউটিং চাহিদা একটি সিস্টেমের মধ্যেই সংগ্রহ করে।
ডিফল্টরূপে ক্লাউডে সংযুক্ত থাকবে না, ডেটা স্থানীয়ভাবে রাখা হবে
ব্যবসাগুলিকে সত্যিকার অর্থে আকর্ষণ করছে "বাইরে যাওয়ার প্রয়োজন নেই" এই বৈশিষ্ট্য। Spectro Cloud এই সিস্টেমের জন্য PaletteAI Inference Launchpad ম্যানেজমেন্ট সফটওয়্যার সরবরাহ করে, যা ডিফল্টরূপে ক্লাউড API-এর পরিবর্তে স্থানীয় কম্পিউটিং পাওয়ার ব্যবহার করে, যাতে সংবেদনশীল কোড এবং ডেটা বাইরে পাঠানোর প্রয়োজন না হয়। খরচ এবং সঙ্গতির দুটি চাপের মধ্যে, উপসংহারকে নিজস্ব ডেটা সেন্টারে ফিরিয়ে আনা বড় কোম্পানিগুলির জন্য একটি নতুন প্রাধান্য হয়ে উঠছে—AMD-এর এই পদক্ষেপটি, স্পষ্টতই, NVIDIA এবং বিভিন্ন ক্লাউড প্রদানকারীদের থেকে একটি অংশ চাইতে চায়।