AI কোডিং খরচ নিয়ন্ত্রণের বাইরে চলে যাচ্ছে? কোম্পানির চ্যালেঞ্জ সমাধানের জন্য, AMD, Supermicro এবং Spectro Cloud 5 তারিখে "AMD Instinct Coder" এক-স্টপ AI ইনফারেন্স সমাধান ঘোষণা করেছে। এই সমাধানটি "স্থানীয় প্রাধান্য" এবং বুদ্ধিমত্তাপূর্ণ রুটিং প্রযুক্তির উপর জোর দেয়, যার ফলে কোম্পানিগুলি সংবেদনশীল কোডের নিরাপত্তা বজায় রাখার সাথে সাথে Token খরচ ব্যাপকভাবে কমিয়ে দিতে পারবে।
(পূর্ব পরিচয়: মেটা সবচেয়ে শক্তিশালী এআই এজেন্ট মডেল মিউজ স্পার্ক 1.1 প্রকাশ করেছে! মিলিয়ন কনটেক্সট সমর্থন করে, কোডিং এবং কম্পিউটার নিয়ন্ত্রণে দক্ষ)
(প্রেক্ষাপট: মাস্কের স্পেসএক্সএআই সবচেয়ে শক্তিশালী মডেল "গ্রক ৪.৫" চালু করেছে! কার্সরের সাথে মিলে এআই কোডিং এজেন্টে আক্রমণ করছে, অফিস অফিস সফটওয়্যারের সাথে পরিপূর্ণভাবে একীভূত হচ্ছে)
যেহেতু ডেভেলপার সম্প্রদায়ে কৃত্রিম বুদ্ধিমত্তা (AI) দ্বারা কোড লেখার টুলগুলি দ্রুত ব্যাপকভাবে গ্রহণ করা হচ্ছে, কোম্পানিগুলির টোকেন খরচ দ্রুত বৃদ্ধি পাচ্ছে। কোম্পানিগুলি, ক্লাউড সেবা প্রদানকারীদের এবং সার্বভৌম AI অপারেটরদের জন্য এই সমস্যা সমাধানের জন্য, কম্পিউটিং বিশেষজ্ঞ AMD, হার্ডওয়্যার বড় কোম্পানি Supermicro এবং ক্লাউড ম্যানেজমেন্ট স্টার্টআপ Spectro Cloud তাইওয়ান সময় 8 মে 5 তারিখে ঘোষণা করেছে যে, "AMD Instinct Coder" নামক একটি এন্টারপ্রাইজ-লেভেল AI কোডিং ইনফারেন্স সমাধান চালু করা হয়েছে।
খরচ এবং সাইবার সুরক্ষার সমস্যা সমাধান: স্মার্ট রাউটিং প্রযুক্তি
গার্টনার গবেষণা প্রতিষ্ঠানের পূর্বানুমান অনুযায়ী, যদি উপযুক্ত গভর্ন্যান্স মডেল না থাকে, তবে 2028 সালের মধ্যে ব্যবসায়িক এআই কোডিং খরচ ডেভেলপারদের গড় বেতনের চেয়েও বেশি হয়ে যেতে পারে। AMD Instinct Coder-এর মূল মূল্য রয়েছে “হাইব্রিড অপারেশনাল মডেল”-এ, যা কাজের জটিলতা অনুযায়ী বুদ্ধিমত্তার সাথে সিদ্ধান্ত নেয়: সাধারণ কোডিং টাস্কগুলি স্থানীয়ভাবে ডিপ্লয় করা মডেলগুলিতে স্বয়ংক্রিয়ভাবে পাঠায়, এবং উন্নত জটিল যুক্তির জন্য বাইরের অগ্রণী মডেলগুলির উপর ভরসা করে।
এই ডিজাইনটি শুধু উচ্চ টোকেন খরচ কমায় না, বরং এটি প্রতিষ্ঠানগুলিকে সংবেদনশীল কোড এবং প্রেক্ষাপটের ডেটা স্থানীয়ভাবে রাখতে সক্ষম করে, যাতে একক ক্লাউড সরবরাহকারীকে গোপনীয়তা প্রকাশের সাইবার নিরাপত্তা ঝুঁকি থেকে বাঁচা যায়।
তিনটি শীর্ষ প্রযুক্তি সম্পূর্ণ শক্তি নিয়ে: MI325X মুখ্য ভূমিকায়
এই এক-স্টপ সমাধানটি তিনটি প্রমুখ কোম্পানির শীর্ষস্থানীয় প্রযুক্তিকে আদর্শভাবে একীভূত করে। হার্ডওয়্যার দিক থেকে, প্রাথমিক কনফিগারেশনে AMD-এর সর্বশেষ Instinct MI325X GPU ব্যবহার করা হবে, যার 256 GB HBM3E মেমোরি এবং 6 TB/s পর্যন্ত শীর্ষ মেমোরি ব্যান্ডউইথ রয়েছে, যা মেমোরি-ঘন এআই ইনফারেন্স টাস্কগুলির জন্য অত্যন্ত উপযুক্ত; এবং Supermicro-এর দ্বারা সরবরাহকৃত আট GPU-বিশিষ্ট এন্টারপ্রাইজ-লেভেল AI ইনফ্রাস্ট্রাকচার, যা এয়ার এবং লিকুইড কুলিং উভয়ই সমর্থন করে।
সফটওয়্যার লেয়ারটি Spectro Cloud-এর PaletteAI Inference Launchpad দ্বারা সমর্থিত, যা প্ল্যাটফর্ম টিমগুলিকে কোটা, মেট্রিক্স এবং মডেল রাউটিং নীতি সহজেই সেটআপ করতে সক্ষম করে, যার ফলে সূক্ষ্ম মাল্টি-টেন্যান্ট নিয়ন্ত্রণ এবং গভর্ন্যান্স ফাংশনগুলি অর্জন করা যায়।
সরবরাহকারীর বন্ধন ভাঙুন, ব্যবসায়িক AI কে দ্রুত বাস্তবায়ন করুন
এই গুরুত্বপূর্ণ সহযোগিতার জন্য, স্পেকট্রো ক্লাউডের সিইও টেন্রি ফু জোর দিয়ে বলেন যে, কোম্পানিগুলির মডেলের ক্ষমতা এবং আর্থিক নিয়ন্ত্রণের মধ্যে সমঝোতা করার প্রয়োজন নেই; AMD-এর সিনিয়র ভাইস প্রেসিডেন্ট ড্যান ম্যাকনামারা ও বলেন যে, AI কোডিং ব্যক্তিগত ডেভেলপার টুল থেকে উন্নীত হয়েছে এবং এখন এটি একটি এন্টারপ্রাইজ-লেভেলের কী সিদ্ধান্ত।
এই সমাধানটি বর্তমানে লাস ভেগাসে অনুষ্ঠিত Ai4 প্রদর্শনীতে প্রদর্শিত হচ্ছে। এই পূর্ব-একীভূত এবং যাচাইকৃত হার্ডওয়্যার-সফটওয়্যার কম্বিনেশনের মাধ্যমে, ব্যবসাগুলি জটিল DIY ইনফ্রাস্ট্রাকচার প্রকল্পগুলির পরিবর্তে এটি ব্যবহার করে উৎপাদন-প্রস্তুত হওয়ার সময়কাল ব্যাপকভাবে সংক্ষিপ্ত করতে পারে এবং উৎপাদন-মানের AI-এর বাস্তবায়নকে ত্বরান্বিত করতে পারে।
