বিভিন্ন চিপ প্রস্তুতকারক নতুন মূল্যায়ন পদ্ধতি অনুসন্ধান করছে, যার পেছনে এজেন্ট সিপিইউয়ের কাজের লোডকে পরিবর্তন করছে।লেখক এবং উৎস: ওয়াল স্ট্রিট ভিজন
এজেন্টের প্রয়োগের ক্ষেত্রগুলি ক্রমাগত বিশেষীকরণ হচ্ছে।
ক্লাউড কোডের মতো এআই প্রোগ্রামিং টুল থেকে শুরু করে ডকুমেন্ট প্রসেস করতে এবং সফটওয়্যার চালাতে সক্ষম অফিস অ্যাসিস্ট্যান্ট, এবং ব্যবহারকারীদের যাত্রা পরিকল্পনা এবং ক্যালেন্ডার পরিচালনায় সাহায্য করা পার্সোনাল অ্যাসিস্ট্যান্ট—এজেন্টগুলি ক্রমাগত বেশি বেশি নির্দিষ্ট কাজ নিয়ে নিচ্ছে।
অ্যাপ্লিকেশনের ব্যাপক বিস্তারের সাথে সাথে ভিত্তির ক্যালকুলেশন ক্ষমতার জন্য নতুন প্রয়োজনীয়তা তৈরি হয়েছে।
এই প্রেক্ষাপটে, আর্ম সম্প্রতি এজেন্টের জন্য একটি সিপিইউ পারফরম্যান্স মূল্যায়ন পদ্ধতি চালু করেছে, যা বাস্তব অ্যাপ্লিকেশন স্কেনারিওর সাথে বেশি মিলে যাওয়া পরীক্ষার মাধ্যমে বিভিন্ন সিপিইউ-এর এজেন্ট কাজের পারফরম্যান্স মূল্যায়নে সহায়তা করবে।
এটি একক ঘটনা নয়। AMD আগে থেকেই Agent AI-এর জন্য CPU ওয়ার্কলোড মূল্যায়ন ফ্রেমওয়ার্ক প্রস্তাব করেছে, যেখানে টুল এক্সিকিউশন, ডেটা রিট্রিভাল এবং টাস্ক অর্ডারিং সহ বিভিন্ন ধাপগুলিকে পরীক্ষার অন্তর্ভুক্ত করা হয়েছে; ইন্টেলও Xeon 6 প্রসেসরের জন্য সংশ্লিষ্ট পরীক্ষা চালিয়েছে, যেখানে Agent টাস্কের থ্রুপুট এবং সমান্তরাল বাস্তবায়ন দক্ষতাকে প্রধান ফোকাস হিসাবে রাখা হয়েছে।
বিভিন্ন চিপ প্রস্তুতকারক নতুন মূল্যায়ন পদ্ধতি অনুসন্ধান করছে, যার পেছনে এজেন্ট সিপিইউয়ের কাজের লোডকে পরিবর্তন করছে।
গত কয়েক বছরে, বড় মডেলের ক্যালকুলেশন প্রতিযোগিতা মূলত GPU-এর চারপাশে ঘুরে বেড়াচ্ছিল, যেখানে টোকেন জেনারেশন স্পিড, থ্রুপুট ইত্যাদি মাপদণ্ডগুলি AI ইনফারেন্স পারফরম্যান্স মূল্যায়নের জন্য গুরুত্বপূর্ণ ভিত্তি হয়ে উঠেছিল।
যখন এজেন্ট প্রকৃত কাজ সম্পাদন শুরু করে, তখন বড় মডেলকে যুক্তি প্রয়োগের জন্য কল করার পাশাপাশি ডাটাবেসে অ্যাক্সেস করা, কোড এক্সিকিউট করা, টুল কল করা ইত্যাদি ধাপগুলি প্রচুর CPU সম্পদ খরচ করতে পারে।
আর্ম ক্লাউড এআই সলিউশন আর্কিটেকচার ডিরেক্টর রবি মালহোত্রা সফটওয়্যার ডেভেলপমেন্ট এজেন্টের উদাহরণ দিয়ে বলেন, মডেলটি প্রথমে যুক্তি প্রয়োগ করে কোড তৈরি করে, তারপর CPU-এর দ্বারা কোড বিল্ড, কম্পাইল এবং টেস্টিং সম্পন্ন করতে হয়, যা অনেক সময় নিতে পারে।
এই ধরনের ব্যবহারের ক্ষেত্রে অত্যন্ত গুরুত্বপূর্ণ হলো, CPU তার অংশটি কত দ্রুত সম্পন্ন করে নিয়ন্ত্রণকে দ্রুত আরও ব্যয়বহুল GPU বা অ্যাক্সেলারেটরের হাতে ফিরিয়ে দেয়, যাতে পাইপলাইনের পরবর্তী ধাপটি সম্পন্ন করা যায়।" রাভি মালহোত্রা অ্যালওয়েজ-অন টেকনোলজির মতো মিডিয়াকে বলেছেন, "যদি CPU যথেষ্ট দ্রুত না হয়, তবে ব্যয়বহুল GPU অকার্যকর অবস্থায় থাকবে।"
আরও জটিল হলে, বিভিন্ন এজেন্টের পারফরম্যান্স বাধা ভিন্ন ভিন্ন। কিছু কাজের মূল বাধা হল জিপিইউ ইনফারেন্স গতি, অন্য কিছু কাজের ক্ষেত্রে সিপিইউ স্যান্ডবক্স এক্সিকিউশন ক্ষমতা বা ডেটা রিট্রিভাল দক্ষতা বাধা হয়ে দাঁড়ায়। একই ধরনের এজেন্টের পারফরম্যান্স বাধাও মডেল, ডিপ্লয়মেন্ট পরিবেশ এবং নির্দিষ্ট কাজের পরিবর্তনের সাথে পরিবর্তিত হতে পারে।
সফটওয়্যার ডেভেলপমেন্টের উদাহরণ হিসেবে নেওয়া যাক, কোড কম্পাইল এবং টেস্টিংয়ের জন্য প্রায়শই CPU সংস্থানের ধারাবাহিক ব্যবহার প্রয়োজন, তাই একটি এজেন্টের একক কর্মক্ষমতা বেশি গুরুত্বপূর্ণ। অন্যদিকে, কোম্পানির কাস্টমার সাপোর্ট বা ব্যক্তিগত সহায়কের মতো পরিস্থিতিতে প্রতিটি অপারেশন সাধারণত সংক্ষিপ্ত হয়, কিন্তু একসাথে অসংখ্য অনুরোধ প্রক্রিয়াকরণের প্রয়োজন হয়, যা CPU-এর সমান্তরাল ক্ষমতার জন্য বেশি চাহিদা তৈরি করে।
এই পার্থক্যগুলির কারণে CPU পারফরম্যান্স মূল্যায়ন শুরু হয়েছে পূর্ণাঙ্গ এজেন্ট টাস্কের কার্যকারিতা এবং বিভিন্ন ওয়ার্কলোডের পারফরম্যান্সের উপর।
এই প্রস্তাবে আর্ম কম্পোনেন্ট-লেভেল টেস্টিং এবং এন্ড-টু-এন্ড এজেন্ট বেঞ্চমার্কিংকে একত্রিত করার প্রস্তাব করেছে।
এর মধ্যে, কম্পোনেন্ট-লেভেল টেস্টিং ওয়েব সার্ভার, ডাটাবেস, মডেল সার্ভিস এবং স্যান্ডবক্স এক্সিকিউশন ইত্যাদি ধাপগুলিকে কভার করে, এবং এন্ড-টু-এন্ড টেস্টিং SWE-bench, Terminal-Bench ইত্যাদি এজেন্ট বেঞ্চমার্কগুলিকে অন্তর্ভুক্ত করে পূর্ণাঙ্গ কাজের প্রবাহের পারফরম্যান্স মূল্যায়ন করে।
প্রাচীন মাপদণ্ডগুলির বাইরে, যেমন একক কোর পারফরম্যান্স এবং মাল্টি-কোর থ্রুপুট, আর্ম এজেন্টের সমান্তরাল সংখ্যা, টাস্ক একিউটিং দক্ষতা এবং প্রতি র্যাক পারফরম্যান্সের দিকেও মনোযোগ দেয়।
রবি মালহোত্রা বলেন যে, পারফরম্যান্স মূল্যায়নের জন্য থ্রুপুট এবং SLA (সার্ভিস লেভেল এগ্রিমেন্ট) প্রয়োজনীয়তার মধ্যে ভারসাম্য বজায় রাখা প্রয়োজন, শুধুমাত্র একসাথে বেশি Agent চালানোর দিকে মনোযোগ দেওয়া উচিত নয়।
বিভিন্ন পরিস্থিতির প্রয়োজনীয়তা ভিন্ন হওয়ায়, আর্ম বিভিন্ন এজেন্ট ব্যবহারের জন্য একটি একক ওজন বণ্টন পদ্ধতির পরামর্শ দেয় না, বরং প্রতিষ্ঠানগুলিকে তাদের নিজস্ব প্রয়োগের ভিত্তিতে উপযুক্ত মূল্যায়ন সূচক বাছাইয়ের পরামর্শ দেয়।
যখন এজেন্টগুলি ধীরে ধীরে কোম্পানির বাস্তব ব্যবসায়িক প্রক্রিয়াগুলিতে প্রবেশ করে, তখন এই পারফরম্যান্স মেট্রিকগুলি কোম্পানিগুলির জন্য CPU অবকাঠামো বাছাই এবং আপগ্রেডের জন্য গুরুত্বপূর্ণ রেফারেন্স হয়ে ওঠে।
রবি মালহোত্রা মনে করেন যে সফটওয়্যার ডেভেলপমেন্ট, ক্লায়েন্ট সাপোর্ট, সাপ্লাই চেইন ম্যানেজমেন্ট এবং ব্যক্তিগত সহায়কের মতো পরিস্থিতিগুলি কোম্পানিগুলিকে CPU ইনফ্রাস্ট্রাকচার আপগ্রেড করতে উৎসাহিত করবে।
“কোম্পানির জন্য, ক্লায়েন্ট সাপোর্ট, সাপ্লাই চেইন ম্যানেজমেন্ট এবং ব্যক্তিগত সহায়কের মতো সিনেরিওগুলিতে প্রতি র্যাক পারফরম্যান্স বেশি গুরুত্বপূর্ণ, এবং Arm AGI CPU-এর স্কেলেবিলিটি এবং শক্তি দক্ষতার সুবিধাগুলি এই সিনেরিওগুলিতে বিশেষভাবে উল্লেখযোগ্য,” রবি মালহোত্রা বলেন।
রবি মালহোত্রা আরও উল্লেখ করেন যে, এজেন্ট অ্যাপ্লিকেশনের জন্য বিদ্যমান অবকাঠামোকে আপগ্রেড করা বা সম্পূর্ণ নতুন অবকাঠামো ডিজাইন ও উন্নয়ন করা—এই উভয় পরিস্থিতিতেই স্পষ্ট আপগ্রেডের প্রয়োজনীয়তা তৈরি হবে এবং এটি Arm AGI CPU-এর বৃদ্ধি ও普及-এর প্রধান প্রেরণাশক্তি হয়ে উঠবে।
কোম্পানির জন্য, সিপিইউ পারফরম্যান্সের উন্নতি থেকে আনা মূল্য চূড়ান্তভাবে বাস্তব অপারেশনাল দক্ষতা এবং খরচে প্রতিফলিত হতে হবে।
বিভিন্ন এজেন্টের কাজের লোডের পার্থক্য বেশি, বেঞ্চমার্ক পরীক্ষায় পারফরম্যান্সের সুবিধা কি প্রকৃতপক্ষে কাজের কার্যকারিতা বৃদ্ধি এবং বাস্তবায়ন খরচ হ্রাসে রূপান্তরিত হবে, তা আরও বেশি বাস্তব প্রয়োগের মাধ্যমে যাচাইয়ের অপেক্ষায়।
ঝুঁকি সতর্কীকরণ এবং দায়বদ্ধতা অস্বীকার
বাজারে ঝুঁকি রয়েছে, বিনিয়োগের সময় সতর্ক থাকুন। এই প্রবন্ধটি ব্যক্তিগত বিনিয়োগের পরামর্শ হিসেবে গণ্য করা হয় না, এবং ব্যক্তিগত ব্যবহারকারীর বিশেষ বিনিয়োগ লক্ষ্য, আর্থিক অবস্থা বা প্রয়োজনীয়তাকে বিবেচনায় রাখা হয়নি। ব্যবহারকারীদের উচিত এই প্রবন্ধে উল্লিখিত যেকোনো মতামত, দৃষ্টিভঙ্গি বা উপসংহারকে তাদের নিজস্ব পরিস্থিতির সাথে মিলিয়ে দেখা। এইভাবে বিনিয়োগের জন্য আপনি নিজেই দায়ী।