NVIDIA Blackwell এজেন্ট হার্ডওয়্যার বেঞ্চমার্কে H200 কে 20x দ্বারা অতিক্রম করে

iconKuCoinFlash
শেয়ার
AI summary iconসারাংশ
ME AI সংবাদ, অনুসন্ধান প্রতিষ্ঠান Artificial Analysis দ্বারা শিল্পের প্রথম এজেন্ট (Agent) হার্ডওয়্যার বেঞ্চমার্ক AA-AgentPerf প্রকাশিত হয়েছে। প্রাচীন মূল্যায়ন একটি একক প্রশ্ন-উত্তরের মতো "স্প্রিন্ট" হয়ে থাকে, যা শুধুমাত্র প্রতিক্রিয়ার গতি পরীক্ষা করে; কিন্তু এজেন্ট কাজগুলি "রিলে রেস" এর মতো, যেখানে AI নিজেই লক্ষ্যগুলি বিভক্ত করে, ফাইল পড়া-লেখা, কোড পুনর্লিখন, এবং টেস্ট চালানোর মধ্যে বারবার সঞ্চালিত হয়। এই পুনরাবৃত্তি ইন্টারঅ্যাকশনগুলি সার্ভারের মেমোরি ক্ষমতা এবং স্কিডিউলিং দক্ষতার জন্য অত্যন্ত চ্যালেঞ্জিং। বেঞ্চমার্কটি বাস্তব প্রোগ্রামিং ট্রেজেক্টরির পুনরাবৃত্তির মাধ্যমে "প্রতি মেগাওয়াট শক্তি খরচে সমসময়িক এজেন্টের সংখ্যা"কে কেন্দ্রীয় শক্তি-দক্ষতা সূচক হিসাবে ব্যবহার করে, যা ডেটা সেন্টারের বিদ্যুৎ এবং资金-সীমা সমস্যাকেই সরাসরি লক্ষ্যবস্তু করে। প্রথম পরীক্ষায় 1.6টি ট্রিলিয়ন প্যারামিটারযুক্ত Open-Source মডেল DeepSeek V4 Pro-এর সমন্বয়ে 1.6টি ট্রিলিয়ন প্যারামিটারযুক্ত Open-Source মডেল DeepSeek V4 Pro-এর 1.6টি ট্রিলিয়ন প্যারামিটারযুক্ত Open-Source মডেল DeepSeek V4 Pro-এর 1.6টি ট্রিলিয়ন প্যারামিটারযুক্ত Open-Source মডেল DeepSeek V4 Pro-এর 1.6টি ট্রিলিয়ন প্যারামিটারযুক্ত Open-Source মডেল DeepSeek V4 Pro-এর 1.6টি ট্রিলিয়ন প্যারামিটারযুক্ত Open-Source মডেল DeepSeek V4 Pro-এর 1.6টি ট্রিলিয়ন প্যারামিটারযুক্ত Open-Source মডেল DeepSeek V4 Pro-এর 1.6টি ট্রিলিয়ন প্যারামিটারযুক্ত Open-Source মডেল DeepSeek V4 Pro-এর 1.6টি ট্রিলিয়ন প্যারামিটারযুক্ত Open-Source মডেল DeepSeek V4 Pro-এর 1.6টি ট্রিলিয়ন প্যারামিটারযুক্ত Open-Source মডেল DeepSeek V4 Pro-এর 1.6টি ট্রিলিয়ন প্যারামিটারযুক্ত Open-Source মডেল DeepSeek V4 Pro-এর 1.6টি ট্রিলিয়ন প্যারামিটারযুক্ত Open-Source মডেল DeepSeek V4 Pro-এর 1.6টি ট্রিলিয়ন প্যারামিটারযুক্ত Open-Source మడెల్ DeepSeek V4 Pro-এর 1.6টি ట్రిలియన్ ప్యారామీటర్లు సహిత ఓపెన్-సోర్స్ మాడెల్ DeepSeek V4 Pro ఉపయోగించা హয়। পরীক্ষা: NVIDIA Blackwell液冷整柜系统 GB300 NVL72, 1 MW power consumption can support 61,400 concurrent agents, while the previous generation Hopper HGX H200 can only support 2,600, a more than 20-fold improvement in efficiency. Single GPU concurrent capacity has also increased by 41 times. This allows data centers to support 20 times more concurrent agents under the same power budget, significantly reducing the cost of deploying applications such as automated programming and customer service. In the initial results, AMD Instinct MI355X is currently lagging. The evaluation agency noted that both AMD and H200 configurations use the general open-source vLLM framework without deep optimization; as service frameworks and internal kernel adaptations catch up, AMD's performance still has room for improvement. Currently, inference providers such as Together AI have already deployed DeepSeek V4 Pro on Blackwell to provide real-time inference support for the agent programming tool Cursor. (Source: BlockBeats)
দাবিত্যাগ: এই পৃষ্ঠার তথ্য তৃতীয় পক্ষের কাছ থেকে প্রাপ্ত হতে পারে এবং অগত্যা KuCoin এর মতামত বা মতামত প্রতিফলিত করে না। এই বিষয়বস্তু শুধুমাত্র সাধারণ তথ্যগত উদ্দেশ্যে প্রদান করা হয়, কোন ধরনের প্রতিনিধিত্ব বা ওয়ারেন্টি ছাড়াই, বা এটিকে আর্থিক বা বিনিয়োগ পরামর্শ হিসাবে বোঝানো হবে না। KuCoin কোনো ত্রুটি বা বাদ পড়ার জন্য বা এই তথ্য ব্যবহারের ফলে যে কোনো ফলাফলের জন্য দায়ী থাকবে না। ডিজিটাল সম্পদে বিনিয়োগ ঝুঁকিপূর্ণ হতে পারে। আপনার নিজের আর্থিক পরিস্থিতির উপর ভিত্তি করে একটি পণ্যের ঝুঁকি এবং আপনার ঝুঁকি সহনশীলতা সাবধানে মূল্যায়ন করুন। আরও তথ্যের জন্য, অনুগ্রহ করে আমাদের ব্যবহারের শর্তাবলী এবং ঝুঁকি প্রকাশ পড়ুন।