AIMPACT সংবাদ, ৩০ এপ্রিল (UTC+8), Beating মনিটরিং অনুযায়ী, নভেডিয়া একটি ব্লগ পোস্টে ইনফারেন্স হার্ডওয়্যার সিলেকশন বিশ্লেষণ করেছে, যার মূল যুক্তি একটি বাক্যে: ইনফারেন্স ইনফ্রাস্ট্রাকচার মূল্যায়নের জন্য 'প্রতি GPU প্রতি ঘন্টা খরচ' নয়, 'প্রতি token খরচ' দেখা উচিত। GPU একক মূল্যের তুলনায়, Blackwell বেশি দামি; কিন্তু token খরচের তুলনায়, Blackwell পূর্বপীঠকে পিছনে ফেলেছে। ব্লগটি DeepSeek-R1 (MoE ইনফারেন্স মডেল) কে টেস্ট করে, Blackwell (GB300 NVL72) এবং পূর্বপীঠ Hopper (HGX H200) এর তুলনা করেছে। ক্লাউড মার্কেটের ভাড়ার রেফারেন্স মূল্য অনুযায়ী, Blackwell-এর প্রতি GPU প্রতি ঘন্টা 2.65 ডলার, Hopper-এর 1.41 ডলারের চেয়ে প্রায় দ্বিগুণ। কিন্তু, প্রতি GPU-এর প্রতি সেকেন্ডে token উৎপাদন 90 থেকে 6000-এ বাড়ে, 65 গুণ থ্রুপুট বৃদ্ধির ফলে, প্রতি মিলিয়ন token-এর খরচ 4.20 ডলার থেকে 0.12 ডলারে নামে। প্রতি মেগাওয়াট token উৎপাদন 50 গুণ বৃদ্ধি। যা মনে রাখা দরকার: 0.12 ডলার এই সংখ্যাটি FP4-এর লো-প্রিসিশন ইনফারেন্স, MTP (মাল্টি-টোকেন প্রিডিকশন, যা মডেলকে একসঙ্গে একাধিক token-এর জন্য জেনারেট করতে সক্ষম করে)সহ অনেকগুলি সফটওয়্যার অপটিমাইজেশনকেই 100% activate-এর উপর ভিত্তি করে। SemiAnalysis InferenceX v2-এর মূল ডেটা-অনুযায়ী, DeepSeek-R1-এর jন্য GB300 NVL72-এ MTP off-এর 100% token-এর cost ~2.35 USD, MTP on-এ ~0.11 USD-এ, 21x-এরও beshi difference। 以上均为 DeepSeek-R1 单一模型的测试结果，不同模型架构和规模下数字会不同。 (সূত্র: BlockBeats)
NVIDIA ব্ল্যাকওয়েল খরচের বিস্তারিত প্রকাশ করেছে: GPU মূল্য দ্বিগুণ, টোকেন খরচ 35x কমেছে
KuCoinFlashশেয়ার
সারাংশ
NVIDIA-এর Blackwell GPU-এর দাম প্রায় হপ্পার মডেলের দ্বিগুণ, কিন্তু টোকেন খরচ 35 গুণ কমে যায়। $2.65 প্রতি ঘন্টা ক্লাউড রেটে, Blackwell প্রতি সেকেন্ডে 6,000 টোকেন প্রদান করে, যেখানে Hopper শুধুমাত্র 90 টোকেন প্রদান করে। এতে প্রতি মিলিয়ন টোকেনের খরচ $4.20 থেকে $0.12-এ নেমে আসে। দাম বিশ্লেষণ দেখায় যে FP4 এবং MTP-এর মতো সফটওয়্যার উন্নতি দক্ষতা বাড়ায়। ক্রিপ্টো দামের প্রবণতা এই হার্ডওয়্যার পরিবর্তনগুলিকে প্রতিফলিত করতে পারে।
উৎস:আসল দেখান
দাবিত্যাগ: এই পৃষ্ঠার তথ্য তৃতীয় পক্ষের কাছ থেকে প্রাপ্ত হতে পারে এবং অগত্যা KuCoin এর মতামত বা মতামত প্রতিফলিত করে না। এই বিষয়বস্তু শুধুমাত্র সাধারণ তথ্যগত উদ্দেশ্যে প্রদান করা হয়, কোন ধরনের প্রতিনিধিত্ব বা ওয়ারেন্টি ছাড়াই, বা এটিকে আর্থিক বা বিনিয়োগ পরামর্শ হিসাবে বোঝানো হবে না। KuCoin কোনো ত্রুটি বা বাদ পড়ার জন্য বা এই তথ্য ব্যবহারের ফলে যে কোনো ফলাফলের জন্য দায়ী থাকবে না।
ডিজিটাল সম্পদে বিনিয়োগ ঝুঁকিপূর্ণ হতে পারে। আপনার নিজের আর্থিক পরিস্থিতির উপর ভিত্তি করে একটি পণ্যের ঝুঁকি এবং আপনার ঝুঁকি সহনশীলতা সাবধানে মূল্যায়ন করুন। আরও তথ্যের জন্য, অনুগ্রহ করে আমাদের ব্যবহারের শর্তাবলী এবং ঝুঁকি প্রকাশ পড়ুন।