Qwen 3.6 27B ঘন মডেলটি RTX 3090-এ 40 টোক/সেকেন্ড অর্জন করেছে

iconKuCoinFlash
শেয়ার
Share IconShare IconShare IconShare IconShare IconShare IconCopy
AI summary iconসারাংশ

expand icon
মেটাএরা থেকে অন-চেইন সংবাদ অনুযায়ী, Qwen 3.6 27B Dense মডেলটি একটি একক RTX 3090 24GB GPU-এ 40 টোকেন প্রতি সেকেন্ডে পৌঁছেছে। ব্যবহারকারী @sudoingX এপ্রিল 24-এ (UTC+8) llama.cpp-এর Q4_K_M কোয়ান্টাইজেশন ব্যবহার করে ফলাফল পোস্ট করেন। কোনো ট্রিক বা ফিউজড কার্নেল প্রয়োগ করা হয়নি। একটি কাস্টম পার্টিকল সুয়ার্ম বেঞ্চমার্কও তৈরি করা হয়েছে। ক্রিপ্টো সংবাদ প্ল্যাটফর্মগুলি এই পারফরম্যান্সকে ঘনিষ্ঠভাবে ট্র্যাক করছে।

AIMPACT মেসেজ, ২৪ এপ্রিল (UTC+8), ২০২৬ সালের ২৪ এপ্রিল, ব্যবহারকারী @sudoingX প্রাথমিক পরীক্ষার ফলাফল প্রকাশ করেন: Qwen 3.6 27B Dense মডেলটি একটি একক RTX 3090 24GB গ্রাফিক্স কার্ডে ৪০ tok/s গতিতে ১০/১০ পরীক্ষা পাস করেছে। এই ফলাফলটি কোয়ান্টাইজেশন টেকনিক বা ফিউজড কার্নেলের ব্যবহার ছাড়াই, কেবল llama.cpp-এর Q4_K_M ডাইরেক্ট কোয়ান্টাইজেশন ব্যবহার করে প্রাপ্ত। ব্যবহারকারী মডেলের মূল্যায়নের জন্য একটি পার্টিকল সুইম বেঞ্চমার্কও তৈরি করেছেন। (উৎস: InFoQ)

দাবিত্যাগ: এই পৃষ্ঠার তথ্য তৃতীয় পক্ষের কাছ থেকে প্রাপ্ত হতে পারে এবং অগত্যা KuCoin এর মতামত বা মতামত প্রতিফলিত করে না। এই বিষয়বস্তু শুধুমাত্র সাধারণ তথ্যগত উদ্দেশ্যে প্রদান করা হয়, কোন ধরনের প্রতিনিধিত্ব বা ওয়ারেন্টি ছাড়াই, বা এটিকে আর্থিক বা বিনিয়োগ পরামর্শ হিসাবে বোঝানো হবে না। KuCoin কোনো ত্রুটি বা বাদ পড়ার জন্য বা এই তথ্য ব্যবহারের ফলে যে কোনো ফলাফলের জন্য দায়ী থাকবে না। ডিজিটাল সম্পদে বিনিয়োগ ঝুঁকিপূর্ণ হতে পারে। আপনার নিজের আর্থিক পরিস্থিতির উপর ভিত্তি করে একটি পণ্যের ঝুঁকি এবং আপনার ঝুঁকি সহনশীলতা সাবধানে মূল্যায়ন করুন। আরও তথ্যের জন্য, অনুগ্রহ করে আমাদের ব্যবহারের শর্তাবলী এবং ঝুঁকি প্রকাশ পড়ুন।