সুইফ্লেট ৪.৩ জিবি শীর্ষ মেমোরি সহ ম্যাকে ৮০ বিলিয়ন Qwen মডেল চালানোর জন্য ছোট করে ফেলেছে
KuCoinFlashশেয়ার
সারাংশ
মেটাএরা থেকে একটি নতুন প্রকল্পের ঘোষণা অনুযায়ী, সুইফটলেট প্রকল্পটি সুইফট এবং মেটাল ব্যবহার করে ম্যাকের জন্য Qwen3-Next এবং অন্যান্য MoE মডেলগুলিকে অপ্টিমাইজ করেছে। শুধুমাত্র একটি ছোট ঘন কোরকে মেমরিতে লোড করে এবং SSD থেকে এক্সপার্ট ওজনগুলি স্ট্রিম করে, 4-বিট Qwen3.6-35B-A3B মডেলটি M5 ম্যাকে মাত্র 18GB ডিস্ক স্পেস এবং 2.6GB শীর্ষ মেমরি নেয়, যার ডিকোডিং গতি 7–11 tok/s। এই অন-চেইন খবরটি ভোক্তা হার্ডওয়্যারে বড় মডেলগুলির দক্ষ বাস্তবায়নকে উল্লেখ করে।
উৎস:আসল দেখান
দাবিত্যাগ: এই পৃষ্ঠার তথ্য তৃতীয় পক্ষের কাছ থেকে প্রাপ্ত হতে পারে এবং অগত্যা KuCoin এর মতামত বা মতামত প্রতিফলিত করে না। এই বিষয়বস্তু শুধুমাত্র সাধারণ তথ্যগত উদ্দেশ্যে প্রদান করা হয়, কোন ধরনের প্রতিনিধিত্ব বা ওয়ারেন্টি ছাড়াই, বা এটিকে আর্থিক বা বিনিয়োগ পরামর্শ হিসাবে বোঝানো হবে না। KuCoin কোনো ত্রুটি বা বাদ পড়ার জন্য বা এই তথ্য ব্যবহারের ফলে যে কোনো ফলাফলের জন্য দায়ী থাকবে না।
ডিজিটাল সম্পদে বিনিয়োগ ঝুঁকিপূর্ণ হতে পারে। আপনার নিজের আর্থিক পরিস্থিতির উপর ভিত্তি করে একটি পণ্যের ঝুঁকি এবং আপনার ঝুঁকি সহনশীলতা সাবধানে মূল্যায়ন করুন। আরও তথ্যের জন্য, অনুগ্রহ করে আমাদের ব্যবহারের শর্তাবলী এবং ঝুঁকি প্রকাশ পড়ুন।