
ছয় মাস আগে এই ক্ষমতার শ্রেণি ছিল $200/মাসের সাবস্ক্রিপশন। এখন এটি আমার ডেস্কে ঘুমাচ্ছে। Ultrageek ▸ আমি আমার স্থানীয় 27B কে একটি ককপিট দিয়েছি। সম্পূর্ণ অফলাইন। ● Qwen3.8-27B একটি Mac Studio M1 Max 32GB-এ, 81920-টোকেন কনটেক্সট Q8 KV ক্যাশে ব্যবহার করে ● প্রম্পট পড়া 95 টোক/সেকেন্ড, জেনারেশন 13 টোক/সেকেন্ড, 0.8B স্পেকুলেটিভ ড্রাফট সহ ● প্রতিটি অনুরোধকে পুনরায় গঠন করে এমন একটি প্রচেষ্টা ডায়াল: eco / normal / max, বেঞ্চমার্কড ● একটি ওয়াচডগ যা পুনরাবৃত্তির লুপ শনাক্ত করে এবং লাইভ সেশনে একটি স্টপ অর্ডার টাইপ করে ● whisper.cpp large-v3-turbo ডিকটেশন: 8s-এর বক্তব্য 1s-এ ট্রান্সক্রাইব, সিস্টেম-ওয়াইড ● UI-এর মধ্যে বসবাসকারী পাঁচটি অটো-রিগড 3D পেট, তাদের অ্যানিমেশনগুলি হলো টেলিমেট্রি। প্রতিটি টোকেন ঘরেই ঘুমায়। DeepSeek Harness-এর উপর তৈরি, Qwen-এর ভিতরে। উভয় দলকেই শ্রদ্ধা। https://t.co/KjLD4FA6ph @Alibaba_Qwen @deepseek_ai #LocalLLM



