
يمكن الآن تشغيل DeepSeek-V4 بالكامل محليًا عبر Unsloth GGUFs إليك كيف يبدو سلم التكميم فعليًا: 1-bit: 92 جيجابايت ذاكرة إجمالية 2-bit: 102 جيجابايت 3-bit: 110-135 جيجابايت — يعمل على جهاز Mac بذاكرة موحدة 4-bit شبه بلا خسارة: 162 جيجابايت Q8 بلا خسارة: 169 جيجابايت بضعة أمور تستحق الفهم خصوصًا بالنسبة للنسخة Flash: • إجمالي المعلمات: 284B، لكن فقط 13B نشطة في أي وقت — يعني بنية MoE أنك لا تشغّل النموذج الكامل، بل فقط الخبراء ذوي الصلة • نسخة GGUF 8-bit بلا خسارة بحجم 162 جيجابايت، لكن نسخة 3-bit تنخفض إلى 103 جيجابايت دون خسارة ملحوظة في الجودة شغّلها عبر Unsloth Studio أو llama.cpp. الدليل وملفات GGUF متاحة الآن على HuggingFace. نموذج الحدود بحجم 1 تريليون معلمة الذي كان مقيدًا بالدفع في الربع الماضي، يُشغل الآن على أجهزة المستهلكين. كم من الوقت سيستغرق حتى يتفوق DeepSeek المحلي على واجهات برمجة التطبيقات المضيفة من المستوى المتوسط؟
