DeepSeek-V4 ahora puede ejecutarse completamente de forma local mediante Unsloth GGUFs. Así es realmente la escala de cuantización: 1-bit: 92 GB de memoria total 2-bit: 102 GB 3-bit: 110-135 GB — se ejecuta en una Mac con memoria unificada 4-bit casi sin pérdida: 162 GB Q8 sin pérdida: 169 GB Algunos puntos importantes sobre la variante Flash en particular: • 284B parámetros en total, pero solo 13B están activos en cualquier momento — la arquitectura MoE significa que no estás ejecutando el modelo completo, solo los expertos relevantes • El GGUF de 8-bit sin pérdida es de 162 GB, pero el de 3-bit se reduce a 103 GB sin pérdida significativa de calidad Ejécutalo mediante Unsloth Studio o llama.cpp. La guía y los archivos GGUF ya están disponibles en HuggingFace. El modelo frontera de 1T parámetros, que estaba detrás de pago el trimestre pasado, ahora se ejecuta en hardware de consumo. ¿Cuánto tiempo faltará para que DeepSeek local supere a las APIs de nivel medio alojadas?