DeepSeek-V4 agora pode ser executado totalmente localmente por meio dos GGUF da Unsloth Aqui está como realmente se apresenta a escala de quantização: 1-bit: 92 GB de memória total 2-bit: 102 GB 3-bit: 110–135 GB — executa em um Mac com memória unificada 4-bit quase sem perda: 162 GB Q8 sem perda: 169 GB Alguns pontos importantes a entender sobre a versão Flash especificamente: • 284 bilhões de parâmetros no total, mas apenas 13 bilhões ativos de cada vez — a arquitetura MoE significa que você não executa o modelo completo, apenas os especialistas relevantes • O GGUF de 8-bit sem perda é de 162 GB, mas o de 3-bit reduz para 103 GB sem perda significativa de qualidade Execute-o por meio do Unsloth Studio ou llama.cpp. O guia e os arquivos GGUF já estão disponíveis no HuggingFace. O modelo fronteira de 1 trilhão de parâmetros, que estava bloqueado por assinatura no último trimestre, agora está sendo executado em hardware consumidor. Quanto tempo levará até que o DeepSeek local supere as APIs intermediárias hospedadas?