DeepSeek-V4 peut désormais s'exécuter entièrement en local via les GGUF d'Unsloth. Voici à quoi ressemble réellement l'échelle de quantification : 1-bit : 92 Go de mémoire totale 2-bit : 102 Go 3-bit : 110-135 Go — s'exécute sur un Mac avec mémoire unifiée 4-bit quasi sans perte : 162 Go Q8 sans perte : 169 Go Quelques points à comprendre concernant spécifiquement la variante Flash : • 284 milliards de paramètres au total, mais seulement 13 milliards actifs en tout temps — l'architecture MoE signifie que vous n'exécutez pas le modèle complet, mais uniquement les experts pertinents • Le GGUF 8-bit sans perte fait 162 Go, mais le 3-bit descend à 103 Go sans perte de qualité significative Exécutez-le via Unsloth Studio ou llama.cpp. Le guide et les fichiers GGUF sont disponibles sur HuggingFace. Le modèle frontal de 1 trillion de paramètres, payant le trimestre dernier, s'exécute désormais sur du matériel grand public. Combien de temps avant que DeepSeek local dépasse les API intermédiaires hébergées ?