DeepSeek-V4 現已可透過 Unsloth GGUF 在本地完全運行： 以下是量化梯度的實際情況： 1-bit：總共需要 92GB 記憶體 2-bit：102GB 3-bit：110–135GB — 可在具統一記憶體的 Mac 上運行 4-bit 近無損：162GB Q8 無損：169GB 關於 Flash 版本，有幾點值得注意： • 總參數為 284B，但任何時候僅有 13B 處於激活狀態 — MoE 架構意味著你並非運行完整模型，而是僅調用相關專家 • 無損 8-bit GGUF 為 162GB，但 3-bit 可降至 103GB，且無明顯品質損失 可透過 Unsloth Studio 或 llama.cpp 運行。指南與 GGUF 檔案已上線 HuggingFace。 上個季度仍需付費的 1T 參數前沿模型，現已可在消費級硬體上運行。本地 DeepSeek 將在多久後超越託管的中階 API？