Ministral 3 8B Reasoning 2512(GGUF Q4_K_M,官方量化)

候選情境測試尚未完成
量化
GGUF Q4_K_M (官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07)
最少記憶體
16 GB (估算 · 原始連結 · Apache-2.0 · 取得於 2026-10-07 · 假設:以權重檔 5.199 GB + 視覺投影檔 0.858 GB + 2 GB(執行環境與約 8K 上下文)估算,假設 macOS 預設約 70% 統一記憶體可給 GPU 使用;影像解析度或更長上下文需要更多記憶體。)

為什麼列入

Mistral 原廠 Ministral-3-8B-Reasoning-2512 為具推理能力的指令模型,模型卡說明程式用途與原生 function calling;官方提供 GGUF Q4_K_M。

技術與取捨

較長推理軌跡會提高延遲與記憶體需求;本站尚未實測 4-bit 品質或代理任務成果。

來源

全部模型