Microsoft Phi-4(GGUF Q4_0,官方量化)

候選情境測試尚未完成
量化
GGUF Q4_0 (官方資料 · 原始連結 · MIT · 取得於 2026-10-07)
最少記憶體
16 GB (估算 · 原始連結 · MIT · 取得於 2026-10-07 · 假設:以權重檔 8.383 GB + 2 GB(執行環境與約 8K 上下文)估算,假設 macOS 預設約 70% 統一記憶體可給 GPU 使用;更長上下文需要更多記憶體。)

為什麼列入

Microsoft 發布的 Phi-4 是指令模型,官方 GGUF 提供 Q4_0,供 16GB 級距 Mac 嘗試本地對話。

技術與取捨

Q4_0 是較舊的 4-bit 量化型式,可能損失品質;本站未實測與原始精度版本的差異。

來源

全部模型