Phi-4-mini-instruct(GGUF Q3_K_M)

候選情境測試尚未完成
量化
GGUF Q3_K_M (估算 · 原始連結 · MIT · 取得於 2026-10-07 · 假設:TensorBlock 社群量化,非 Microsoft 原廠轉檔。)
最少記憶體
8 GB (估算 · 原始連結 · MIT · 取得於 2026-10-07 · 假設:以權重檔 2.118 GB + 2 GB(執行環境與約 8K 上下文)估算,假設 macOS 預設約 70% 統一記憶體可給 GPU 使用;更長上下文需要更多記憶體。)

為什麼列入

Microsoft 發布的 Phi-4-mini-instruct 是小型文字指令模型,原廠模型卡標示程式用途;TensorBlock 提供 Q3_K_M GGUF。

技術與取捨

GGUF 為社群轉檔;3-bit 量化品質損失可能比 4-bit 更明顯,Mac 上程式任務表現尚未由本站實測。

來源

全部模型