Phi-3 Mini 4K Instruct(GGUF Q4,官方量化)
候選情境測試尚未完成- 量化
- GGUF Q4 (官方資料 · 原始連結 · MIT · 取得於 2026-10-08)
- 最少記憶體
- 8 GB (估算 · 原始連結 · MIT · 取得於 2026-10-08 · 假設:以官方 GGUF 權重檔 2.39 GB + 2 GB(執行環境與約 4K 上下文)估算,並假設 macOS 約 70% 統一記憶體可給 GPU 使用;更長上下文需要更多記憶體。)
為什麼列入
原廠發布 Phi-3 Mini 4K Instruct 的 Q4 GGUF 指令/對話模型;列為本機對話候選,本站尚未實測表現。
技術與取捨
Q4 量化相對全精度權重可能損失品質;本站尚未實測差異。 官方版本的名稱標示 4K 上下文,長文任務需另選模型。