IBM Granite 4.1 8B(GGUF Q4_K_M,官方量化)
候選情境測試尚未完成- 量化
- GGUF Q4_K_M (官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07)
- 最少記憶體
- 16 GB (估算 · 原始連結 · Apache-2.0 · 取得於 2026-10-07 · 假設:以權重檔 5.348 GB + 2 GB(執行環境與約 8K 上下文)估算,假設 macOS 預設約 70% 統一記憶體可給 GPU 使用;更長上下文需要更多記憶體。)
為什麼列入
IBM 原廠 granite-4.1-8b 為指令模型,模型卡列出程式與工具調用用途;官方 GGUF 提供 Q4_K_M。代理標籤不代表本站已測試代理任務。
技術與取捨
Q4_K_M 權重與長脈絡的品質及記憶體消耗尚未由本站在 Mac 上實測;模型卡用途不等於具體場景評測。