Gemma 4 31B(GGUF Q4_0,官方 QAT 量化)

候選情境測試尚未完成
量化
GGUF Q4_0(QAT,官方量化) (官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-09-30)
最少記憶體
32 GB (估算 · 原始連結 · Apache-2.0 · 取得於 2026-09-30 · 假設:以權重檔 17.65 GB + 2 GB(執行環境與約 8K 上下文)估算,並假設 macOS 預設約 70% 統一記憶體可給 GPU 使用;更長上下文需要更多記憶體。)

為什麼列入

原廠模型卡說明 Gemma 4 31B 為 30.7B 密集參數模型,脈絡長度 256K token,採 Apache-2.0 授權;家族模型卡明確列出「強化的程式與代理能力」,31B 模型卡並特別提及在「程式碼生成、補全與修正」上的強項。

技術與取捨

官方 QAT Q4_0 版本相較 BF16 全精度有量化損失,本站尚未實測品質差異。視覺輸入需另下載約 1.20 GB mmproj 檔;授權為 Apache-2.0 但附加 Google 的 Prohibited Use Policy。

來源

全部模型