Gemma 3 4B IT(GGUF Q4_0,QAT 官方量化)

候選情境測試尚未完成
量化
GGUF Q4_0 (官方資料 · 原始連結 · Gemma Terms of Use · 取得於 2026-10-07)
最少記憶體
8 GB (估算 · 原始連結 · Gemma Terms of Use · 取得於 2026-10-07 · 假設:以官方 GGUF 權重檔 3.16 GB + 2 GB(執行環境與約 8K 上下文)估算,並假設 macOS 約 70% 統一記憶體可給 GPU 使用;更長上下文需要更多記憶體。視覺投影檔約 0.85 GB 未計入。)

為什麼列入

原廠發布 Gemma 3 4B IT 的 GGUF 量化檔;列為本機對話候選,本站尚未實測表現。

技術與取捨

此量化版本相對全精度權重可能損失品質;本站尚未實測差異。 Gemma 採 Google 自訂使用條款,非 Apache/MIT;使用或下載前請閱讀官方條款。 圖片輸入另需約 0.85 GB 的 mmproj 視覺投影檔,本表記憶體估算僅涵蓋純文字;視覺用途需額外記憶體。

來源

全部模型