Qwen3-30B-A3B(GGUF Q4_K_M,官方量化)

候選情境測試尚未完成
量化
GGUF Q4_K_M (官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07)
最少記憶體
32 GB (估算 · 原始連結 · Apache-2.0 · 取得於 2026-10-07 · 假設:以權重檔 18.56 GB + 2 GB(執行環境與約 8K 上下文)估算,假設 macOS 預設約 70% 統一記憶體可給 GPU 使用;更長上下文需要更多記憶體。)

為什麼列入

Qwen 原廠 Qwen3 30B-A3B 為混合專家指令模型,家族模型卡介紹程式及工具使用,並提供官方 Q4_K_M GGUF。

技術與取捨

雖然每次只啟用部分專家,仍須容納完整量化權重;長脈絡及多工會增加記憶體需求,本站未實測。

來源

全部模型