Qwen3-Coder-30B-A3B-Instruct(GGUF Q4_K_M)

候選情境測試尚未完成
量化
GGUF Q4_K_M (估算 · 原始連結 · Apache-2.0 · 取得於 2026-09-30 · 假設:社群轉檔(unsloth),非原廠發布;檔案大小取自該轉檔頁。)
最少記憶體
32 GB (估算 · 原始連結 · Apache-2.0 · 取得於 2026-09-30 · 假設:以權重檔 18.56 GB + 2 GB(執行環境與約 8K 上下文)估算,並假設 macOS 預設約 70% 統一記憶體可給 GPU 使用;更長上下文需要更多記憶體。)

為什麼列入

原廠模型卡說明本模型為混合專家(MoE)架構,總參數 30.5B、啟用 3.3B(128 位專家中啟用 8 位),原生脈絡長度 262,144 token、可延伸至 1M,採 Apache-2.0 授權;模型卡明確列出在「Agentic Coding、Agentic Browser-Use」等程式與代理任務上的表現,並設計專用的 function call 格式。

技術與取捨

Q4_K_M 為 4-bit 量化,相較官方權重有精度損失,本站尚未實測差異;MoE 架構下記憶體需求取決於總參數 30.5B 而非啟用的 3.3B,此量化檔案由社群(unsloth)轉檔,非原廠發布。

來源

全部模型