Qwen3-Coder-30B-A3B-Instruct(GGUF Q4_K_M)
候選情境測試尚未完成- 量化
- GGUF Q4_K_M (估算 · 原始連結 · Apache-2.0 · 取得於 2026-09-30 · 假設:社群轉檔(unsloth),非原廠發布;檔案大小取自該轉檔頁。)
- 最少記憶體
- 32 GB (估算 · 原始連結 · Apache-2.0 · 取得於 2026-09-30 · 假設:以權重檔 18.56 GB + 2 GB(執行環境與約 8K 上下文)估算,並假設 macOS 預設約 70% 統一記憶體可給 GPU 使用;更長上下文需要更多記憶體。)
為什麼列入
原廠模型卡說明本模型為混合專家(MoE)架構,總參數 30.5B、啟用 3.3B(128 位專家中啟用 8 位),原生脈絡長度 262,144 token、可延伸至 1M,採 Apache-2.0 授權;模型卡明確列出在「Agentic Coding、Agentic Browser-Use」等程式與代理任務上的表現,並設計專用的 function call 格式。
技術與取捨
Q4_K_M 為 4-bit 量化,相較官方權重有精度損失,本站尚未實測差異;MoE 架構下記憶體需求取決於總參數 30.5B 而非啟用的 3.3B,此量化檔案由社群(unsloth)轉檔,非原廠發布。