Qwen3-VL-8B-Thinking(GGUF Q4_K_M,官方量化)
候選情境測試尚未完成- 量化
- GGUF Q4_K_M (官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07)
- 最少記憶體
- 16 GB (估算 · 原始連結 · Apache-2.0 · 取得於 2026-10-07 · 假設:以權重檔 5.028 GB + 視覺投影檔 0.752 GB + 2 GB(執行環境與約 8K 上下文)估算,假設 macOS 預設約 70% 統一記憶體可給 GPU 使用;影像解析度或更長上下文需要更多記憶體。)
為什麼列入
Qwen 原廠 Qwen3-VL-8B-Thinking 是視覺語言推理指令模型;官方 GGUF 提供 Q4_K_M 權重,本站將其列為對話候選。
技術與取捨
影像能力須搭配 mmproj;記憶體估算已計入 Q8_0 投影檔,但推理軌跡、影像解析度及長脈絡可能增加實際耗用。本站未實測品質。