CodeQwen1.5 7B Chat(GGUF Q4_K_M,官方量化)

候選情境測試尚未完成
量化
GGUF Q4_K_M (官方資料 · 原始連結 · Tongyi Qianwen License Agreement · 取得於 2026-10-08)
最少記憶體
16 GB (估算 · 原始連結 · Tongyi Qianwen License Agreement · 取得於 2026-10-08 · 假設:以官方 GGUF 權重檔 4.74 GB + 2 GB(執行環境與約 8K 上下文)估算,並假設 macOS 約 70% 統一記憶體可給 GPU 使用;更長上下文需要更多記憶體。)

為什麼列入

原廠發布 CodeQwen1.5 7B Chat 程式取向模型的官方 Q4_K_M GGUF;列為本機程式用途候選,本站尚未實測表現。

技術與取捨

Q4_K_M 量化相對全精度權重可能損失品質;本站尚未實測差異。 Tongyi Qianwen 為自訂授權,非 Apache/MIT;商業產品或服務超過 1 億月活躍使用者(MAU)需向阿里雲取得明示授權,且不得以模型或其輸出改進其他大型語言模型;使用前應閱讀原文。 這是較早的 1.5 代版本,若硬體允許可一併比較新版。

來源

全部模型