SmolLM2-360M-Instruct(GGUF Q8_0,官方量化)
候選情境測試尚未完成- 量化
- GGUF Q8_0 (官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07)
- 最少記憶體
- 8 GB (估算 · 原始連結 · Apache-2.0 · 取得於 2026-10-07 · 假設:以權重檔 0.386 GB + 2 GB(執行環境與約 8K 上下文)估算,假設 macOS 預設約 70% 統一記憶體可給 GPU 使用;更長上下文需要更多記憶體。)
為什麼列入
Hugging Face 發布的 SmolLM2-360M-Instruct 是極小型指令模型,官方 GGUF 提供 Q8_0,用於簡單本地文字對話候選。
技術與取捨
僅 360M 參數,複雜問答和長文能力不宜由可執行性推定;本站未測品質。