SmolLM 360M Instruct v0.2(GGUF Q8_0,官方量化)

候選情境測試尚未完成
量化
GGUF Q8_0 (官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07)
最少記憶體
8 GB (估算 · 原始連結 · Apache-2.0 · 取得於 2026-10-07 · 假設:以官方 GGUF 權重檔 0.39 GB + 2 GB(執行環境與約 8K 上下文)估算,並假設 macOS 約 70% 統一記憶體可給 GPU 使用;更長上下文需要更多記憶體。)

為什麼列入

原廠發布 SmolLM 360M Instruct v0.2 的 GGUF 量化檔;列為本機對話候選,本站尚未實測表現。

技術與取捨

Q8_0 檔案較大,下載與記憶體需求高;本站尚未實測品質。 極小模型適合低資源嘗試,複雜任務能力不應與大型模型等同。

來源

全部模型