LFM2.5 8B-A1B(GGUF Q4_K_M,官方量化)

候選情境測試尚未完成
量化
GGUF Q4_K_M (官方資料 · 原始連結 · LFM Open License v1.0 · 取得於 2026-10-08)
最少記憶體
16 GB (估算 · 原始連結 · LFM Open License v1.0 · 取得於 2026-10-08 · 假設:以官方 GGUF 權重檔 5.16 GB + 2 GB(執行環境與約 8K 上下文)估算,並假設 macOS 約 70% 統一記憶體可給 GPU 使用;更長上下文需要更多記憶體。)

為什麼列入

原廠發布 LFM2.5 8B-A1B 的 Q4_K_M GGUF 指令/對話模型;列為本機對話候選,本站尚未實測表現。

技術與取捨

Q4_K_M 量化相對全精度權重可能損失品質;本站尚未實測差異。 LFM Open License v1.0 並非 Apache/MIT;依官方條款第 5 條,年營收有 1,000 萬美元門檻;超過 1,000 萬美元的法律實體,其商業用途不受此授權,接近門檻者應閱讀原文或另取授權。

來源

全部模型