示意資料 這是結果頁的排版範例,機型、描述及候選都不是已完成的推薦結果。

模型候選(範例)

先從這些候選開始。已依硬體與已知支援篩選;你的完整工作情境尚待測試。

依記憶體需求由小到大排列,順序不代表好壞。用途只用來篩選,本站還沒實測哪個模型最適合你的情境。

  1. Gemma 4 E2B(GGUF Q4_0,官方 QAT 量化) · GGUF Q4_0(QAT,官方量化)

    候選情境測試尚未完成

    符合:聊天

    為什麼列入:原廠模型卡說明 Gemma 4 E2B 為 23 億有效參數(含嵌入層共 51 億參數)的多模態模型,脈絡長度 128K token,採 Apache-2.0 授權;家族模型卡並列出「強化的程式與代理能力(Enhanced Coding & Agentic Capabilities)」與原生 function calling。

    展開技術取捨與來源

    技術與取捨:這是官方 QAT(量化感知訓練)Q4_0 版本,相較 BF16 全精度仍有量化損失,本站尚未實測品質差異。多模態視覺輸入需另外下載約 0.99 GB 的 mmproj 檔案,純文字對話可省略;授權雖標示 Apache-2.0,但 Google 另外附加了 Prohibited Use Policy(禁止使用政策),使用前應留意。

    量化:GGUF Q4_0(QAT,官方量化) (官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-09-30)

    最少記憶體:8 GB (估算 · 原始連結 · Apache-2.0 · 取得於 2026-09-30 · 假設:以權重檔 3.35 GB + 2 GB(執行環境與約 8K 上下文)估算,並假設 macOS 預設約 70% 統一記憶體可給 GPU 使用;更長上下文需要更多記憶體。)

    • 官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-09-30
    • 估算 · 原始連結 · Apache-2.0 · 取得於 2026-09-30 · 假設:以權重檔 3.35 GB + 2 GB(執行環境與約 8K 上下文)估算,並假設 macOS 預設約 70% 統一記憶體可給 GPU 使用;更長上下文需要更多記憶體。
    • 官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-09-30

    查看模型頁

  2. Qwen3-4B-Instruct-2507(GGUF Q4_K_M) · GGUF Q4_K_M

    候選情境測試尚未完成

    符合:聊天

    為什麼列入:原廠模型卡說明本模型共 40 億參數(不含嵌入層 36 億),原生支援 262,144 token 脈絡長度,採 Apache-2.0 授權;定位為一般用途指令模型,卡片列出「指令遵循、邏輯推理、文字理解、數學、科學、程式與工具使用」等多項能力,程式能力只是其中一項,未特別定位為程式/代理專用模型。

    展開技術取捨與來源

    技術與取捨:Q4_K_M 屬於 4-bit 量化,相較官方 BF16 權重會有精度損失,本站尚未實測差異;此量化檔案由社群(unsloth)轉檔,非原廠發布。

    量化:GGUF Q4_K_M (估算 · 原始連結 · Apache-2.0 · 取得於 2026-09-30 · 假設:社群轉檔(unsloth),非原廠發布;檔案大小取自該轉檔頁。)

    最少記憶體:8 GB (估算 · 原始連結 · Apache-2.0 · 取得於 2026-09-30 · 假設:以權重檔 2.50 GB + 2 GB(執行環境與約 8K 上下文)估算,並假設 macOS 預設約 70% 統一記憶體可給 GPU 使用;更長上下文需要更多記憶體。)

    • 估算 · 原始連結 · Apache-2.0 · 取得於 2026-09-30 · 假設:社群轉檔(unsloth),非原廠發布;檔案大小取自該轉檔頁。
    • 估算 · 原始連結 · Apache-2.0 · 取得於 2026-09-30 · 假設:以權重檔 2.50 GB + 2 GB(執行環境與約 8K 上下文)估算,並假設 macOS 預設約 70% 統一記憶體可給 GPU 使用;更長上下文需要更多記憶體。
    • 官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-09-30

    查看模型頁

  3. Qwen3-0.6B(GGUF Q8_0,官方量化) · GGUF Q8_0

    候選情境測試尚未完成

    符合:聊天

    為什麼列入:Qwen 原廠發布的 0.6B 指令模型,提供一般文字對話;官方 GGUF 倉庫有 Q8_0 權重。

    展開技術取捨與來源

    技術與取捨:小型模型的複雜推理與長文能力未經本站實測;容量門檻不是品質或速度保證。

    量化:GGUF Q8_0 (官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07)

    最少記憶體:8 GB (估算 · 原始連結 · Apache-2.0 · 取得於 2026-10-07 · 假設:以權重檔 0.64 GB + 2 GB(執行環境與約 8K 上下文)估算,假設 macOS 預設約 70% 統一記憶體可給 GPU 使用;更長上下文需要更多記憶體。)

    • 官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07
    • 估算 · 原始連結 · Apache-2.0 · 取得於 2026-10-07 · 假設:以權重檔 0.64 GB + 2 GB(執行環境與約 8K 上下文)估算,假設 macOS 預設約 70% 統一記憶體可給 GPU 使用;更長上下文需要更多記憶體。
    • 官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07

    查看模型頁

  4. Qwen3-1.7B(GGUF Q8_0,官方量化) · GGUF Q8_0

    候選情境測試尚未完成

    符合:聊天

    為什麼列入:Qwen 原廠發布的 1.7B 指令模型,可在低記憶體 Mac 上提供本地文字對話;官方 GGUF 倉庫有 Q8_0 權重。

    展開技術取捨與來源

    技術與取捨:參數量較小,不能只憑可執行就推定複雜任務品質;本站未在 Mac 實測。

    量化:GGUF Q8_0 (官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07)

    最少記憶體:8 GB (估算 · 原始連結 · Apache-2.0 · 取得於 2026-10-07 · 假設:以權重檔 1.83 GB + 2 GB(執行環境與約 8K 上下文)估算,假設 macOS 預設約 70% 統一記憶體可給 GPU 使用;更長上下文需要更多記憶體。)

    • 官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07
    • 估算 · 原始連結 · Apache-2.0 · 取得於 2026-10-07 · 假設:以權重檔 1.83 GB + 2 GB(執行環境與約 8K 上下文)估算,假設 macOS 預設約 70% 統一記憶體可給 GPU 使用;更長上下文需要更多記憶體。
    • 官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07

    查看模型頁

  5. Qwen3-4B(GGUF Q4_K_M,官方量化) · GGUF Q4_K_M

    候選情境測試尚未完成

    符合:聊天

    為什麼列入:Qwen 原廠 Qwen3 模型卡介紹思考與非思考模式、程式及工具使用;官方 GGUF 提供 4B Q4_K_M。此處代理標籤僅表示模型卡載有工具能力。

    展開技術取捨與來源

    技術與取捨:4-bit 量化可能降低相對原始權重的品質;本站未測程式及代理任務成功率。

    量化:GGUF Q4_K_M (官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07)

    最少記憶體:8 GB (估算 · 原始連結 · Apache-2.0 · 取得於 2026-10-07 · 假設:以權重檔 2.50 GB + 2 GB(執行環境與約 8K 上下文)估算,假設 macOS 預設約 70% 統一記憶體可給 GPU 使用;更長上下文需要更多記憶體。)

    • 官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07
    • 估算 · 原始連結 · Apache-2.0 · 取得於 2026-10-07 · 假設:以權重檔 2.50 GB + 2 GB(執行環境與約 8K 上下文)估算,假設 macOS 預設約 70% 統一記憶體可給 GPU 使用;更長上下文需要更多記憶體。
    • 官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07

    查看模型頁

  6. Phi-4-mini-instruct(GGUF Q3_K_M) · GGUF Q3_K_M

    候選情境測試尚未完成

    符合:聊天

    為什麼列入:Microsoft 發布的 Phi-4-mini-instruct 是小型文字指令模型,原廠模型卡標示程式用途;TensorBlock 提供 Q3_K_M GGUF。

    展開技術取捨與來源

    技術與取捨:GGUF 為社群轉檔;3-bit 量化品質損失可能比 4-bit 更明顯,Mac 上程式任務表現尚未由本站實測。

    量化:GGUF Q3_K_M (估算 · 原始連結 · MIT · 取得於 2026-10-07 · 假設:TensorBlock 社群量化,非 Microsoft 原廠轉檔。)

    最少記憶體:8 GB (估算 · 原始連結 · MIT · 取得於 2026-10-07 · 假設:以權重檔 2.118 GB + 2 GB(執行環境與約 8K 上下文)估算,假設 macOS 預設約 70% 統一記憶體可給 GPU 使用;更長上下文需要更多記憶體。)

    • 估算 · 原始連結 · MIT · 取得於 2026-10-07 · 假設:TensorBlock 社群量化,非 Microsoft 原廠轉檔。
    • 估算 · 原始連結 · MIT · 取得於 2026-10-07 · 假設:以權重檔 2.118 GB + 2 GB(執行環境與約 8K 上下文)估算,假設 macOS 預設約 70% 統一記憶體可給 GPU 使用;更長上下文需要更多記憶體。
    • 官方資料 · 原始連結 · MIT · 取得於 2026-10-07

    查看模型頁

  7. Ministral 3 3B Reasoning 2512(GGUF Q4_K_M,官方量化) · GGUF Q4_K_M

    候選情境測試尚未完成

    符合:聊天

    為什麼列入:Mistral 原廠模型卡將 Reasoning 版本定位於數學與程式推理,也載明原生 function calling;原廠 GGUF 提供 Q4_K_M。

    展開技術取捨與來源

    技術與取捨:本站未實測 4-bit 品質及長推理軌跡耗用;使用影像功能須另下載 mmproj,不包含在文字模式估算。

    量化:GGUF Q4_K_M (官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07)

    最少記憶體:8 GB (估算 · 原始連結 · Apache-2.0 · 取得於 2026-10-07 · 假設:以權重檔 2.15 GB + 2 GB(執行環境與約 8K 上下文)估算,假設 macOS 預設約 70% 統一記憶體可給 GPU 使用;更長上下文需要更多記憶體。)

    • 官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07
    • 估算 · 原始連結 · Apache-2.0 · 取得於 2026-10-07 · 假設:以權重檔 2.15 GB + 2 GB(執行環境與約 8K 上下文)估算,假設 macOS 預設約 70% 統一記憶體可給 GPU 使用;更長上下文需要更多記憶體。
    • 官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07

    查看模型頁

  8. Qwen3-VL-2B-Instruct(GGUF Q4_K_M,官方量化) · GGUF Q4_K_M

    候選情境測試尚未完成

    符合:聊天

    為什麼列入:Qwen 原廠的 Qwen3-VL-2B-Instruct 是視覺語言指令模型,官方 GGUF 提供 Q4_K_M;本站先列為文字對話候選,影像能力需另備投影檔。

    展開技術取捨與來源

    技術與取捨:影像輸入需額外 mmproj;本級距估算已計入該檔,但實際影像解析度、脈絡與執行軟體仍會改變記憶體需求。本站未實測視覺或文字品質。

    量化:GGUF Q4_K_M (官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07)

    最少記憶體:8 GB (估算 · 原始連結 · Apache-2.0 · 取得於 2026-10-07 · 假設:以權重檔 1.11 GB + 視覺投影檔 0.45 GB + 2 GB(執行環境與約 8K 上下文)估算,假設 macOS 預設約 70% 統一記憶體可給 GPU 使用;影像解析度或更長上下文需要更多記憶體。)

    • 官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07
    • 估算 · 原始連結 · Apache-2.0 · 取得於 2026-10-07 · 假設:以權重檔 1.11 GB + 視覺投影檔 0.45 GB + 2 GB(執行環境與約 8K 上下文)估算,假設 macOS 預設約 70% 統一記憶體可給 GPU 使用;影像解析度或更長上下文需要更多記憶體。
    • 官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07

    查看模型頁

  9. Qwen3-VL-4B-Instruct(GGUF Q4_K_M,官方量化) · GGUF Q4_K_M

    候選情境測試尚未完成

    符合:聊天

    為什麼列入:Qwen 原廠的 Qwen3-VL-4B-Instruct 是視覺語言指令模型,官方 GGUF 提供 Q4_K_M;本站先列為文字對話候選,影像能力需另備投影檔。

    展開技術取捨與來源

    技術與取捨:影像輸入需額外 mmproj;本級距估算已計入該檔,但實際影像解析度、脈絡與執行軟體仍會改變記憶體需求。本站未實測視覺或文字品質。

    量化:GGUF Q4_K_M (官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07)

    最少記憶體:8 GB (估算 · 原始連結 · Apache-2.0 · 取得於 2026-10-07 · 假設:以權重檔 2.50 GB + 視覺投影檔 0.45 GB + 2 GB(執行環境與約 8K 上下文)估算,假設 macOS 預設約 70% 統一記憶體可給 GPU 使用;影像解析度或更長上下文需要更多記憶體。)

    • 官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07
    • 估算 · 原始連結 · Apache-2.0 · 取得於 2026-10-07 · 假設:以權重檔 2.50 GB + 視覺投影檔 0.45 GB + 2 GB(執行環境與約 8K 上下文)估算,假設 macOS 預設約 70% 統一記憶體可給 GPU 使用;影像解析度或更長上下文需要更多記憶體。
    • 官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07

    查看模型頁

  10. Ministral 3 3B Instruct 2512(GGUF Q4_K_M,官方量化) · GGUF Q4_K_M

    候選情境測試尚未完成

    符合:聊天

    為什麼列入:Mistral 原廠 Ministral-3-3B-Instruct-2512 是對話指令模型,官方提供 Q4_K_M GGUF,可在 Mac 本地進行文字互動。

    展開技術取捨與來源

    技術與取捨:Q4_K_M 量化品質與 Mac 實際速度尚未由本站實測;若使用影像能力需另備投影檔。

    量化:GGUF Q4_K_M (官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07)

    最少記憶體:8 GB (估算 · 原始連結 · Apache-2.0 · 取得於 2026-10-07 · 假設:以權重檔 2.147 GB + 視覺投影檔 0.842 GB + 2 GB(執行環境與約 8K 上下文)估算,假設 macOS 預設約 70% 統一記憶體可給 GPU 使用;影像解析度或更長上下文需要更多記憶體。)

    • 官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07
    • 估算 · 原始連結 · Apache-2.0 · 取得於 2026-10-07 · 假設:以權重檔 2.147 GB + 視覺投影檔 0.842 GB + 2 GB(執行環境與約 8K 上下文)估算,假設 macOS 預設約 70% 統一記憶體可給 GPU 使用;影像解析度或更長上下文需要更多記憶體。
    • 官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07

    查看模型頁

  11. Qwen3-VL-2B-Thinking(GGUF Q4_K_M,官方量化) · GGUF Q4_K_M

    候選情境測試尚未完成

    符合:聊天

    為什麼列入:Qwen 原廠 Qwen3-VL-2B-Thinking 是視覺語言推理指令模型;官方 GGUF 提供 Q4_K_M 權重,本站將其列為對話候選。

    展開技術取捨與來源

    技術與取捨:影像能力須搭配 mmproj;記憶體估算已計入 Q8_0 投影檔,但推理軌跡、影像解析度及長脈絡可能增加實際耗用。本站未實測品質。

    量化:GGUF Q4_K_M (官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07)

    最少記憶體:8 GB (估算 · 原始連結 · Apache-2.0 · 取得於 2026-10-07 · 假設:以權重檔 1.107 GB + 視覺投影檔 0.445 GB + 2 GB(執行環境與約 8K 上下文)估算,假設 macOS 預設約 70% 統一記憶體可給 GPU 使用;影像解析度或更長上下文需要更多記憶體。)

    • 官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07
    • 估算 · 原始連結 · Apache-2.0 · 取得於 2026-10-07 · 假設:以權重檔 1.107 GB + 視覺投影檔 0.445 GB + 2 GB(執行環境與約 8K 上下文)估算,假設 macOS 預設約 70% 統一記憶體可給 GPU 使用;影像解析度或更長上下文需要更多記憶體。
    • 官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07

    查看模型頁

  12. Qwen3-VL-4B-Thinking(GGUF Q4_K_M,官方量化) · GGUF Q4_K_M

    候選情境測試尚未完成

    符合:聊天

    為什麼列入:Qwen 原廠 Qwen3-VL-4B-Thinking 是視覺語言推理指令模型;官方 GGUF 提供 Q4_K_M 權重,本站將其列為對話候選。

    展開技術取捨與來源

    技術與取捨:影像能力須搭配 mmproj;記憶體估算已計入 Q8_0 投影檔,但推理軌跡、影像解析度及長脈絡可能增加實際耗用。本站未實測品質。

    量化:GGUF Q4_K_M (官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07)

    最少記憶體:8 GB (估算 · 原始連結 · Apache-2.0 · 取得於 2026-10-07 · 假設:以權重檔 2.497 GB + 視覺投影檔 0.454 GB + 2 GB(執行環境與約 8K 上下文)估算,假設 macOS 預設約 70% 統一記憶體可給 GPU 使用;影像解析度或更長上下文需要更多記憶體。)

    • 官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07
    • 估算 · 原始連結 · Apache-2.0 · 取得於 2026-10-07 · 假設:以權重檔 2.497 GB + 視覺投影檔 0.454 GB + 2 GB(執行環境與約 8K 上下文)估算,假設 macOS 預設約 70% 統一記憶體可給 GPU 使用;影像解析度或更長上下文需要更多記憶體。
    • 官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07

    查看模型頁

  13. Qwen2.5-0.5B-Instruct(GGUF Q4_K_M,官方量化) · GGUF Q4_K_M

    候選情境測試尚未完成

    符合:聊天

    為什麼列入:Qwen 原廠 Qwen2.5-0.5B-Instruct 是小型指令模型,官方 GGUF 提供 Q4_K_M,可供低記憶體 Mac 嘗試本地文字對話。

    展開技術取捨與來源

    技術與取捨:模型規模較小,本站未測複雜任務品質;4-bit 量化與長脈絡需求可能影響表現。

    量化:GGUF Q4_K_M (官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07)

    最少記憶體:8 GB (估算 · 原始連結 · Apache-2.0 · 取得於 2026-10-07 · 假設:以權重檔 0.491 GB + 2 GB(執行環境與約 8K 上下文)估算,假設 macOS 預設約 70% 統一記憶體可給 GPU 使用;更長上下文需要更多記憶體。)

    • 官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07
    • 估算 · 原始連結 · Apache-2.0 · 取得於 2026-10-07 · 假設:以權重檔 0.491 GB + 2 GB(執行環境與約 8K 上下文)估算,假設 macOS 預設約 70% 統一記憶體可給 GPU 使用;更長上下文需要更多記憶體。
    • 官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07

    查看模型頁

  14. Qwen2.5-1.5B-Instruct(GGUF Q4_K_M,官方量化) · GGUF Q4_K_M

    候選情境測試尚未完成

    符合:聊天

    為什麼列入:Qwen 原廠 Qwen2.5-1.5B-Instruct 是小型指令模型,官方 GGUF 提供 Q4_K_M,可供低記憶體 Mac 嘗試本地文字對話。

    展開技術取捨與來源

    技術與取捨:模型規模較小,本站未測複雜任務品質;4-bit 量化與長脈絡需求可能影響表現。

    量化:GGUF Q4_K_M (官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07)

    最少記憶體:8 GB (估算 · 原始連結 · Apache-2.0 · 取得於 2026-10-07 · 假設:以權重檔 1.117 GB + 2 GB(執行環境與約 8K 上下文)估算,假設 macOS 預設約 70% 統一記憶體可給 GPU 使用;更長上下文需要更多記憶體。)

    • 官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07
    • 估算 · 原始連結 · Apache-2.0 · 取得於 2026-10-07 · 假設:以權重檔 1.117 GB + 2 GB(執行環境與約 8K 上下文)估算,假設 macOS 預設約 70% 統一記憶體可給 GPU 使用;更長上下文需要更多記憶體。
    • 官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07

    查看模型頁

  15. IBM Granite 4.2 3B(GGUF Q4_K_M,官方量化) · GGUF Q4_K_M

    候選情境測試尚未完成

    符合:聊天

    為什麼列入:IBM 原廠 granite-4.2-3b 為指令模型,模型卡列出程式與工具調用用途;官方 GGUF 提供 Q4_K_M。代理標籤不代表本站已測試代理任務。

    展開技術取捨與來源

    技術與取捨:Q4_K_M 權重與長脈絡的品質及記憶體消耗尚未由本站在 Mac 上實測;模型卡用途不等於具體場景評測。

    量化:GGUF Q4_K_M (官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07)

    最少記憶體:8 GB (估算 · 原始連結 · Apache-2.0 · 取得於 2026-10-07 · 假設:以權重檔 2.244 GB + 2 GB(執行環境與約 8K 上下文)估算,假設 macOS 預設約 70% 統一記憶體可給 GPU 使用;更長上下文需要更多記憶體。)

    • 官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07
    • 估算 · 原始連結 · Apache-2.0 · 取得於 2026-10-07 · 假設:以權重檔 2.244 GB + 2 GB(執行環境與約 8K 上下文)估算,假設 macOS 預設約 70% 統一記憶體可給 GPU 使用;更長上下文需要更多記憶體。
    • 官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07

    查看模型頁

  16. IBM Granite 4.1 3B(GGUF Q4_K_M,官方量化) · GGUF Q4_K_M

    候選情境測試尚未完成

    符合:聊天

    為什麼列入:IBM 原廠 granite-4.1-3b 為指令模型,模型卡列出程式與工具調用用途;官方 GGUF 提供 Q4_K_M。代理標籤不代表本站已測試代理任務。

    展開技術取捨與來源

    技術與取捨:Q4_K_M 權重與長脈絡的品質及記憶體消耗尚未由本站在 Mac 上實測;模型卡用途不等於具體場景評測。

    量化:GGUF Q4_K_M (官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07)

    最少記憶體:8 GB (估算 · 原始連結 · Apache-2.0 · 取得於 2026-10-07 · 假設:以權重檔 2.100 GB + 2 GB(執行環境與約 8K 上下文)估算,假設 macOS 預設約 70% 統一記憶體可給 GPU 使用;更長上下文需要更多記憶體。)

    • 官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07
    • 估算 · 原始連結 · Apache-2.0 · 取得於 2026-10-07 · 假設:以權重檔 2.100 GB + 2 GB(執行環境與約 8K 上下文)估算,假設 macOS 預設約 70% 統一記憶體可給 GPU 使用;更長上下文需要更多記憶體。
    • 官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07

    查看模型頁

  17. IBM Granite 3.3 2B Instruct(GGUF Q4_K_M,官方量化) · GGUF Q4_K_M

    候選情境測試尚未完成

    符合:聊天

    為什麼列入:IBM 原廠 granite-3.3-2b-instruct 是指令微調的對話模型,官方 GGUF 提供 Q4_K_M,可依 Mac 記憶體級距作本地候選。

    展開技術取捨與來源

    技術與取捨:模型屬較早版本;本站尚未比較其與新版本或原始精度權重的品質。

    量化:GGUF Q4_K_M (官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07)

    最少記憶體:8 GB (估算 · 原始連結 · Apache-2.0 · 取得於 2026-10-07 · 假設:以權重檔 1.545 GB + 2 GB(執行環境與約 8K 上下文)估算,假設 macOS 預設約 70% 統一記憶體可給 GPU 使用;更長上下文需要更多記憶體。)

    • 官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07
    • 估算 · 原始連結 · Apache-2.0 · 取得於 2026-10-07 · 假設:以權重檔 1.545 GB + 2 GB(執行環境與約 8K 上下文)估算,假設 macOS 預設約 70% 統一記憶體可給 GPU 使用;更長上下文需要更多記憶體。
    • 官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07

    查看模型頁

  18. SmolLM2-1.7B-Instruct(GGUF Q4_K_M,官方量化) · GGUF Q4_K_M

    候選情境測試尚未完成

    符合:聊天

    為什麼列入:Hugging Face 發布的 SmolLM2-1.7B-Instruct 是小型指令模型,官方 GGUF 提供 Q4_K_M,適合列為低記憶體文字對話候選。

    展開技術取捨與來源

    技術與取捨:小型模型的複雜推理與長文品質未經本站實測;量化也可能降低精度。

    量化:GGUF Q4_K_M (官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07)

    最少記憶體:8 GB (估算 · 原始連結 · Apache-2.0 · 取得於 2026-10-07 · 假設:以權重檔 1.056 GB + 2 GB(執行環境與約 8K 上下文)估算,假設 macOS 預設約 70% 統一記憶體可給 GPU 使用;更長上下文需要更多記憶體。)

    • 官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07
    • 估算 · 原始連結 · Apache-2.0 · 取得於 2026-10-07 · 假設:以權重檔 1.056 GB + 2 GB(執行環境與約 8K 上下文)估算,假設 macOS 預設約 70% 統一記憶體可給 GPU 使用;更長上下文需要更多記憶體。
    • 官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07

    查看模型頁

  19. SmolLM2-360M-Instruct(GGUF Q8_0,官方量化) · GGUF Q8_0

    候選情境測試尚未完成

    符合:聊天

    為什麼列入:Hugging Face 發布的 SmolLM2-360M-Instruct 是極小型指令模型,官方 GGUF 提供 Q8_0,用於簡單本地文字對話候選。

    展開技術取捨與來源

    技術與取捨:僅 360M 參數,複雜問答和長文能力不宜由可執行性推定;本站未測品質。

    量化:GGUF Q8_0 (官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07)

    最少記憶體:8 GB (估算 · 原始連結 · Apache-2.0 · 取得於 2026-10-07 · 假設:以權重檔 0.386 GB + 2 GB(執行環境與約 8K 上下文)估算,假設 macOS 預設約 70% 統一記憶體可給 GPU 使用;更長上下文需要更多記憶體。)

    • 官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07
    • 估算 · 原始連結 · Apache-2.0 · 取得於 2026-10-07 · 假設:以權重檔 0.386 GB + 2 GB(執行環境與約 8K 上下文)估算,假設 macOS 預設約 70% 統一記憶體可給 GPU 使用;更長上下文需要更多記憶體。
    • 官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07

    查看模型頁

  20. Granite 4.0 Micro(GGUF Q4_K_M,官方量化) · GGUF Q4_K_M

    候選情境測試尚未完成

    符合:聊天

    為什麼列入:原廠發布 Granite 4.0 Micro 的 GGUF 量化檔;列為本機對話候選,本站尚未實測表現。

    展開技術取捨與來源

    技術與取捨:此量化版本相對全精度權重可能損失品質;本站尚未實測差異。

    量化:GGUF Q4_K_M (官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07)

    最少記憶體:8 GB (估算 · 原始連結 · Apache-2.0 · 取得於 2026-10-07 · 假設:以官方 GGUF 權重檔 2.10 GB + 2 GB(執行環境與約 8K 上下文)估算,並假設 macOS 約 70% 統一記憶體可給 GPU 使用;更長上下文需要更多記憶體。)

    • 官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07
    • 估算 · 原始連結 · Apache-2.0 · 取得於 2026-10-07 · 假設:以官方 GGUF 權重檔 2.10 GB + 2 GB(執行環境與約 8K 上下文)估算,並假設 macOS 約 70% 統一記憶體可給 GPU 使用;更長上下文需要更多記憶體。
    • 官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07

    查看模型頁

  21. Granite 4.0 H Micro(GGUF Q4_K_M,官方量化) · GGUF Q4_K_M

    候選情境測試尚未完成

    符合:聊天

    為什麼列入:原廠發布 Granite 4.0 H Micro 的 GGUF 量化檔;列為本機對話候選,本站尚未實測表現。

    展開技術取捨與來源

    技術與取捨:此量化版本相對全精度權重可能損失品質;本站尚未實測差異。

    量化:GGUF Q4_K_M (官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07)

    最少記憶體:8 GB (估算 · 原始連結 · Apache-2.0 · 取得於 2026-10-07 · 假設:以官方 GGUF 權重檔 1.94 GB + 2 GB(執行環境與約 8K 上下文)估算,並假設 macOS 約 70% 統一記憶體可給 GPU 使用;更長上下文需要更多記憶體。)

    • 官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07
    • 估算 · 原始連結 · Apache-2.0 · 取得於 2026-10-07 · 假設:以官方 GGUF 權重檔 1.94 GB + 2 GB(執行環境與約 8K 上下文)估算,並假設 macOS 約 70% 統一記憶體可給 GPU 使用;更長上下文需要更多記憶體。
    • 官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07

    查看模型頁

  22. Granite 4.0 350M(GGUF Q4_K_M,官方量化) · GGUF Q4_K_M

    候選情境測試尚未完成

    符合:聊天

    為什麼列入:原廠發布 Granite 4.0 350M 的 GGUF 量化檔;列為本機對話候選,本站尚未實測表現。

    展開技術取捨與來源

    技術與取捨:此量化版本相對全精度權重可能損失品質;本站尚未實測差異。

    量化:GGUF Q4_K_M (官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07)

    最少記憶體:8 GB (估算 · 原始連結 · Apache-2.0 · 取得於 2026-10-07 · 假設:以官方 GGUF 權重檔 0.24 GB + 2 GB(執行環境與約 8K 上下文)估算,並假設 macOS 約 70% 統一記憶體可給 GPU 使用;更長上下文需要更多記憶體。)

    • 官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07
    • 估算 · 原始連結 · Apache-2.0 · 取得於 2026-10-07 · 假設:以官方 GGUF 權重檔 0.24 GB + 2 GB(執行環境與約 8K 上下文)估算,並假設 macOS 約 70% 統一記憶體可給 GPU 使用;更長上下文需要更多記憶體。
    • 官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07

    查看模型頁

  23. Granite 4.0 H 350M(GGUF Q4_K_M,官方量化) · GGUF Q4_K_M

    候選情境測試尚未完成

    符合:聊天

    為什麼列入:原廠發布 Granite 4.0 H 350M 的 GGUF 量化檔;列為本機對話候選,本站尚未實測表現。

    展開技術取捨與來源

    技術與取捨:此量化版本相對全精度權重可能損失品質;本站尚未實測差異。

    量化:GGUF Q4_K_M (官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07)

    最少記憶體:8 GB (估算 · 原始連結 · Apache-2.0 · 取得於 2026-10-07 · 假設:以官方 GGUF 權重檔 0.22 GB + 2 GB(執行環境與約 8K 上下文)估算,並假設 macOS 約 70% 統一記憶體可給 GPU 使用;更長上下文需要更多記憶體。)

    • 官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07
    • 估算 · 原始連結 · Apache-2.0 · 取得於 2026-10-07 · 假設:以官方 GGUF 權重檔 0.22 GB + 2 GB(執行環境與約 8K 上下文)估算,並假設 macOS 約 70% 統一記憶體可給 GPU 使用;更長上下文需要更多記憶體。
    • 官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07

    查看模型頁

  24. Granite 4.0 1B(GGUF Q4_K_M,官方量化) · GGUF Q4_K_M

    候選情境測試尚未完成

    符合:聊天

    為什麼列入:原廠發布 Granite 4.0 1B 的 GGUF 量化檔;列為本機對話候選,本站尚未實測表現。

    展開技術取捨與來源

    技術與取捨:此量化版本相對全精度權重可能損失品質;本站尚未實測差異。

    量化:GGUF Q4_K_M (官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07)

    最少記憶體:8 GB (估算 · 原始連結 · Apache-2.0 · 取得於 2026-10-07 · 假設:以官方 GGUF 權重檔 1.02 GB + 2 GB(執行環境與約 8K 上下文)估算,並假設 macOS 約 70% 統一記憶體可給 GPU 使用;更長上下文需要更多記憶體。)

    • 官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07
    • 估算 · 原始連結 · Apache-2.0 · 取得於 2026-10-07 · 假設:以官方 GGUF 權重檔 1.02 GB + 2 GB(執行環境與約 8K 上下文)估算,並假設 macOS 約 70% 統一記憶體可給 GPU 使用;更長上下文需要更多記憶體。
    • 官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07

    查看模型頁

  25. Granite 4.0 H 1B(GGUF Q4_K_M,官方量化) · GGUF Q4_K_M

    候選情境測試尚未完成

    符合:聊天

    為什麼列入:原廠發布 Granite 4.0 H 1B 的 GGUF 量化檔;列為本機對話候選,本站尚未實測表現。

    展開技術取捨與來源

    技術與取捨:此量化版本相對全精度權重可能損失品質;本站尚未實測差異。

    量化:GGUF Q4_K_M (官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07)

    最少記憶體:8 GB (估算 · 原始連結 · Apache-2.0 · 取得於 2026-10-07 · 假設:以官方 GGUF 權重檔 0.90 GB + 2 GB(執行環境與約 8K 上下文)估算,並假設 macOS 約 70% 統一記憶體可給 GPU 使用;更長上下文需要更多記憶體。)

    • 官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07
    • 估算 · 原始連結 · Apache-2.0 · 取得於 2026-10-07 · 假設:以官方 GGUF 權重檔 0.90 GB + 2 GB(執行環境與約 8K 上下文)估算,並假設 macOS 約 70% 統一記憶體可給 GPU 使用;更長上下文需要更多記憶體。
    • 官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07

    查看模型頁

  26. OLMo 2 0425 1B Instruct(GGUF Q4_K_M,官方量化) · GGUF Q4_K_M

    候選情境測試尚未完成

    符合:聊天

    為什麼列入:原廠發布 OLMo 2 0425 1B Instruct 的 GGUF 量化檔;列為本機對話候選,本站尚未實測表現。

    展開技術取捨與來源

    技術與取捨:此量化版本相對全精度權重可能損失品質;本站尚未實測差異。

    量化:GGUF Q4_K_M (官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07)

    最少記憶體:8 GB (估算 · 原始連結 · Apache-2.0 · 取得於 2026-10-07 · 假設:以官方 GGUF 權重檔 0.94 GB + 2 GB(執行環境與約 8K 上下文)估算,並假設 macOS 約 70% 統一記憶體可給 GPU 使用;更長上下文需要更多記憶體。)

    • 官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07
    • 估算 · 原始連結 · Apache-2.0 · 取得於 2026-10-07 · 假設:以官方 GGUF 權重檔 0.94 GB + 2 GB(執行環境與約 8K 上下文)估算,並假設 macOS 約 70% 統一記憶體可給 GPU 使用;更長上下文需要更多記憶體。
    • 官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07
    • 官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07

    查看模型頁

  27. SmolLM 135M Instruct v0.2(GGUF Q8_0,官方量化) · GGUF Q8_0

    候選情境測試尚未完成

    符合:聊天

    為什麼列入:原廠發布 SmolLM 135M Instruct v0.2 的 GGUF 量化檔;列為本機對話候選,本站尚未實測表現。

    展開技術取捨與來源

    技術與取捨:Q8_0 檔案較大,下載與記憶體需求高;本站尚未實測品質。 極小模型適合低資源嘗試,複雜任務能力不應與大型模型等同。

    量化:GGUF Q8_0 (官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07)

    最少記憶體:8 GB (估算 · 原始連結 · Apache-2.0 · 取得於 2026-10-07 · 假設:以官方 GGUF 權重檔 0.14 GB + 2 GB(執行環境與約 8K 上下文)估算,並假設 macOS 約 70% 統一記憶體可給 GPU 使用;更長上下文需要更多記憶體。)

    • 官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07
    • 估算 · 原始連結 · Apache-2.0 · 取得於 2026-10-07 · 假設:以官方 GGUF 權重檔 0.14 GB + 2 GB(執行環境與約 8K 上下文)估算,並假設 macOS 約 70% 統一記憶體可給 GPU 使用;更長上下文需要更多記憶體。
    • 官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07

    查看模型頁

  28. SmolLM 360M Instruct v0.2(GGUF Q8_0,官方量化) · GGUF Q8_0

    候選情境測試尚未完成

    符合:聊天

    為什麼列入:原廠發布 SmolLM 360M Instruct v0.2 的 GGUF 量化檔;列為本機對話候選,本站尚未實測表現。

    展開技術取捨與來源

    技術與取捨:Q8_0 檔案較大,下載與記憶體需求高;本站尚未實測品質。 極小模型適合低資源嘗試,複雜任務能力不應與大型模型等同。

    量化:GGUF Q8_0 (官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07)

    最少記憶體:8 GB (估算 · 原始連結 · Apache-2.0 · 取得於 2026-10-07 · 假設:以官方 GGUF 權重檔 0.39 GB + 2 GB(執行環境與約 8K 上下文)估算,並假設 macOS 約 70% 統一記憶體可給 GPU 使用;更長上下文需要更多記憶體。)

    • 官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07
    • 估算 · 原始連結 · Apache-2.0 · 取得於 2026-10-07 · 假設:以官方 GGUF 權重檔 0.39 GB + 2 GB(執行環境與約 8K 上下文)估算,並假設 macOS 約 70% 統一記憶體可給 GPU 使用;更長上下文需要更多記憶體。
    • 官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07

    查看模型頁

  29. SmolLM 1.7B Instruct v0.2(GGUF Q8_0,官方量化) · GGUF Q8_0

    候選情境測試尚未完成

    符合:聊天

    為什麼列入:原廠發布 SmolLM 1.7B Instruct v0.2 的 GGUF 量化檔;列為本機對話候選,本站尚未實測表現。

    展開技術取捨與來源

    技術與取捨:Q8_0 檔案較大,下載與記憶體需求高;本站尚未實測品質。

    量化:GGUF Q8_0 (官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07)

    最少記憶體:8 GB (估算 · 原始連結 · Apache-2.0 · 取得於 2026-10-07 · 假設:以官方 GGUF 權重檔 1.82 GB + 2 GB(執行環境與約 8K 上下文)估算,並假設 macOS 約 70% 統一記憶體可給 GPU 使用;更長上下文需要更多記憶體。)

    • 官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07
    • 估算 · 原始連結 · Apache-2.0 · 取得於 2026-10-07 · 假設:以官方 GGUF 權重檔 1.82 GB + 2 GB(執行環境與約 8K 上下文)估算,並假設 macOS 約 70% 統一記憶體可給 GPU 使用;更長上下文需要更多記憶體。
    • 官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07

    查看模型頁

  30. Gemma 3 1B IT(GGUF Q4_0,QAT 官方量化) · GGUF Q4_0

    候選情境測試尚未完成

    符合:聊天

    為什麼列入:原廠發布 Gemma 3 1B IT 的 GGUF 量化檔;列為本機對話候選,本站尚未實測表現。

    展開技術取捨與來源

    技術與取捨:此量化版本相對全精度權重可能損失品質;本站尚未實測差異。 Gemma 採 Google 自訂使用條款,非 Apache/MIT;使用或下載前請閱讀官方條款。

    量化:GGUF Q4_0 (官方資料 · 原始連結 · Gemma Terms of Use · 取得於 2026-10-07)

    最少記憶體:8 GB (估算 · 原始連結 · Gemma Terms of Use · 取得於 2026-10-07 · 假設:以官方 GGUF 權重檔 1.00 GB + 2 GB(執行環境與約 8K 上下文)估算,並假設 macOS 約 70% 統一記憶體可給 GPU 使用;更長上下文需要更多記憶體。)

    • 官方資料 · 原始連結 · Gemma Terms of Use · 取得於 2026-10-07
    • 估算 · 原始連結 · Gemma Terms of Use · 取得於 2026-10-07 · 假設:以官方 GGUF 權重檔 1.00 GB + 2 GB(執行環境與約 8K 上下文)估算,並假設 macOS 約 70% 統一記憶體可給 GPU 使用;更長上下文需要更多記憶體。
    • 官方資料 · 原始連結 · Gemma Terms of Use · 取得於 2026-10-07

    查看模型頁

  31. Gemma 3 4B IT(GGUF Q4_0,QAT 官方量化) · GGUF Q4_0

    候選情境測試尚未完成

    符合:聊天

    為什麼列入:原廠發布 Gemma 3 4B IT 的 GGUF 量化檔;列為本機對話候選,本站尚未實測表現。

    展開技術取捨與來源

    技術與取捨:此量化版本相對全精度權重可能損失品質;本站尚未實測差異。 Gemma 採 Google 自訂使用條款,非 Apache/MIT;使用或下載前請閱讀官方條款。 圖片輸入另需約 0.85 GB 的 mmproj 視覺投影檔,本表記憶體估算僅涵蓋純文字;視覺用途需額外記憶體。

    量化:GGUF Q4_0 (官方資料 · 原始連結 · Gemma Terms of Use · 取得於 2026-10-07)

    最少記憶體:8 GB (估算 · 原始連結 · Gemma Terms of Use · 取得於 2026-10-07 · 假設:以官方 GGUF 權重檔 3.16 GB + 2 GB(執行環境與約 8K 上下文)估算,並假設 macOS 約 70% 統一記憶體可給 GPU 使用;更長上下文需要更多記憶體。視覺投影檔約 0.85 GB 未計入。)

    • 官方資料 · 原始連結 · Gemma Terms of Use · 取得於 2026-10-07
    • 估算 · 原始連結 · Gemma Terms of Use · 取得於 2026-10-07 · 假設:以官方 GGUF 權重檔 3.16 GB + 2 GB(執行環境與約 8K 上下文)估算,並假設 macOS 約 70% 統一記憶體可給 GPU 使用;更長上下文需要更多記憶體。視覺投影檔約 0.85 GB 未計入。
    • 官方資料 · 原始連結 · Gemma Terms of Use · 取得於 2026-10-07

    查看模型頁

  32. Qwen2 0.5B Instruct(GGUF Q4_K_M,官方量化) · GGUF Q4_K_M

    候選情境測試尚未完成

    符合:聊天

    為什麼列入:原廠發布 Qwen2 0.5B Instruct 的 Q4_K_M GGUF 指令/對話模型;列為本機對話候選,本站尚未實測表現。

    展開技術取捨與來源

    技術與取捨:Q4_K_M 量化相對全精度權重可能損失品質;本站尚未實測差異。

    量化:GGUF Q4_K_M (官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-08)

    最少記憶體:8 GB (估算 · 原始連結 · Apache-2.0 · 取得於 2026-10-08 · 假設:以官方 GGUF 權重檔 0.40 GB + 2 GB(執行環境與約 8K 上下文)估算,並假設 macOS 約 70% 統一記憶體可給 GPU 使用;更長上下文需要更多記憶體。)

    • 官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-08
    • 估算 · 原始連結 · Apache-2.0 · 取得於 2026-10-08 · 假設:以官方 GGUF 權重檔 0.40 GB + 2 GB(執行環境與約 8K 上下文)估算,並假設 macOS 約 70% 統一記憶體可給 GPU 使用;更長上下文需要更多記憶體。
    • 官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-08
    • 官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-08

    查看模型頁

  33. Qwen2 1.5B Instruct(GGUF Q4_K_M,官方量化) · GGUF Q4_K_M

    候選情境測試尚未完成

    符合:聊天

    為什麼列入:原廠發布 Qwen2 1.5B Instruct 的 Q4_K_M GGUF 指令/對話模型;列為本機對話候選,本站尚未實測表現。

    展開技術取捨與來源

    技術與取捨:Q4_K_M 量化相對全精度權重可能損失品質;本站尚未實測差異。

    量化:GGUF Q4_K_M (官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-08)

    最少記憶體:8 GB (估算 · 原始連結 · Apache-2.0 · 取得於 2026-10-08 · 假設:以官方 GGUF 權重檔 0.99 GB + 2 GB(執行環境與約 8K 上下文)估算,並假設 macOS 約 70% 統一記憶體可給 GPU 使用;更長上下文需要更多記憶體。)

    • 官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-08
    • 估算 · 原始連結 · Apache-2.0 · 取得於 2026-10-08 · 假設:以官方 GGUF 權重檔 0.99 GB + 2 GB(執行環境與約 8K 上下文)估算,並假設 macOS 約 70% 統一記憶體可給 GPU 使用;更長上下文需要更多記憶體。
    • 官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-08
    • 官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-08

    查看模型頁

  34. Phi-3 Mini 4K Instruct(GGUF Q4,官方量化) · GGUF Q4

    候選情境測試尚未完成

    符合:聊天

    為什麼列入:原廠發布 Phi-3 Mini 4K Instruct 的 Q4 GGUF 指令/對話模型;列為本機對話候選,本站尚未實測表現。

    展開技術取捨與來源

    技術與取捨:Q4 量化相對全精度權重可能損失品質;本站尚未實測差異。 官方版本的名稱標示 4K 上下文,長文任務需另選模型。

    量化:GGUF Q4 (官方資料 · 原始連結 · MIT · 取得於 2026-10-08)

    最少記憶體:8 GB (估算 · 原始連結 · MIT · 取得於 2026-10-08 · 假設:以官方 GGUF 權重檔 2.39 GB + 2 GB(執行環境與約 4K 上下文)估算,並假設 macOS 約 70% 統一記憶體可給 GPU 使用;更長上下文需要更多記憶體。)

    • 官方資料 · 原始連結 · MIT · 取得於 2026-10-08
    • 估算 · 原始連結 · MIT · 取得於 2026-10-08 · 假設:以官方 GGUF 權重檔 2.39 GB + 2 GB(執行環境與約 4K 上下文)估算,並假設 macOS 約 70% 統一記憶體可給 GPU 使用;更長上下文需要更多記憶體。
    • 官方資料 · 原始連結 · MIT · 取得於 2026-10-08
    • 官方資料 · 原始連結 · MIT · 取得於 2026-10-08

    查看模型頁

  35. LFM2.5 350M(GGUF Q4_K_M,官方量化) · GGUF Q4_K_M

    候選情境測試尚未完成

    符合:聊天

    為什麼列入:原廠發布 LFM2.5 350M 的 Q4_K_M GGUF 指令/對話模型;列為本機對話候選,本站尚未實測表現。

    展開技術取捨與來源

    技術與取捨:Q4_K_M 量化相對全精度權重可能損失品質;本站尚未實測差異。 LFM Open License v1.0 並非 Apache/MIT;依官方條款第 5 條,年營收有 1,000 萬美元門檻;超過 1,000 萬美元的法律實體,其商業用途不受此授權,接近門檻者應閱讀原文或另取授權。 模型很小,複雜任務能力不應與較大模型等同。

    量化:GGUF Q4_K_M (官方資料 · 原始連結 · LFM Open License v1.0 · 取得於 2026-10-08)

    最少記憶體:8 GB (估算 · 原始連結 · LFM Open License v1.0 · 取得於 2026-10-08 · 假設:以官方 GGUF 權重檔 0.23 GB + 2 GB(執行環境與約 8K 上下文)估算,並假設 macOS 約 70% 統一記憶體可給 GPU 使用;更長上下文需要更多記憶體。)

    • 官方資料 · 原始連結 · LFM Open License v1.0 · 取得於 2026-10-08
    • 估算 · 原始連結 · LFM Open License v1.0 · 取得於 2026-10-08 · 假設:以官方 GGUF 權重檔 0.23 GB + 2 GB(執行環境與約 8K 上下文)估算,並假設 macOS 約 70% 統一記憶體可給 GPU 使用;更長上下文需要更多記憶體。
    • 官方資料 · 原始連結 · LFM Open License v1.0 · 取得於 2026-10-08
    • 官方資料 · 原始連結 · LFM Open License v1.0 · 取得於 2026-10-08
    • 官方資料 · 原始連結 · LFM Open License v1.0 · 取得於 2026-10-08

    查看模型頁

  36. LFM2.5 1.2B Instruct(GGUF Q4_K_M,官方量化) · GGUF Q4_K_M

    候選情境測試尚未完成

    符合:聊天

    為什麼列入:原廠發布 LFM2.5 1.2B Instruct 的 Q4_K_M GGUF 指令/對話模型;列為本機對話候選,本站尚未實測表現。

    展開技術取捨與來源

    技術與取捨:Q4_K_M 量化相對全精度權重可能損失品質;本站尚未實測差異。 LFM Open License v1.0 並非 Apache/MIT;依官方條款第 5 條,年營收有 1,000 萬美元門檻;超過 1,000 萬美元的法律實體,其商業用途不受此授權,接近門檻者應閱讀原文或另取授權。

    量化:GGUF Q4_K_M (官方資料 · 原始連結 · LFM Open License v1.0 · 取得於 2026-10-08)

    最少記憶體:8 GB (估算 · 原始連結 · LFM Open License v1.0 · 取得於 2026-10-08 · 假設:以官方 GGUF 權重檔 0.73 GB + 2 GB(執行環境與約 8K 上下文)估算,並假設 macOS 約 70% 統一記憶體可給 GPU 使用;更長上下文需要更多記憶體。)

    • 官方資料 · 原始連結 · LFM Open License v1.0 · 取得於 2026-10-08
    • 估算 · 原始連結 · LFM Open License v1.0 · 取得於 2026-10-08 · 假設:以官方 GGUF 權重檔 0.73 GB + 2 GB(執行環境與約 8K 上下文)估算,並假設 macOS 約 70% 統一記憶體可給 GPU 使用;更長上下文需要更多記憶體。
    • 官方資料 · 原始連結 · LFM Open License v1.0 · 取得於 2026-10-08
    • 官方資料 · 原始連結 · LFM Open License v1.0 · 取得於 2026-10-08
    • 官方資料 · 原始連結 · LFM Open License v1.0 · 取得於 2026-10-08

    查看模型頁

  37. LFM2.5 1.2B Thinking(GGUF Q4_K_M,官方量化) · GGUF Q4_K_M

    候選情境測試尚未完成

    符合:聊天

    為什麼列入:原廠發布 LFM2.5 1.2B Thinking 的 Q4_K_M GGUF,屬推理取向模型;列為本機對話候選,本站尚未實測推理品質。

    展開技術取捨與來源

    技術與取捨:Q4_K_M 量化相對全精度權重可能損失品質;本站尚未實測差異。 LFM Open License v1.0 並非 Apache/MIT;依官方條款第 5 條,年營收有 1,000 萬美元門檻;超過 1,000 萬美元的法律實體,其商業用途不受此授權,接近門檻者應閱讀原文或另取授權。

    量化:GGUF Q4_K_M (官方資料 · 原始連結 · LFM Open License v1.0 · 取得於 2026-10-08)

    最少記憶體:8 GB (估算 · 原始連結 · LFM Open License v1.0 · 取得於 2026-10-08 · 假設:以官方 GGUF 權重檔 0.73 GB + 2 GB(執行環境與約 8K 上下文)估算,並假設 macOS 約 70% 統一記憶體可給 GPU 使用;更長上下文需要更多記憶體。)

    • 官方資料 · 原始連結 · LFM Open License v1.0 · 取得於 2026-10-08
    • 估算 · 原始連結 · LFM Open License v1.0 · 取得於 2026-10-08 · 假設:以官方 GGUF 權重檔 0.73 GB + 2 GB(執行環境與約 8K 上下文)估算,並假設 macOS 約 70% 統一記憶體可給 GPU 使用;更長上下文需要更多記憶體。
    • 官方資料 · 原始連結 · LFM Open License v1.0 · 取得於 2026-10-08
    • 官方資料 · 原始連結 · LFM Open License v1.0 · 取得於 2026-10-08
    • 官方資料 · 原始連結 · LFM Open License v1.0 · 取得於 2026-10-08

    查看模型頁

  38. LFM2.5 2.6B(GGUF Q4_K_M,官方量化) · GGUF Q4_K_M

    候選情境測試尚未完成

    符合:聊天

    為什麼列入:原廠發布 LFM2.5 2.6B 的 Q4_K_M GGUF 指令/對話模型;列為本機對話候選,本站尚未實測表現。

    展開技術取捨與來源

    技術與取捨:Q4_K_M 量化相對全精度權重可能損失品質;本站尚未實測差異。 LFM Open License v1.0 並非 Apache/MIT;依官方條款第 5 條,年營收有 1,000 萬美元門檻;超過 1,000 萬美元的法律實體,其商業用途不受此授權,接近門檻者應閱讀原文或另取授權。

    量化:GGUF Q4_K_M (官方資料 · 原始連結 · LFM Open License v1.0 · 取得於 2026-10-08)

    最少記憶體:8 GB (估算 · 原始連結 · LFM Open License v1.0 · 取得於 2026-10-08 · 假設:以官方 GGUF 權重檔 1.67 GB + 2 GB(執行環境與約 8K 上下文)估算,並假設 macOS 約 70% 統一記憶體可給 GPU 使用;更長上下文需要更多記憶體。)

    • 官方資料 · 原始連結 · LFM Open License v1.0 · 取得於 2026-10-08
    • 估算 · 原始連結 · LFM Open License v1.0 · 取得於 2026-10-08 · 假設:以官方 GGUF 權重檔 1.67 GB + 2 GB(執行環境與約 8K 上下文)估算,並假設 macOS 約 70% 統一記憶體可給 GPU 使用;更長上下文需要更多記憶體。
    • 官方資料 · 原始連結 · LFM Open License v1.0 · 取得於 2026-10-08
    • 官方資料 · 原始連結 · LFM Open License v1.0 · 取得於 2026-10-08
    • 官方資料 · 原始連結 · LFM Open License v1.0 · 取得於 2026-10-08

    查看模型頁

  39. LFM2 700M(GGUF Q4_K_M,官方量化) · GGUF Q4_K_M

    候選情境測試尚未完成

    符合:聊天

    為什麼列入:原廠發布 LFM2 700M 對話模型的官方 Q4_K_M GGUF;列為本機對話候選,本站尚未實測表現。

    展開技術取捨與來源

    技術與取捨:Q4_K_M 量化相對全精度權重可能損失品質;本站尚未實測差異。 LFM Open License v1.0 並非 Apache/MIT;依官方條款第 5 條,年營收有 1,000 萬美元門檻;超過 1,000 萬美元的法律實體,其商業用途不受此授權,接近門檻者應閱讀原文或另取授權。 小模型適合低資源嘗試,複雜任務能力不應與大型模型等同。

    量化:GGUF Q4_K_M (官方資料 · 原始連結 · LFM Open License v1.0 · 取得於 2026-10-08)

    最少記憶體:8 GB (估算 · 原始連結 · LFM Open License v1.0 · 取得於 2026-10-08 · 假設:以官方 GGUF 權重檔 0.47 GB + 2 GB(執行環境與約 8K 上下文)估算,並假設 macOS 約 70% 統一記憶體可給 GPU 使用;更長上下文需要更多記憶體。)

    • 官方資料 · 原始連結 · LFM Open License v1.0 · 取得於 2026-10-08
    • 估算 · 原始連結 · LFM Open License v1.0 · 取得於 2026-10-08 · 假設:以官方 GGUF 權重檔 0.47 GB + 2 GB(執行環境與約 8K 上下文)估算,並假設 macOS 約 70% 統一記憶體可給 GPU 使用;更長上下文需要更多記憶體。
    • 官方資料 · 原始連結 · LFM Open License v1.0 · 取得於 2026-10-08
    • 官方資料 · 原始連結 · LFM Open License v1.0 · 取得於 2026-10-08
    • 官方資料 · 原始連結 · LFM Open License v1.0 · 取得於 2026-10-08

    查看模型頁

  40. LFM2 1.2B(GGUF Q4_K_M,官方量化) · GGUF Q4_K_M

    候選情境測試尚未完成

    符合:聊天

    為什麼列入:原廠發布 LFM2 1.2B 對話模型的官方 Q4_K_M GGUF;列為本機對話候選,本站尚未實測表現。

    展開技術取捨與來源

    技術與取捨:Q4_K_M 量化相對全精度權重可能損失品質;本站尚未實測差異。 LFM Open License v1.0 並非 Apache/MIT;依官方條款第 5 條,年營收有 1,000 萬美元門檻;超過 1,000 萬美元的法律實體,其商業用途不受此授權,接近門檻者應閱讀原文或另取授權。

    量化:GGUF Q4_K_M (官方資料 · 原始連結 · LFM Open License v1.0 · 取得於 2026-10-08)

    最少記憶體:8 GB (估算 · 原始連結 · LFM Open License v1.0 · 取得於 2026-10-08 · 假設:以官方 GGUF 權重檔 0.73 GB + 2 GB(執行環境與約 8K 上下文)估算,並假設 macOS 約 70% 統一記憶體可給 GPU 使用;更長上下文需要更多記憶體。)

    • 官方資料 · 原始連結 · LFM Open License v1.0 · 取得於 2026-10-08
    • 估算 · 原始連結 · LFM Open License v1.0 · 取得於 2026-10-08 · 假設:以官方 GGUF 權重檔 0.73 GB + 2 GB(執行環境與約 8K 上下文)估算,並假設 macOS 約 70% 統一記憶體可給 GPU 使用;更長上下文需要更多記憶體。
    • 官方資料 · 原始連結 · LFM Open License v1.0 · 取得於 2026-10-08
    • 官方資料 · 原始連結 · LFM Open License v1.0 · 取得於 2026-10-08
    • 官方資料 · 原始連結 · LFM Open License v1.0 · 取得於 2026-10-08

    查看模型頁

  41. LFM2 1.2B RAG(GGUF Q4_K_M,官方量化) · GGUF Q4_K_M

    候選情境測試尚未完成

    符合:聊天

    為什麼列入:原廠發布 LFM2 1.2B RAG 檢索增強生成取向模型的官方 Q4_K_M GGUF;列為本機文件問答候選,本站尚未實測品質。

    展開技術取捨與來源

    技術與取捨:Q4_K_M 量化相對全精度權重可能損失品質;本站尚未實測差異。 LFM Open License v1.0 並非 Apache/MIT;依官方條款第 5 條,年營收有 1,000 萬美元門檻;超過 1,000 萬美元的法律實體,其商業用途不受此授權,接近門檻者應閱讀原文或另取授權。

    量化:GGUF Q4_K_M (官方資料 · 原始連結 · LFM Open License v1.0 · 取得於 2026-10-08)

    最少記憶體:8 GB (估算 · 原始連結 · LFM Open License v1.0 · 取得於 2026-10-08 · 假設:以官方 GGUF 權重檔 0.73 GB + 2 GB(執行環境與約 8K 上下文)估算,並假設 macOS 約 70% 統一記憶體可給 GPU 使用;更長上下文需要更多記憶體。)

    • 官方資料 · 原始連結 · LFM Open License v1.0 · 取得於 2026-10-08
    • 估算 · 原始連結 · LFM Open License v1.0 · 取得於 2026-10-08 · 假設:以官方 GGUF 權重檔 0.73 GB + 2 GB(執行環境與約 8K 上下文)估算,並假設 macOS 約 70% 統一記憶體可給 GPU 使用;更長上下文需要更多記憶體。
    • 官方資料 · 原始連結 · LFM Open License v1.0 · 取得於 2026-10-08
    • 官方資料 · 原始連結 · LFM Open License v1.0 · 取得於 2026-10-08
    • 官方資料 · 原始連結 · LFM Open License v1.0 · 取得於 2026-10-08

    查看模型頁

  42. LFM2 2.6B(GGUF Q4_K_M,官方量化) · GGUF Q4_K_M

    候選情境測試尚未完成

    符合:聊天

    為什麼列入:原廠發布 LFM2 2.6B 對話模型的官方 Q4_K_M GGUF;列為本機對話候選,本站尚未實測表現。

    展開技術取捨與來源

    技術與取捨:Q4_K_M 量化相對全精度權重可能損失品質;本站尚未實測差異。 LFM Open License v1.0 並非 Apache/MIT;依官方條款第 5 條,年營收有 1,000 萬美元門檻;超過 1,000 萬美元的法律實體,其商業用途不受此授權,接近門檻者應閱讀原文或另取授權。

    量化:GGUF Q4_K_M (官方資料 · 原始連結 · LFM Open License v1.0 · 取得於 2026-10-08)

    最少記憶體:8 GB (估算 · 原始連結 · LFM Open License v1.0 · 取得於 2026-10-08 · 假設:以官方 GGUF 權重檔 1.56 GB + 2 GB(執行環境與約 8K 上下文)估算,並假設 macOS 約 70% 統一記憶體可給 GPU 使用;更長上下文需要更多記憶體。)

    • 官方資料 · 原始連結 · LFM Open License v1.0 · 取得於 2026-10-08
    • 估算 · 原始連結 · LFM Open License v1.0 · 取得於 2026-10-08 · 假設:以官方 GGUF 權重檔 1.56 GB + 2 GB(執行環境與約 8K 上下文)估算,並假設 macOS 約 70% 統一記憶體可給 GPU 使用;更長上下文需要更多記憶體。
    • 官方資料 · 原始連結 · LFM Open License v1.0 · 取得於 2026-10-08
    • 官方資料 · 原始連結 · LFM Open License v1.0 · 取得於 2026-10-08
    • 官方資料 · 原始連結 · LFM Open License v1.0 · 取得於 2026-10-08

    查看模型頁

  43. Gemma 4 E4B(GGUF Q4_0,官方 QAT 量化) · GGUF Q4_0(QAT,官方量化)

    候選情境測試尚未完成

    符合:聊天

    為什麼列入:原廠模型卡說明 Gemma 4 E4B 為 45 億有效參數(含嵌入層共 80 億參數)的多模態模型,脈絡長度 128K token,採 Apache-2.0 授權;家族模型卡明確列出「強化的程式與代理能力」,並提供原生 function calling,官方並公布 LiveCodeBench v6 52.0%、Codeforces ELO 940 等程式相關成績。

    展開技術取捨與來源

    技術與取捨:官方 QAT Q4_0 版本相較 BF16 全精度有量化損失,本站尚未實測品質差異。視覺輸入需另下載約 0.99 GB mmproj 檔;授權為 Apache-2.0 但附加 Google 的 Prohibited Use Policy。

    量化:GGUF Q4_0(QAT,官方量化) (官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-09-30)

    最少記憶體:16 GB (估算 · 原始連結 · Apache-2.0 · 取得於 2026-09-30 · 假設:以權重檔 5.15 GB + 2 GB(執行環境與約 8K 上下文)估算,並假設 macOS 預設約 70% 統一記憶體可給 GPU 使用;更長上下文需要更多記憶體。)

    • 官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-09-30
    • 估算 · 原始連結 · Apache-2.0 · 取得於 2026-09-30 · 假設:以權重檔 5.15 GB + 2 GB(執行環境與約 8K 上下文)估算,並假設 macOS 預設約 70% 統一記憶體可給 GPU 使用;更長上下文需要更多記憶體。
    • 官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-09-30

    查看模型頁

  44. Qwen3-8B(GGUF Q4_K_M,官方量化) · GGUF Q4_K_M(官方量化)

    候選情境測試尚未完成

    符合:聊天

    為什麼列入:原廠模型卡說明本模型共 82 億參數(不含嵌入層 69.5 億),原生脈絡長度 32,768 token、以 YaRN 可延伸至 131,072 token,採 Apache-2.0 授權;定位為可在「思考模式」與「非思考模式」間切換的通用指令模型,官方模型卡提及其在數學、程式生成、多語與代理應用上的能力,未特別定位為程式專用模型。

    展開技術取捨與來源

    技術與取捨:Q4_K_M 為 4-bit 量化,相較官方 BF16 權重有精度損失,本站尚未實測差異;若開啟 YaRN 延伸脈絡到 131,072 token,需要比本估算更多的記憶體。此量化檔案由 Qwen 官方發布。

    量化:GGUF Q4_K_M(官方量化) (官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-09-30)

    最少記憶體:16 GB (估算 · 原始連結 · Apache-2.0 · 取得於 2026-09-30 · 假設:以權重檔 5.03 GB + 2 GB(執行環境與約 8K 上下文)估算,並假設 macOS 預設約 70% 統一記憶體可給 GPU 使用;更長上下文需要更多記憶體。)

    • 官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-09-30
    • 估算 · 原始連結 · Apache-2.0 · 取得於 2026-09-30 · 假設:以權重檔 5.03 GB + 2 GB(執行環境與約 8K 上下文)估算,並假設 macOS 預設約 70% 統一記憶體可給 GPU 使用;更長上下文需要更多記憶體。
    • 官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-09-30

    查看模型頁

  45. Gemma 4 12B(Unified,GGUF Q4_0 官方 QAT 量化) · GGUF Q4_0(QAT,官方量化)

    候選情境測試尚未完成

    符合:聊天

    為什麼列入:原廠模型卡說明 Gemma 4 12B 共 11.95B 參數,脈絡長度 256K token,採 Apache-2.0 授權;家族模型卡明確列出「強化的程式與代理能力」與原生 function calling。

    展開技術取捨與來源

    技術與取捨:官方 QAT Q4_0 版本相較 BF16 全精度有量化損失,本站尚未實測品質差異。多模態輸入需另下載約 0.18 GB mmproj 檔;授權為 Apache-2.0 但附加 Google 的 Prohibited Use Policy。

    量化:GGUF Q4_0(QAT,官方量化) (官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-09-30)

    最少記憶體:16 GB (估算 · 原始連結 · Apache-2.0 · 取得於 2026-09-30 · 假設:以權重檔 6.98 GB + 2 GB(執行環境與約 8K 上下文)估算,並假設 macOS 預設約 70% 統一記憶體可給 GPU 使用;更長上下文需要更多記憶體。)

    • 官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-09-30
    • 估算 · 原始連結 · Apache-2.0 · 取得於 2026-09-30 · 假設:以權重檔 6.98 GB + 2 GB(執行環境與約 8K 上下文)估算,並假設 macOS 預設約 70% 統一記憶體可給 GPU 使用;更長上下文需要更多記憶體。
    • 官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-09-30

    查看模型頁

  46. Qwen3-14B(GGUF Q4_K_M,官方量化) · GGUF Q4_K_M

    候選情境測試尚未完成

    符合:聊天

    為什麼列入:Qwen 原廠 Qwen3 14B 模型卡介紹思考與非思考模式、程式及工具使用;官方 GGUF 提供 Q4_K_M 權重。

    展開技術取捨與來源

    技術與取捨:16GB 估算接近本站 70% 可用記憶體界線;較長脈絡及其他應用同時運行可能需 24GB。本站未測代理任務表現。

    量化:GGUF Q4_K_M (官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07)

    最少記憶體:16 GB (估算 · 原始連結 · Apache-2.0 · 取得於 2026-10-07 · 假設:以權重檔 9.00 GB + 2 GB(執行環境與約 8K 上下文)估算,假設 macOS 預設約 70% 統一記憶體可給 GPU 使用;更長上下文需要更多記憶體。)

    • 官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07
    • 估算 · 原始連結 · Apache-2.0 · 取得於 2026-10-07 · 假設:以權重檔 9.00 GB + 2 GB(執行環境與約 8K 上下文)估算,假設 macOS 預設約 70% 統一記憶體可給 GPU 使用;更長上下文需要更多記憶體。
    • 官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07

    查看模型頁

  47. Qwen3-VL-8B-Instruct(GGUF Q4_K_M,官方量化) · GGUF Q4_K_M

    候選情境測試尚未完成

    符合:聊天

    為什麼列入:Qwen 原廠的 Qwen3-VL-8B-Instruct 是視覺語言指令模型,官方 GGUF 提供 Q4_K_M;本站先列為文字對話候選,影像能力需另備投影檔。

    展開技術取捨與來源

    技術與取捨:影像輸入需額外 mmproj;本級距估算已計入該檔,但實際影像解析度、脈絡與執行軟體仍會改變記憶體需求。本站未實測視覺或文字品質。

    量化:GGUF Q4_K_M (官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07)

    最少記憶體:16 GB (估算 · 原始連結 · Apache-2.0 · 取得於 2026-10-07 · 假設:以權重檔 5.03 GB + 視覺投影檔 0.75 GB + 2 GB(執行環境與約 8K 上下文)估算,假設 macOS 預設約 70% 統一記憶體可給 GPU 使用;影像解析度或更長上下文需要更多記憶體。)

    • 官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07
    • 估算 · 原始連結 · Apache-2.0 · 取得於 2026-10-07 · 假設:以權重檔 5.03 GB + 視覺投影檔 0.75 GB + 2 GB(執行環境與約 8K 上下文)估算,假設 macOS 預設約 70% 統一記憶體可給 GPU 使用;影像解析度或更長上下文需要更多記憶體。
    • 官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07

    查看模型頁

  48. Ministral 3 8B Instruct 2512(GGUF Q4_K_M,官方量化) · GGUF Q4_K_M

    候選情境測試尚未完成

    符合:聊天

    為什麼列入:Mistral 原廠 Ministral-3-8B-Instruct-2512 是對話指令模型,官方提供 Q4_K_M GGUF,可在 Mac 本地進行文字互動。

    展開技術取捨與來源

    技術與取捨:Q4_K_M 量化品質與 Mac 實際速度尚未由本站實測;若使用影像能力需另備投影檔。

    量化:GGUF Q4_K_M (官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07)

    最少記憶體:16 GB (估算 · 原始連結 · Apache-2.0 · 取得於 2026-10-07 · 假設:以權重檔 5.199 GB + 視覺投影檔 0.858 GB + 2 GB(執行環境與約 8K 上下文)估算,假設 macOS 預設約 70% 統一記憶體可給 GPU 使用;影像解析度或更長上下文需要更多記憶體。)

    • 官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07
    • 估算 · 原始連結 · Apache-2.0 · 取得於 2026-10-07 · 假設:以權重檔 5.199 GB + 視覺投影檔 0.858 GB + 2 GB(執行環境與約 8K 上下文)估算,假設 macOS 預設約 70% 統一記憶體可給 GPU 使用;影像解析度或更長上下文需要更多記憶體。
    • 官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07

    查看模型頁

  49. Ministral 3 8B Reasoning 2512(GGUF Q4_K_M,官方量化) · GGUF Q4_K_M

    候選情境測試尚未完成

    符合:聊天

    為什麼列入:Mistral 原廠 Ministral-3-8B-Reasoning-2512 為具推理能力的指令模型,模型卡說明程式用途與原生 function calling;官方提供 GGUF Q4_K_M。

    展開技術取捨與來源

    技術與取捨:較長推理軌跡會提高延遲與記憶體需求;本站尚未實測 4-bit 品質或代理任務成果。

    量化:GGUF Q4_K_M (官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07)

    最少記憶體:16 GB (估算 · 原始連結 · Apache-2.0 · 取得於 2026-10-07 · 假設:以權重檔 5.199 GB + 視覺投影檔 0.858 GB + 2 GB(執行環境與約 8K 上下文)估算,假設 macOS 預設約 70% 統一記憶體可給 GPU 使用;影像解析度或更長上下文需要更多記憶體。)

    • 官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07
    • 估算 · 原始連結 · Apache-2.0 · 取得於 2026-10-07 · 假設:以權重檔 5.199 GB + 視覺投影檔 0.858 GB + 2 GB(執行環境與約 8K 上下文)估算,假設 macOS 預設約 70% 統一記憶體可給 GPU 使用;影像解析度或更長上下文需要更多記憶體。
    • 官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07

    查看模型頁

  50. Ministral 3 14B Instruct 2512(GGUF Q4_K_M,官方量化) · GGUF Q4_K_M

    候選情境測試尚未完成

    符合:聊天

    為什麼列入:Mistral 原廠 Ministral-3-14B-Instruct-2512 是對話指令模型,官方提供 Q4_K_M GGUF,可在 Mac 本地進行文字互動。

    展開技術取捨與來源

    技術與取捨:Q4_K_M 量化品質與 Mac 實際速度尚未由本站實測;若使用影像能力需另備投影檔。

    量化:GGUF Q4_K_M (官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07)

    最少記憶體:16 GB (估算 · 原始連結 · Apache-2.0 · 取得於 2026-10-07 · 假設:以權重檔 8.240 GB + 視覺投影檔 0.879 GB + 2 GB(執行環境與約 8K 上下文)估算,假設 macOS 預設約 70% 統一記憶體可給 GPU 使用;影像解析度或更長上下文需要更多記憶體。)

    • 官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07
    • 估算 · 原始連結 · Apache-2.0 · 取得於 2026-10-07 · 假設:以權重檔 8.240 GB + 視覺投影檔 0.879 GB + 2 GB(執行環境與約 8K 上下文)估算,假設 macOS 預設約 70% 統一記憶體可給 GPU 使用;影像解析度或更長上下文需要更多記憶體。
    • 官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07

    查看模型頁

  51. Ministral 3 14B Reasoning 2512(GGUF Q4_K_M,官方量化) · GGUF Q4_K_M

    候選情境測試尚未完成

    符合:聊天

    為什麼列入:Mistral 原廠 Ministral-3-14B-Reasoning-2512 為具推理能力的指令模型,模型卡說明程式用途與原生 function calling;官方提供 GGUF Q4_K_M。

    展開技術取捨與來源

    技術與取捨:較長推理軌跡會提高延遲與記憶體需求;本站尚未實測 4-bit 品質或代理任務成果。

    量化:GGUF Q4_K_M (官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07)

    最少記憶體:16 GB (估算 · 原始連結 · Apache-2.0 · 取得於 2026-10-07 · 假設:以權重檔 8.240 GB + 視覺投影檔 0.879 GB + 2 GB(執行環境與約 8K 上下文)估算,假設 macOS 預設約 70% 統一記憶體可給 GPU 使用;影像解析度或更長上下文需要更多記憶體。)

    • 官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07
    • 估算 · 原始連結 · Apache-2.0 · 取得於 2026-10-07 · 假設:以權重檔 8.240 GB + 視覺投影檔 0.879 GB + 2 GB(執行環境與約 8K 上下文)估算,假設 macOS 預設約 70% 統一記憶體可給 GPU 使用;影像解析度或更長上下文需要更多記憶體。
    • 官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07

    查看模型頁

  52. Qwen3-VL-8B-Thinking(GGUF Q4_K_M,官方量化) · GGUF Q4_K_M

    候選情境測試尚未完成

    符合:聊天

    為什麼列入:Qwen 原廠 Qwen3-VL-8B-Thinking 是視覺語言推理指令模型;官方 GGUF 提供 Q4_K_M 權重,本站將其列為對話候選。

    展開技術取捨與來源

    技術與取捨:影像能力須搭配 mmproj;記憶體估算已計入 Q8_0 投影檔,但推理軌跡、影像解析度及長脈絡可能增加實際耗用。本站未實測品質。

    量化:GGUF Q4_K_M (官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07)

    最少記憶體:16 GB (估算 · 原始連結 · Apache-2.0 · 取得於 2026-10-07 · 假設:以權重檔 5.028 GB + 視覺投影檔 0.752 GB + 2 GB(執行環境與約 8K 上下文)估算,假設 macOS 預設約 70% 統一記憶體可給 GPU 使用;影像解析度或更長上下文需要更多記憶體。)

    • 官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07
    • 估算 · 原始連結 · Apache-2.0 · 取得於 2026-10-07 · 假設:以權重檔 5.028 GB + 視覺投影檔 0.752 GB + 2 GB(執行環境與約 8K 上下文)估算,假設 macOS 預設約 70% 統一記憶體可給 GPU 使用;影像解析度或更長上下文需要更多記憶體。
    • 官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07

    查看模型頁

  53. IBM Granite 4.2 8B(GGUF Q4_K_M,官方量化) · GGUF Q4_K_M

    候選情境測試尚未完成

    符合:聊天

    為什麼列入:IBM 原廠 granite-4.2-8b 為指令模型,模型卡列出程式與工具調用用途;官方 GGUF 提供 Q4_K_M。代理標籤不代表本站已測試代理任務。

    展開技術取捨與來源

    技術與取捨:Q4_K_M 權重與長脈絡的品質及記憶體消耗尚未由本站在 Mac 上實測;模型卡用途不等於具體場景評測。

    量化:GGUF Q4_K_M (官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07)

    最少記憶體:16 GB (估算 · 原始連結 · Apache-2.0 · 取得於 2026-10-07 · 假設:以權重檔 5.348 GB + 2 GB(執行環境與約 8K 上下文)估算,假設 macOS 預設約 70% 統一記憶體可給 GPU 使用;更長上下文需要更多記憶體。)

    • 官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07
    • 估算 · 原始連結 · Apache-2.0 · 取得於 2026-10-07 · 假設:以權重檔 5.348 GB + 2 GB(執行環境與約 8K 上下文)估算,假設 macOS 預設約 70% 統一記憶體可給 GPU 使用;更長上下文需要更多記憶體。
    • 官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07

    查看模型頁

  54. IBM Granite 4.1 8B(GGUF Q4_K_M,官方量化) · GGUF Q4_K_M

    候選情境測試尚未完成

    符合:聊天

    為什麼列入:IBM 原廠 granite-4.1-8b 為指令模型,模型卡列出程式與工具調用用途;官方 GGUF 提供 Q4_K_M。代理標籤不代表本站已測試代理任務。

    展開技術取捨與來源

    技術與取捨:Q4_K_M 權重與長脈絡的品質及記憶體消耗尚未由本站在 Mac 上實測;模型卡用途不等於具體場景評測。

    量化:GGUF Q4_K_M (官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07)

    最少記憶體:16 GB (估算 · 原始連結 · Apache-2.0 · 取得於 2026-10-07 · 假設:以權重檔 5.348 GB + 2 GB(執行環境與約 8K 上下文)估算,假設 macOS 預設約 70% 統一記憶體可給 GPU 使用;更長上下文需要更多記憶體。)

    • 官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07
    • 估算 · 原始連結 · Apache-2.0 · 取得於 2026-10-07 · 假設:以權重檔 5.348 GB + 2 GB(執行環境與約 8K 上下文)估算,假設 macOS 預設約 70% 統一記憶體可給 GPU 使用;更長上下文需要更多記憶體。
    • 官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07

    查看模型頁

  55. IBM Granite 3.3 8B Instruct(GGUF Q4_K_M,官方量化) · GGUF Q4_K_M

    候選情境測試尚未完成

    符合:聊天

    為什麼列入:IBM 原廠 granite-3.3-8b-instruct 是指令微調的對話模型,官方 GGUF 提供 Q4_K_M,可依 Mac 記憶體級距作本地候選。

    展開技術取捨與來源

    技術與取捨:模型屬較早版本;本站尚未比較其與新版本或原始精度權重的品質。

    量化:GGUF Q4_K_M (官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07)

    最少記憶體:16 GB (估算 · 原始連結 · Apache-2.0 · 取得於 2026-10-07 · 假設:以權重檔 4.943 GB + 2 GB(執行環境與約 8K 上下文)估算,假設 macOS 預設約 70% 統一記憶體可給 GPU 使用;更長上下文需要更多記憶體。)

    • 官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07
    • 估算 · 原始連結 · Apache-2.0 · 取得於 2026-10-07 · 假設:以權重檔 4.943 GB + 2 GB(執行環境與約 8K 上下文)估算,假設 macOS 預設約 70% 統一記憶體可給 GPU 使用;更長上下文需要更多記憶體。
    • 官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07

    查看模型頁

  56. Microsoft Phi-4(GGUF Q4_0,官方量化) · GGUF Q4_0

    候選情境測試尚未完成

    符合:聊天

    為什麼列入:Microsoft 發布的 Phi-4 是指令模型,官方 GGUF 提供 Q4_0,供 16GB 級距 Mac 嘗試本地對話。

    展開技術取捨與來源

    技術與取捨:Q4_0 是較舊的 4-bit 量化型式,可能損失品質;本站未實測與原始精度版本的差異。

    量化:GGUF Q4_0 (官方資料 · 原始連結 · MIT · 取得於 2026-10-07)

    最少記憶體:16 GB (估算 · 原始連結 · MIT · 取得於 2026-10-07 · 假設:以權重檔 8.383 GB + 2 GB(執行環境與約 8K 上下文)估算,假設 macOS 預設約 70% 統一記憶體可給 GPU 使用;更長上下文需要更多記憶體。)

    • 官方資料 · 原始連結 · MIT · 取得於 2026-10-07
    • 估算 · 原始連結 · MIT · 取得於 2026-10-07 · 假設:以權重檔 8.383 GB + 2 GB(執行環境與約 8K 上下文)估算,假設 macOS 預設約 70% 統一記憶體可給 GPU 使用;更長上下文需要更多記憶體。
    • 官方資料 · 原始連結 · MIT · 取得於 2026-10-07

    查看模型頁

  57. Granite 4.0 H Tiny(GGUF Q4_K_M,官方量化) · GGUF Q4_K_M

    候選情境測試尚未完成

    符合:聊天

    為什麼列入:原廠發布 Granite 4.0 H Tiny 的 GGUF 量化檔;列為本機對話候選,本站尚未實測表現。

    展開技術取捨與來源

    技術與取捨:此量化版本相對全精度權重可能損失品質;本站尚未實測差異。

    量化:GGUF Q4_K_M (官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07)

    最少記憶體:16 GB (估算 · 原始連結 · Apache-2.0 · 取得於 2026-10-07 · 假設:以官方 GGUF 權重檔 4.23 GB + 2 GB(執行環境與約 8K 上下文)估算,並假設 macOS 約 70% 統一記憶體可給 GPU 使用;更長上下文需要更多記憶體。)

    • 官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07
    • 估算 · 原始連結 · Apache-2.0 · 取得於 2026-10-07 · 假設:以官方 GGUF 權重檔 4.23 GB + 2 GB(執行環境與約 8K 上下文)估算,並假設 macOS 約 70% 統一記憶體可給 GPU 使用;更長上下文需要更多記憶體。
    • 官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07

    查看模型頁

  58. OLMoE 1B-7B 0924 Instruct(GGUF Q4_K_M,官方量化) · GGUF Q4_K_M

    候選情境測試尚未完成

    符合:聊天

    為什麼列入:原廠發布 OLMoE 1B-7B 0924 Instruct 的 GGUF 量化檔;列為本機對話候選,本站尚未實測表現。

    展開技術取捨與來源

    技術與取捨:此量化版本相對全精度權重可能損失品質;本站尚未實測差異。

    量化:GGUF Q4_K_M (官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07)

    最少記憶體:16 GB (估算 · 原始連結 · Apache-2.0 · 取得於 2026-10-07 · 假設:以官方 GGUF 權重檔 4.21 GB + 2 GB(執行環境與約 8K 上下文)估算,並假設 macOS 約 70% 統一記憶體可給 GPU 使用;更長上下文需要更多記憶體。)

    • 官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07
    • 估算 · 原始連結 · Apache-2.0 · 取得於 2026-10-07 · 假設:以官方 GGUF 權重檔 4.21 GB + 2 GB(執行環境與約 8K 上下文)估算,並假設 macOS 約 70% 統一記憶體可給 GPU 使用;更長上下文需要更多記憶體。
    • 官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07

    查看模型頁

  59. OLMoE 1B-7B 0125 Instruct(GGUF Q4_K_M,官方量化) · GGUF Q4_K_M

    候選情境測試尚未完成

    符合:聊天

    為什麼列入:原廠發布 OLMoE 1B-7B 0125 Instruct 的 GGUF 量化檔;列為本機對話候選,本站尚未實測表現。

    展開技術取捨與來源

    技術與取捨:此量化版本相對全精度權重可能損失品質;本站尚未實測差異。

    量化:GGUF Q4_K_M (官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07)

    最少記憶體:16 GB (估算 · 原始連結 · Apache-2.0 · 取得於 2026-10-07 · 假設:以官方 GGUF 權重檔 4.21 GB + 2 GB(執行環境與約 8K 上下文)估算,並假設 macOS 約 70% 統一記憶體可給 GPU 使用;更長上下文需要更多記憶體。)

    • 官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07
    • 估算 · 原始連結 · Apache-2.0 · 取得於 2026-10-07 · 假設:以官方 GGUF 權重檔 4.21 GB + 2 GB(執行環境與約 8K 上下文)估算,並假設 macOS 約 70% 統一記憶體可給 GPU 使用;更長上下文需要更多記憶體。
    • 官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07
    • 官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07

    查看模型頁

  60. OLMo 2 1124 7B Instruct(GGUF Q4_K_M,官方量化) · GGUF Q4_K_M

    候選情境測試尚未完成

    符合:聊天

    為什麼列入:原廠發布 OLMo 2 1124 7B Instruct 的 GGUF 量化檔;列為本機對話候選,本站尚未實測表現。

    展開技術取捨與來源

    技術與取捨:此量化版本相對全精度權重可能損失品質;本站尚未實測差異。

    量化:GGUF Q4_K_M (官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07)

    最少記憶體:16 GB (估算 · 原始連結 · Apache-2.0 · 取得於 2026-10-07 · 假設:以官方 GGUF 權重檔 4.47 GB + 2 GB(執行環境與約 8K 上下文)估算,並假設 macOS 約 70% 統一記憶體可給 GPU 使用;更長上下文需要更多記憶體。)

    • 官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07
    • 估算 · 原始連結 · Apache-2.0 · 取得於 2026-10-07 · 假設:以官方 GGUF 權重檔 4.47 GB + 2 GB(執行環境與約 8K 上下文)估算,並假設 macOS 約 70% 統一記憶體可給 GPU 使用;更長上下文需要更多記憶體。
    • 官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07

    查看模型頁

  61. OLMo 2 1124 13B Instruct(GGUF Q4_K_M,官方量化) · GGUF Q4_K_M

    候選情境測試尚未完成

    符合:聊天

    為什麼列入:原廠發布 OLMo 2 1124 13B Instruct 的 GGUF 量化檔;列為本機對話候選,本站尚未實測表現。

    展開技術取捨與來源

    技術與取捨:此量化版本相對全精度權重可能損失品質;本站尚未實測差異。

    量化:GGUF Q4_K_M (官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07)

    最少記憶體:16 GB (估算 · 原始連結 · Apache-2.0 · 取得於 2026-10-07 · 假設:以官方 GGUF 權重檔 8.35 GB + 2 GB(執行環境與約 8K 上下文)估算,並假設 macOS 約 70% 統一記憶體可給 GPU 使用;更長上下文需要更多記憶體。)

    • 官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07
    • 估算 · 原始連結 · Apache-2.0 · 取得於 2026-10-07 · 假設:以官方 GGUF 權重檔 8.35 GB + 2 GB(執行環境與約 8K 上下文)估算,並假設 macOS 約 70% 統一記憶體可給 GPU 使用;更長上下文需要更多記憶體。
    • 官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07

    查看模型頁

  62. Gemma 3 12B IT(GGUF Q4_0,QAT 官方量化) · GGUF Q4_0

    候選情境測試尚未完成

    符合:聊天

    為什麼列入:原廠發布 Gemma 3 12B IT 的 GGUF 量化檔;列為本機對話候選,本站尚未實測表現。

    展開技術取捨與來源

    技術與取捨:此量化版本相對全精度權重可能損失品質;本站尚未實測差異。 Gemma 採 Google 自訂使用條款,非 Apache/MIT;使用或下載前請閱讀官方條款。 圖片輸入另需約 0.85 GB 的 mmproj 視覺投影檔,本表記憶體估算僅涵蓋純文字;視覺用途需額外記憶體。

    量化:GGUF Q4_0 (官方資料 · 原始連結 · Gemma Terms of Use · 取得於 2026-10-07)

    最少記憶體:16 GB (估算 · 原始連結 · Gemma Terms of Use · 取得於 2026-10-07 · 假設:以官方 GGUF 權重檔 8.07 GB + 2 GB(執行環境與約 8K 上下文)估算,並假設 macOS 約 70% 統一記憶體可給 GPU 使用;更長上下文需要更多記憶體。視覺投影檔約 0.85 GB 未計入。)

    • 官方資料 · 原始連結 · Gemma Terms of Use · 取得於 2026-10-07
    • 估算 · 原始連結 · Gemma Terms of Use · 取得於 2026-10-07 · 假設:以官方 GGUF 權重檔 8.07 GB + 2 GB(執行環境與約 8K 上下文)估算,並假設 macOS 約 70% 統一記憶體可給 GPU 使用;更長上下文需要更多記憶體。視覺投影檔約 0.85 GB 未計入。
    • 官方資料 · 原始連結 · Gemma Terms of Use · 取得於 2026-10-07

    查看模型頁

  63. Qwen2 7B Instruct(GGUF Q4_K_M,官方量化) · GGUF Q4_K_M

    候選情境測試尚未完成

    符合:聊天

    為什麼列入:原廠發布 Qwen2 7B Instruct 的 Q4_K_M GGUF 指令/對話模型;列為本機對話候選,本站尚未實測表現。

    展開技術取捨與來源

    技術與取捨:Q4_K_M 量化相對全精度權重可能損失品質;本站尚未實測差異。

    量化:GGUF Q4_K_M (官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-08)

    最少記憶體:16 GB (估算 · 原始連結 · Apache-2.0 · 取得於 2026-10-08 · 假設:以官方 GGUF 權重檔 4.68 GB + 2 GB(執行環境與約 8K 上下文)估算,並假設 macOS 約 70% 統一記憶體可給 GPU 使用;更長上下文需要更多記憶體。)

    • 官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-08
    • 估算 · 原始連結 · Apache-2.0 · 取得於 2026-10-08 · 假設:以官方 GGUF 權重檔 4.68 GB + 2 GB(執行環境與約 8K 上下文)估算,並假設 macOS 約 70% 統一記憶體可給 GPU 使用;更長上下文需要更多記憶體。
    • 官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-08
    • 官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-08

    查看模型頁

  64. Qwen2.5 7B Instruct(GGUF Q4_K_M,官方量化) · GGUF Q4_K_M(2 分片)

    候選情境測試尚未完成

    符合:聊天

    為什麼列入:原廠發布 Qwen2.5 7B Instruct 的 Q4_K_M GGUF 指令/對話模型;列為本機對話候選,本站尚未實測表現。

    展開技術取捨與來源

    技術與取捨:Q4_K_M 量化相對全精度權重可能損失品質;本站尚未實測差異。 官方檔案分成 2 片,須下載同一組所有分片才能載入;本站以各片總大小估算,不可只下載首片。

    量化:GGUF Q4_K_M(2 分片) (官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-08)

    最少記憶體:16 GB (估算 · 原始連結 · Apache-2.0 · 取得於 2026-10-08 · 假設:以官方 GGUF 2 片合計 4.68 GB + 2 GB(執行環境與約 8K 上下文)估算,並假設 macOS 約 70% 統一記憶體可給 GPU 使用;更長上下文需要更多記憶體。)

    • 官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-08
    • 估算 · 原始連結 · Apache-2.0 · 取得於 2026-10-08 · 假設:以官方 GGUF 2 片合計 4.68 GB + 2 GB(執行環境與約 8K 上下文)估算,並假設 macOS 約 70% 統一記憶體可給 GPU 使用;更長上下文需要更多記憶體。
    • 官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-08
    • 官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-08
    • 官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-08
    • 官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-08

    查看模型頁

  65. Qwen2.5 14B Instruct(GGUF Q4_K_M,官方量化) · GGUF Q4_K_M(3 分片)

    候選情境測試尚未完成

    符合:聊天

    為什麼列入:原廠發布 Qwen2.5 14B Instruct 的 Q4_K_M GGUF 指令/對話模型;列為本機對話候選,本站尚未實測表現。

    展開技術取捨與來源

    技術與取捨:Q4_K_M 量化相對全精度權重可能損失品質;本站尚未實測差異。 官方檔案分成 3 片,須下載同一組所有分片才能載入;本站以各片總大小估算,不可只下載首片。

    量化:GGUF Q4_K_M(3 分片) (官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-08)

    最少記憶體:16 GB (估算 · 原始連結 · Apache-2.0 · 取得於 2026-10-08 · 假設:以官方 GGUF 3 片合計 8.99 GB + 2 GB(執行環境與約 8K 上下文)估算,並假設 macOS 約 70% 統一記憶體可給 GPU 使用;更長上下文需要更多記憶體。)

    • 官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-08
    • 估算 · 原始連結 · Apache-2.0 · 取得於 2026-10-08 · 假設:以官方 GGUF 3 片合計 8.99 GB + 2 GB(執行環境與約 8K 上下文)估算,並假設 macOS 約 70% 統一記憶體可給 GPU 使用;更長上下文需要更多記憶體。
    • 官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-08
    • 官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-08
    • 官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-08
    • 官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-08
    • 官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-08

    查看模型頁

  66. LFM2.5 8B-A1B(GGUF Q4_K_M,官方量化) · GGUF Q4_K_M

    候選情境測試尚未完成

    符合:聊天

    為什麼列入:原廠發布 LFM2.5 8B-A1B 的 Q4_K_M GGUF 指令/對話模型;列為本機對話候選,本站尚未實測表現。

    展開技術取捨與來源

    技術與取捨:Q4_K_M 量化相對全精度權重可能損失品質;本站尚未實測差異。 LFM Open License v1.0 並非 Apache/MIT;依官方條款第 5 條,年營收有 1,000 萬美元門檻;超過 1,000 萬美元的法律實體,其商業用途不受此授權,接近門檻者應閱讀原文或另取授權。

    量化:GGUF Q4_K_M (官方資料 · 原始連結 · LFM Open License v1.0 · 取得於 2026-10-08)

    最少記憶體:16 GB (估算 · 原始連結 · LFM Open License v1.0 · 取得於 2026-10-08 · 假設:以官方 GGUF 權重檔 5.16 GB + 2 GB(執行環境與約 8K 上下文)估算,並假設 macOS 約 70% 統一記憶體可給 GPU 使用;更長上下文需要更多記憶體。)

    • 官方資料 · 原始連結 · LFM Open License v1.0 · 取得於 2026-10-08
    • 估算 · 原始連結 · LFM Open License v1.0 · 取得於 2026-10-08 · 假設:以官方 GGUF 權重檔 5.16 GB + 2 GB(執行環境與約 8K 上下文)估算,並假設 macOS 約 70% 統一記憶體可給 GPU 使用;更長上下文需要更多記憶體。
    • 官方資料 · 原始連結 · LFM Open License v1.0 · 取得於 2026-10-08
    • 官方資料 · 原始連結 · LFM Open License v1.0 · 取得於 2026-10-08
    • 官方資料 · 原始連結 · LFM Open License v1.0 · 取得於 2026-10-08

    查看模型頁

  67. Qwen1.5 7B Chat(GGUF Q4_K_M,官方量化) · GGUF Q4_K_M

    候選情境測試尚未完成

    符合:聊天

    為什麼列入:原廠發布 Qwen1.5 7B Chat 對話模型的官方 Q4_K_M GGUF;列為本機對話候選,本站尚未實測表現。

    展開技術取捨與來源

    技術與取捨:Q4_K_M 量化相對全精度權重可能損失品質;本站尚未實測差異。 Tongyi Qianwen 為自訂授權,非 Apache/MIT;商業產品或服務超過 1 億月活躍使用者(MAU)需向阿里雲取得明示授權,且不得以模型或其輸出改進其他大型語言模型;使用前應閱讀原文。 這是較早的 1.5 代版本,若硬體允許可一併比較新版。

    量化:GGUF Q4_K_M (官方資料 · 原始連結 · Tongyi Qianwen License Agreement · 取得於 2026-10-08)

    最少記憶體:16 GB (估算 · 原始連結 · Tongyi Qianwen License Agreement · 取得於 2026-10-08 · 假設:以官方 GGUF 權重檔 4.77 GB + 2 GB(執行環境與約 8K 上下文)估算,並假設 macOS 約 70% 統一記憶體可給 GPU 使用;更長上下文需要更多記憶體。)

    • 官方資料 · 原始連結 · Tongyi Qianwen License Agreement · 取得於 2026-10-08
    • 估算 · 原始連結 · Tongyi Qianwen License Agreement · 取得於 2026-10-08 · 假設:以官方 GGUF 權重檔 4.77 GB + 2 GB(執行環境與約 8K 上下文)估算,並假設 macOS 約 70% 統一記憶體可給 GPU 使用;更長上下文需要更多記憶體。
    • 官方資料 · 原始連結 · Tongyi Qianwen License Agreement · 取得於 2026-10-08
    • 官方資料 · 原始連結 · Tongyi Qianwen License Agreement · 取得於 2026-10-08
    • 官方資料 · 原始連結 · Tongyi Qianwen License Agreement · 取得於 2026-10-08

    查看模型頁

  68. LFM2 8B-A1B(GGUF Q4_K_M,官方量化) · GGUF Q4_K_M

    候選情境測試尚未完成

    符合:聊天

    為什麼列入:原廠發布 LFM2 8B-A1B 對話模型的官方 Q4_K_M GGUF;列為本機對話候選,本站尚未實測表現。

    展開技術取捨與來源

    技術與取捨:Q4_K_M 量化相對全精度權重可能損失品質;本站尚未實測差異。 LFM Open License v1.0 並非 Apache/MIT;依官方條款第 5 條,年營收有 1,000 萬美元門檻;超過 1,000 萬美元的法律實體,其商業用途不受此授權,接近門檻者應閱讀原文或另取授權。

    量化:GGUF Q4_K_M (官方資料 · 原始連結 · LFM Open License v1.0 · 取得於 2026-10-08)

    最少記憶體:16 GB (估算 · 原始連結 · LFM Open License v1.0 · 取得於 2026-10-08 · 假設:以官方 GGUF 權重檔 5.04 GB + 2 GB(執行環境與約 8K 上下文)估算,並假設 macOS 約 70% 統一記憶體可給 GPU 使用;更長上下文需要更多記憶體。)

    • 官方資料 · 原始連結 · LFM Open License v1.0 · 取得於 2026-10-08
    • 估算 · 原始連結 · LFM Open License v1.0 · 取得於 2026-10-08 · 假設:以官方 GGUF 權重檔 5.04 GB + 2 GB(執行環境與約 8K 上下文)估算,並假設 macOS 約 70% 統一記憶體可給 GPU 使用;更長上下文需要更多記憶體。
    • 官方資料 · 原始連結 · LFM Open License v1.0 · 取得於 2026-10-08
    • 官方資料 · 原始連結 · LFM Open License v1.0 · 取得於 2026-10-08
    • 官方資料 · 原始連結 · LFM Open License v1.0 · 取得於 2026-10-08

    查看模型頁

  69. Qwen1.5 14B Chat(GGUF Q4_K_M,官方量化) · GGUF Q4_K_M

    候選情境測試尚未完成

    符合:聊天

    為什麼列入:原廠發布 Qwen1.5 14B Chat 對話模型的官方 Q4_K_M GGUF;列為本機對話候選,本站尚未實測表現。

    展開技術取捨與來源

    技術與取捨:Q4_K_M 量化相對全精度權重可能損失品質;本站尚未實測差異。 Tongyi Qianwen 為自訂授權,非 Apache/MIT;商業產品或服務超過 1 億月活躍使用者(MAU)需向阿里雲取得明示授權,且不得以模型或其輸出改進其他大型語言模型;使用前應閱讀原文。 這是較早的 1.5 代版本,若硬體允許可一併比較新版。 權重與估算餘裕幾乎貼齊 16 GB 的 70% 上限,本站保守建議 24 GB。

    量化:GGUF Q4_K_M (官方資料 · 原始連結 · Tongyi Qianwen License Agreement · 取得於 2026-10-08)

    最少記憶體:24 GB (估算 · 原始連結 · Tongyi Qianwen License Agreement · 取得於 2026-10-08 · 假設:以官方 GGUF 權重檔 9.19 GB + 2 GB(執行環境與約 8K 上下文)估算,並假設 macOS 約 70% 統一記憶體可給 GPU 使用;更長上下文需要更多記憶體。 原公式下 16 GB 級距僅餘約 0.01 GB 容差,故保守提升到 24 GB。)

    • 官方資料 · 原始連結 · Tongyi Qianwen License Agreement · 取得於 2026-10-08
    • 估算 · 原始連結 · Tongyi Qianwen License Agreement · 取得於 2026-10-08 · 假設:以官方 GGUF 權重檔 9.19 GB + 2 GB(執行環境與約 8K 上下文)估算,並假設 macOS 約 70% 統一記憶體可給 GPU 使用;更長上下文需要更多記憶體。 原公式下 16 GB 級距僅餘約 0.01 GB 容差,故保守提升到 24 GB。
    • 官方資料 · 原始連結 · Tongyi Qianwen License Agreement · 取得於 2026-10-08
    • 官方資料 · 原始連結 · Tongyi Qianwen License Agreement · 取得於 2026-10-08
    • 官方資料 · 原始連結 · Tongyi Qianwen License Agreement · 取得於 2026-10-08

    查看模型頁

  70. gpt-oss-20b(官方 MXFP4 原生量化) · MXFP4(原廠原生量化)

    候選情境測試尚未完成

    符合:聊天

    為什麼列入:OpenAI 官方模型卡說明 gpt-oss-20b 為混合專家(MoE)模型,總參數 21B、每個 token 啟用 3.6B,原生脈絡長度 128K token,採 Apache-2.0 授權;模型卡明確列出「代理能力:原生支援 function calling、網頁瀏覽、Python 程式碼執行與結構化輸出」,定位為程式與代理任務使用。

    展開技術取捨與來源

    技術與取捨:官方權重本身即以 MXFP4(4-bit 等級)原生量化發布,並非另外轉檔,但相較理論上的更高精度仍可能有品質犧牲,本站尚未實測;MoE 架構下記憶體需求取決於「總參數」而非「啟用參數」,因此即使只啟用 3.6B 參數,仍需把 21B 總參數的權重全部載入。

    量化:MXFP4(原廠原生量化) (官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-09-30)

    最少記憶體:24 GB (估算 · 原始連結 · Apache-2.0 · 取得於 2026-09-30 · 假設:以權重檔 13.76 GB + 2 GB(執行環境與約 8K 上下文)估算,並假設 macOS 預設約 70% 統一記憶體可給 GPU 使用;更長上下文需要更多記憶體。)

    • 官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-09-30
    • 估算 · 原始連結 · Apache-2.0 · 取得於 2026-09-30 · 假設:以權重檔 13.76 GB + 2 GB(執行環境與約 8K 上下文)估算,並假設 macOS 預設約 70% 統一記憶體可給 GPU 使用;更長上下文需要更多記憶體。

    查看模型頁

  71. Magistral Small 2507(GGUF Q4_K_M,官方量化) · GGUF Q4_K_M

    候選情境測試尚未完成

    符合:聊天

    為什麼列入:Mistral 官方發布 Magistral Small 2507 的 GGUF 量化檔;列為本機推理與對話候選,本站尚未實測推理品質。

    展開技術取捨與來源

    技術與取捨:此量化版本相對全精度權重可能損失品質;本站尚未實測差異。

    量化:GGUF Q4_K_M (官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07)

    最少記憶體:24 GB (估算 · 原始連結 · Apache-2.0 · 取得於 2026-10-07 · 假設:以官方 GGUF 權重檔 14.33 GB + 2 GB(執行環境與約 8K 上下文)估算,並假設 macOS 約 70% 統一記憶體可給 GPU 使用;更長上下文需要更多記憶體。)

    • 官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07
    • 估算 · 原始連結 · Apache-2.0 · 取得於 2026-10-07 · 假設:以官方 GGUF 權重檔 14.33 GB + 2 GB(執行環境與約 8K 上下文)估算,並假設 macOS 約 70% 統一記憶體可給 GPU 使用;更長上下文需要更多記憶體。
    • 官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07

    查看模型頁

  72. Magistral Small 2509(GGUF Q4_K_M,官方量化) · GGUF Q4_K_M

    候選情境測試尚未完成

    符合:聊天

    為什麼列入:Mistral 官方發布 Magistral Small 2509 的 GGUF 量化檔;列為本機推理與對話候選,本站尚未實測推理品質。

    展開技術取捨與來源

    技術與取捨:此量化版本相對全精度權重可能損失品質;本站尚未實測差異。

    量化:GGUF Q4_K_M (官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07)

    最少記憶體:24 GB (估算 · 原始連結 · Apache-2.0 · 取得於 2026-10-07 · 假設:以官方 GGUF 權重檔 14.33 GB + 2 GB(執行環境與約 8K 上下文)估算,並假設 macOS 約 70% 統一記憶體可給 GPU 使用;更長上下文需要更多記憶體。)

    • 官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07
    • 估算 · 原始連結 · Apache-2.0 · 取得於 2026-10-07 · 假設:以官方 GGUF 權重檔 14.33 GB + 2 GB(執行環境與約 8K 上下文)估算,並假設 macOS 約 70% 統一記憶體可給 GPU 使用;更長上下文需要更多記憶體。
    • 官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07

    查看模型頁

  73. LFM2 24B-A2B(GGUF Q4_K_M,官方量化) · GGUF Q4_K_M

    候選情境測試尚未完成

    符合:聊天

    為什麼列入:原廠發布 LFM2 24B-A2B 的 Q4_K_M GGUF 指令/對話模型;列為本機對話候選,本站尚未實測表現。

    展開技術取捨與來源

    技術與取捨:Q4_K_M 量化相對全精度權重可能損失品質;本站尚未實測差異。 LFM Open License v1.0 並非 Apache/MIT;依官方條款第 5 條,年營收有 1,000 萬美元門檻;超過 1,000 萬美元的法律實體,其商業用途不受此授權,接近門檻者應閱讀原文或另取授權。

    量化:GGUF Q4_K_M (官方資料 · 原始連結 · LFM Open License v1.0 · 取得於 2026-10-08)

    最少記憶體:24 GB (估算 · 原始連結 · LFM Open License v1.0 · 取得於 2026-10-08 · 假設:以官方 GGUF 權重檔 14.42 GB + 2 GB(執行環境與約 8K 上下文)估算,並假設 macOS 約 70% 統一記憶體可給 GPU 使用;更長上下文需要更多記憶體。)

    • 官方資料 · 原始連結 · LFM Open License v1.0 · 取得於 2026-10-08
    • 估算 · 原始連結 · LFM Open License v1.0 · 取得於 2026-10-08 · 假設:以官方 GGUF 權重檔 14.42 GB + 2 GB(執行環境與約 8K 上下文)估算,並假設 macOS 約 70% 統一記憶體可給 GPU 使用;更長上下文需要更多記憶體。
    • 官方資料 · 原始連結 · LFM Open License v1.0 · 取得於 2026-10-08
    • 官方資料 · 原始連結 · LFM Open License v1.0 · 取得於 2026-10-08
    • 官方資料 · 原始連結 · LFM Open License v1.0 · 取得於 2026-10-08

    查看模型頁

  74. Qwen3.8-27B(GGUF Q4_K_M,Unsloth Dynamic) · GGUF Q4_K_M(Unsloth Dynamic v3)

    候選情境測試尚未完成

    符合:聊天

    為什麼列入:原廠模型卡說明 Qwen3.8-27B 為 27B 參數的視覺語言模型,原生脈絡長度 262,144 token、可延伸至 1,000,000 token,採 Apache-2.0 授權;官方模型卡說明其具備「更強的自主規劃與環境回饋處理能力,能更可靠地完成端到端任務」,並支援一般性的程式與專業任務。

    展開技術取捨與來源

    技術與取捨:此為社群(unsloth Dynamic v3)量化版本,非原廠發布的 4-bit 版本,本站尚未實測與官方權重的品質差異;模型定位偏通用視覺語言助理,程式能力為附帶能力而非主打用途。

    量化:GGUF Q4_K_M(Unsloth Dynamic v3) (估算 · 原始連結 · Apache-2.0 · 取得於 2026-09-30 · 假設:社群轉檔(unsloth),非原廠發布;檔案大小取自該轉檔頁。)

    最少記憶體:32 GB (估算 · 原始連結 · Apache-2.0 · 取得於 2026-09-30 · 假設:以權重檔 16.46 GB + 2 GB(執行環境與約 8K 上下文)估算,並假設 macOS 預設約 70% 統一記憶體可給 GPU 使用;更長上下文需要更多記憶體。)

    • 估算 · 原始連結 · Apache-2.0 · 取得於 2026-09-30 · 假設:社群轉檔(unsloth),非原廠發布;檔案大小取自該轉檔頁。
    • 估算 · 原始連結 · Apache-2.0 · 取得於 2026-09-30 · 假設:以權重檔 16.46 GB + 2 GB(執行環境與約 8K 上下文)估算,並假設 macOS 預設約 70% 統一記憶體可給 GPU 使用;更長上下文需要更多記憶體。
    • 官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-09-30

    查看模型頁

  75. Gemma 4 31B(GGUF Q4_0,官方 QAT 量化) · GGUF Q4_0(QAT,官方量化)

    候選情境測試尚未完成

    符合:聊天

    為什麼列入:原廠模型卡說明 Gemma 4 31B 為 30.7B 密集參數模型,脈絡長度 256K token,採 Apache-2.0 授權;家族模型卡明確列出「強化的程式與代理能力」,31B 模型卡並特別提及在「程式碼生成、補全與修正」上的強項。

    展開技術取捨與來源

    技術與取捨:官方 QAT Q4_0 版本相較 BF16 全精度有量化損失,本站尚未實測品質差異。視覺輸入需另下載約 1.20 GB mmproj 檔;授權為 Apache-2.0 但附加 Google 的 Prohibited Use Policy。

    量化:GGUF Q4_0(QAT,官方量化) (官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-09-30)

    最少記憶體:32 GB (估算 · 原始連結 · Apache-2.0 · 取得於 2026-09-30 · 假設:以權重檔 17.65 GB + 2 GB(執行環境與約 8K 上下文)估算,並假設 macOS 預設約 70% 統一記憶體可給 GPU 使用;更長上下文需要更多記憶體。)

    • 官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-09-30
    • 估算 · 原始連結 · Apache-2.0 · 取得於 2026-09-30 · 假設:以權重檔 17.65 GB + 2 GB(執行環境與約 8K 上下文)估算,並假設 macOS 預設約 70% 統一記憶體可給 GPU 使用;更長上下文需要更多記憶體。
    • 官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-09-30

    查看模型頁

  76. Qwen3-30B-A3B(GGUF Q4_K_M,官方量化) · GGUF Q4_K_M

    候選情境測試尚未完成

    符合:聊天

    為什麼列入:Qwen 原廠 Qwen3 30B-A3B 為混合專家指令模型,家族模型卡介紹程式及工具使用,並提供官方 Q4_K_M GGUF。

    展開技術取捨與來源

    技術與取捨:雖然每次只啟用部分專家,仍須容納完整量化權重;長脈絡及多工會增加記憶體需求,本站未實測。

    量化:GGUF Q4_K_M (官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07)

    最少記憶體:32 GB (估算 · 原始連結 · Apache-2.0 · 取得於 2026-10-07 · 假設:以權重檔 18.56 GB + 2 GB(執行環境與約 8K 上下文)估算,假設 macOS 預設約 70% 統一記憶體可給 GPU 使用;更長上下文需要更多記憶體。)

    • 官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07
    • 估算 · 原始連結 · Apache-2.0 · 取得於 2026-10-07 · 假設:以權重檔 18.56 GB + 2 GB(執行環境與約 8K 上下文)估算,假設 macOS 預設約 70% 統一記憶體可給 GPU 使用;更長上下文需要更多記憶體。
    • 官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07

    查看模型頁

  77. Qwen3-VL-30B-A3B-Instruct(GGUF Q4_K_M,官方量化) · GGUF Q4_K_M

    候選情境測試尚未完成

    符合:聊天

    為什麼列入:Qwen 原廠的 Qwen3-VL-30B-A3B-Instruct 是視覺語言指令模型,官方 GGUF 提供 Q4_K_M;本站先列為文字對話候選,影像能力需另備投影檔。

    展開技術取捨與來源

    技術與取捨:影像輸入需額外 mmproj;本級距估算已計入該檔,但實際影像解析度、脈絡與執行軟體仍會改變記憶體需求。本站未實測視覺或文字品質。

    量化:GGUF Q4_K_M (官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07)

    最少記憶體:32 GB (估算 · 原始連結 · Apache-2.0 · 取得於 2026-10-07 · 假設:以權重檔 18.56 GB + 視覺投影檔 0.71 GB + 2 GB(執行環境與約 8K 上下文)估算,假設 macOS 預設約 70% 統一記憶體可給 GPU 使用;影像解析度或更長上下文需要更多記憶體。)

    • 官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07
    • 估算 · 原始連結 · Apache-2.0 · 取得於 2026-10-07 · 假設:以權重檔 18.56 GB + 視覺投影檔 0.71 GB + 2 GB(執行環境與約 8K 上下文)估算,假設 macOS 預設約 70% 統一記憶體可給 GPU 使用;影像解析度或更長上下文需要更多記憶體。
    • 官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07

    查看模型頁

  78. QwQ-32B(GGUF Q4_K_M,官方量化) · GGUF Q4_K_M

    候選情境測試尚未完成

    符合:聊天

    為什麼列入:Qwen 原廠發布的 QwQ-32B 推理指令模型,官方 GGUF 提供 Q4_K_M 權重,供本地一般對話與推理用途。

    展開技術取捨與來源

    技術與取捨:推理過程可能較慢且產生較長輸出;32GB 級距接近估算界線,本站未實測長脈絡與量化品質。

    量化:GGUF Q4_K_M (官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07)

    最少記憶體:32 GB (估算 · 原始連結 · Apache-2.0 · 取得於 2026-10-07 · 假設:以權重檔 19.85 GB + 2 GB(執行環境與約 8K 上下文)估算,假設 macOS 預設約 70% 統一記憶體可給 GPU 使用;更長上下文需要更多記憶體。)

    • 官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07
    • 估算 · 原始連結 · Apache-2.0 · 取得於 2026-10-07 · 假設:以權重檔 19.85 GB + 2 GB(執行環境與約 8K 上下文)估算,假設 macOS 預設約 70% 統一記憶體可給 GPU 使用;更長上下文需要更多記憶體。
    • 官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07

    查看模型頁

  79. Qwen3-VL-30B-A3B-Thinking(GGUF Q4_K_M,官方量化) · GGUF Q4_K_M

    候選情境測試尚未完成

    符合:聊天

    為什麼列入:Qwen 原廠 Qwen3-VL-30B-A3B-Thinking 是視覺語言推理指令模型;官方 GGUF 提供 Q4_K_M 權重,本站將其列為對話候選。

    展開技術取捨與來源

    技術與取捨:影像能力須搭配 mmproj;記憶體估算已計入 Q8_0 投影檔,但推理軌跡、影像解析度及長脈絡可能增加實際耗用。本站未實測品質。

    量化:GGUF Q4_K_M (官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07)

    最少記憶體:32 GB (估算 · 原始連結 · Apache-2.0 · 取得於 2026-10-07 · 假設:以權重檔 18.557 GB + 視覺投影檔 0.712 GB + 2 GB(執行環境與約 8K 上下文)估算,假設 macOS 預設約 70% 統一記憶體可給 GPU 使用;影像解析度或更長上下文需要更多記憶體。)

    • 官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07
    • 估算 · 原始連結 · Apache-2.0 · 取得於 2026-10-07 · 假設:以權重檔 18.557 GB + 視覺投影檔 0.712 GB + 2 GB(執行環境與約 8K 上下文)估算,假設 macOS 預設約 70% 統一記憶體可給 GPU 使用;影像解析度或更長上下文需要更多記憶體。
    • 官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07

    查看模型頁

  80. IBM Granite 4.2 30B(GGUF Q4_K_M,官方量化) · GGUF Q4_K_M

    候選情境測試尚未完成

    符合:聊天

    為什麼列入:IBM 原廠 granite-4.2-30b 為指令模型,模型卡列出程式與工具調用用途;官方 GGUF 提供 Q4_K_M。代理標籤不代表本站已測試代理任務。

    展開技術取捨與來源

    技術與取捨:Q4_K_M 權重與長脈絡的品質及記憶體消耗尚未由本站在 Mac 上實測;模型卡用途不等於具體場景評測。

    量化:GGUF Q4_K_M (官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07)

    最少記憶體:32 GB (估算 · 原始連結 · Apache-2.0 · 取得於 2026-10-07 · 假設:以權重檔 17.721 GB + 2 GB(執行環境與約 8K 上下文)估算,假設 macOS 預設約 70% 統一記憶體可給 GPU 使用;更長上下文需要更多記憶體。)

    • 官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07
    • 估算 · 原始連結 · Apache-2.0 · 取得於 2026-10-07 · 假設:以權重檔 17.721 GB + 2 GB(執行環境與約 8K 上下文)估算,假設 macOS 預設約 70% 統一記憶體可給 GPU 使用;更長上下文需要更多記憶體。
    • 官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07

    查看模型頁

  81. IBM Granite 4.1 30B(GGUF Q4_K_M,官方量化) · GGUF Q4_K_M

    候選情境測試尚未完成

    符合:聊天

    為什麼列入:IBM 原廠 granite-4.1-30b 為指令模型,模型卡列出程式與工具調用用途;官方 GGUF 提供 Q4_K_M。代理標籤不代表本站已測試代理任務。

    展開技術取捨與來源

    技術與取捨:Q4_K_M 權重與長脈絡的品質及記憶體消耗尚未由本站在 Mac 上實測;模型卡用途不等於具體場景評測。

    量化:GGUF Q4_K_M (官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07)

    最少記憶體:32 GB (估算 · 原始連結 · Apache-2.0 · 取得於 2026-10-07 · 假設:以權重檔 17.490 GB + 2 GB(執行環境與約 8K 上下文)估算,假設 macOS 預設約 70% 統一記憶體可給 GPU 使用;更長上下文需要更多記憶體。)

    • 官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07
    • 估算 · 原始連結 · Apache-2.0 · 取得於 2026-10-07 · 假設:以權重檔 17.490 GB + 2 GB(執行環境與約 8K 上下文)估算,假設 macOS 預設約 70% 統一記憶體可給 GPU 使用;更長上下文需要更多記憶體。
    • 官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07

    查看模型頁

  82. Gemma 4 26B-A4B(GGUF Q4_0,官方 QAT 量化) · GGUF Q4_0(QAT,官方量化)

    候選情境測試尚未完成

    符合:聊天

    為什麼列入:Google 原廠 Gemma 4 26B-A4B 為混合專家指令模型,家族模型卡明列程式能力和原生 function calling;官方提供 QAT Q4_0 GGUF。

    展開技術取捨與來源

    技術與取捨:執行時仍須容納完整權重;影像使用需另載 mmproj,估算已計入。本站未實測品質;Apache-2.0 授權之外另有 Google Prohibited Use Policy。

    量化:GGUF Q4_0(QAT,官方量化) (官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07)

    最少記憶體:32 GB (估算 · 原始連結 · Apache-2.0 · 取得於 2026-10-07 · 假設:以權重檔 14.439 GB + 視覺投影檔 1.195 GB + 2 GB(執行環境與約 8K 上下文)估算,假設 macOS 預設約 70% 統一記憶體可給 GPU 使用;影像解析度或更長上下文需要更多記憶體。)

    • 官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07
    • 估算 · 原始連結 · Apache-2.0 · 取得於 2026-10-07 · 假設:以權重檔 14.439 GB + 視覺投影檔 1.195 GB + 2 GB(執行環境與約 8K 上下文)估算,假設 macOS 預設約 70% 統一記憶體可給 GPU 使用;影像解析度或更長上下文需要更多記憶體。
    • 官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07

    查看模型頁

  83. Granite 4.0 H Small(GGUF Q4_K_M,官方量化) · GGUF Q4_K_M

    候選情境測試尚未完成

    符合:聊天

    為什麼列入:原廠發布 Granite 4.0 H Small 的 GGUF 量化檔;列為本機對話候選,本站尚未實測表現。

    展開技術取捨與來源

    技術與取捨:此量化版本相對全精度權重可能損失品質;本站尚未實測差異。

    量化:GGUF Q4_K_M (官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07)

    最少記憶體:32 GB (估算 · 原始連結 · Apache-2.0 · 取得於 2026-10-07 · 假設:以官方 GGUF 權重檔 19.48 GB + 2 GB(執行環境與約 8K 上下文)估算,並假設 macOS 約 70% 統一記憶體可給 GPU 使用;更長上下文需要更多記憶體。)

    • 官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07
    • 估算 · 原始連結 · Apache-2.0 · 取得於 2026-10-07 · 假設:以官方 GGUF 權重檔 19.48 GB + 2 GB(執行環境與約 8K 上下文)估算,並假設 macOS 約 70% 統一記憶體可給 GPU 使用;更長上下文需要更多記憶體。
    • 官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07

    查看模型頁

  84. OLMo 2 0325 32B Instruct(GGUF Q4_0,官方量化) · GGUF Q4_0

    候選情境測試尚未完成

    符合:聊天

    為什麼列入:原廠發布 OLMo 2 0325 32B Instruct 的 GGUF 量化檔;列為本機對話候選,本站尚未實測表現。

    展開技術取捨與來源

    技術與取捨:此量化版本相對全精度權重可能損失品質;本站尚未實測差異。

    量化:GGUF Q4_0 (官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07)

    最少記憶體:32 GB (估算 · 原始連結 · Apache-2.0 · 取得於 2026-10-07 · 假設:以官方 GGUF 權重檔 18.27 GB + 2 GB(執行環境與約 8K 上下文)估算,並假設 macOS 約 70% 統一記憶體可給 GPU 使用;更長上下文需要更多記憶體。)

    • 官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07
    • 估算 · 原始連結 · Apache-2.0 · 取得於 2026-10-07 · 假設:以官方 GGUF 權重檔 18.27 GB + 2 GB(執行環境與約 8K 上下文)估算,並假設 macOS 約 70% 統一記憶體可給 GPU 使用;更長上下文需要更多記憶體。
    • 官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07
    • 官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07

    查看模型頁

  85. Gemma 3 27B IT(GGUF Q4_0,QAT 官方量化) · GGUF Q4_0

    候選情境測試尚未完成

    符合:聊天

    為什麼列入:原廠發布 Gemma 3 27B IT 的 GGUF 量化檔;列為本機對話候選,本站尚未實測表現。

    展開技術取捨與來源

    技術與取捨:此量化版本相對全精度權重可能損失品質;本站尚未實測差異。 Gemma 採 Google 自訂使用條款,非 Apache/MIT;使用或下載前請閱讀官方條款。 圖片輸入另需約 0.86 GB 的 mmproj 視覺投影檔,本表記憶體估算僅涵蓋純文字;視覺用途需額外記憶體。

    量化:GGUF Q4_0 (官方資料 · 原始連結 · Gemma Terms of Use · 取得於 2026-10-07)

    最少記憶體:32 GB (估算 · 原始連結 · Gemma Terms of Use · 取得於 2026-10-07 · 假設:以官方 GGUF 權重檔 17.23 GB + 2 GB(執行環境與約 8K 上下文)估算,並假設 macOS 約 70% 統一記憶體可給 GPU 使用;更長上下文需要更多記憶體。視覺投影檔約 0.86 GB 未計入。)

    • 官方資料 · 原始連結 · Gemma Terms of Use · 取得於 2026-10-07
    • 估算 · 原始連結 · Gemma Terms of Use · 取得於 2026-10-07 · 假設:以官方 GGUF 權重檔 17.23 GB + 2 GB(執行環境與約 8K 上下文)估算,並假設 macOS 約 70% 統一記憶體可給 GPU 使用;更長上下文需要更多記憶體。視覺投影檔約 0.86 GB 未計入。
    • 官方資料 · 原始連結 · Gemma Terms of Use · 取得於 2026-10-07

    查看模型頁

  86. Qwen2.5 32B Instruct(GGUF Q4_K_M,官方量化) · GGUF Q4_K_M(5 分片)

    候選情境測試尚未完成

    符合:聊天

    為什麼列入:原廠發布 Qwen2.5 32B Instruct 的 Q4_K_M GGUF 指令/對話模型;列為本機對話候選,本站尚未實測表現。

    展開技術取捨與來源

    技術與取捨:Q4_K_M 量化相對全精度權重可能損失品質;本站尚未實測差異。 官方檔案分成 5 片,須下載同一組所有分片才能載入;本站以各片總大小估算,不可只下載首片。

    量化:GGUF Q4_K_M(5 分片) (官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-08)

    最少記憶體:32 GB (估算 · 原始連結 · Apache-2.0 · 取得於 2026-10-08 · 假設:以官方 GGUF 5 片合計 19.85 GB + 2 GB(執行環境與約 8K 上下文)估算,並假設 macOS 約 70% 統一記憶體可給 GPU 使用;更長上下文需要更多記憶體。)

    • 官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-08
    • 估算 · 原始連結 · Apache-2.0 · 取得於 2026-10-08 · 假設:以官方 GGUF 5 片合計 19.85 GB + 2 GB(執行環境與約 8K 上下文)估算,並假設 macOS 約 70% 統一記憶體可給 GPU 使用;更長上下文需要更多記憶體。
    • 官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-08
    • 官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-08
    • 官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-08
    • 官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-08
    • 官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-08
    • 官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-08
    • 官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-08

    查看模型頁

  87. Qwen1.5 32B Chat(GGUF Q4_K_M,官方量化) · GGUF Q4_K_M

    候選情境測試尚未完成

    符合:聊天

    為什麼列入:原廠發布 Qwen1.5 32B Chat 對話模型的官方 Q4_K_M GGUF;列為本機對話候選,本站尚未實測表現。

    展開技術取捨與來源

    技術與取捨:Q4_K_M 量化相對全精度權重可能損失品質;本站尚未實測差異。 Tongyi Qianwen 為自訂授權,非 Apache/MIT;商業產品或服務超過 1 億月活躍使用者(MAU)需向阿里雲取得明示授權,且不得以模型或其輸出改進其他大型語言模型;使用前應閱讀原文。 這是較早的 1.5 代版本,若硬體允許可一併比較新版。

    量化:GGUF Q4_K_M (官方資料 · 原始連結 · Tongyi Qianwen License Agreement · 取得於 2026-10-08)

    最少記憶體:32 GB (估算 · 原始連結 · Tongyi Qianwen License Agreement · 取得於 2026-10-08 · 假設:以官方 GGUF 權重檔 19.70 GB + 2 GB(執行環境與約 8K 上下文)估算,並假設 macOS 約 70% 統一記憶體可給 GPU 使用;更長上下文需要更多記憶體。)

    • 官方資料 · 原始連結 · Tongyi Qianwen License Agreement · 取得於 2026-10-08
    • 估算 · 原始連結 · Tongyi Qianwen License Agreement · 取得於 2026-10-08 · 假設:以官方 GGUF 權重檔 19.70 GB + 2 GB(執行環境與約 8K 上下文)估算,並假設 macOS 約 70% 統一記憶體可給 GPU 使用;更長上下文需要更多記憶體。
    • 官方資料 · 原始連結 · Tongyi Qianwen License Agreement · 取得於 2026-10-08
    • 官方資料 · 原始連結 · Tongyi Qianwen License Agreement · 取得於 2026-10-08
    • 官方資料 · 原始連結 · Tongyi Qianwen License Agreement · 取得於 2026-10-08

    查看模型頁

  88. Qwen3-32B(GGUF Q6_K,官方量化) · GGUF Q6_K(官方量化)

    候選情境測試尚未完成

    符合:聊天

    為什麼列入:原廠模型卡說明本模型共 32.8B 密集參數,原生脈絡長度 32,768 token、以 YaRN 可延伸至 131,072 token,採 Apache-2.0 授權;定位為通用指令模型,可在思考/非思考模式間切換。此處選用 Q6_K 而非 4-bit;相應地,檔案較大、記憶體門檻較高。

    展開技術取捨與來源

    技術與取捨:選用 Q6_K 而非 4-bit 量化,檔案較大、記憶體門檻較高;本站尚未實測與 BF16 原始權重或 4-bit 量化的品質差異。若開啟 YaRN 延伸脈絡,需要比本估算更多記憶體。

    量化:GGUF Q6_K(官方量化) (官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-09-30)

    最少記憶體:48 GB (估算 · 原始連結 · Apache-2.0 · 取得於 2026-09-30 · 假設:以權重檔 26.88 GB + 2 GB(執行環境與約 8K 上下文)估算,並假設 macOS 預設約 70% 統一記憶體可給 GPU 使用;更長上下文需要更多記憶體。)

    • 官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-09-30
    • 估算 · 原始連結 · Apache-2.0 · 取得於 2026-09-30 · 假設:以權重檔 26.88 GB + 2 GB(執行環境與約 8K 上下文)估算,並假設 macOS 預設約 70% 統一記憶體可給 GPU 使用;更長上下文需要更多記憶體。
    • 官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-09-30

    查看模型頁

  89. Qwen3-VL-32B-Instruct(GGUF Q4_K_M,官方量化) · GGUF Q4_K_M

    候選情境測試尚未完成

    符合:聊天

    為什麼列入:Qwen 原廠的 Qwen3-VL-32B-Instruct 是視覺語言指令模型,官方 GGUF 提供 Q4_K_M;本站先列為文字對話候選,影像能力需另備投影檔。

    展開技術取捨與來源

    技術與取捨:影像輸入需額外 mmproj;本級距估算已計入該檔,但實際影像解析度、脈絡與執行軟體仍會改變記憶體需求。本站未實測視覺或文字品質。

    量化:GGUF Q4_K_M (官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07)

    最少記憶體:48 GB (估算 · 原始連結 · Apache-2.0 · 取得於 2026-10-07 · 假設:以權重檔 19.76 GB + 視覺投影檔 0.77 GB + 2 GB(執行環境與約 8K 上下文)估算,假設 macOS 預設約 70% 統一記憶體可給 GPU 使用;影像解析度或更長上下文需要更多記憶體。)

    • 官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07
    • 估算 · 原始連結 · Apache-2.0 · 取得於 2026-10-07 · 假設:以權重檔 19.76 GB + 視覺投影檔 0.77 GB + 2 GB(執行環境與約 8K 上下文)估算,假設 macOS 預設約 70% 統一記憶體可給 GPU 使用;影像解析度或更長上下文需要更多記憶體。
    • 官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07

    查看模型頁

  90. Qwen3-VL-32B-Thinking(GGUF Q4_K_M,官方量化) · GGUF Q4_K_M

    候選情境測試尚未完成

    符合:聊天

    為什麼列入:Qwen 原廠 Qwen3-VL-32B-Thinking 是視覺語言推理指令模型;官方 GGUF 提供 Q4_K_M 權重,本站將其列為對話候選。

    展開技術取捨與來源

    技術與取捨:影像能力須搭配 mmproj;記憶體估算已計入 Q8_0 投影檔,但推理軌跡、影像解析度及長脈絡可能增加實際耗用。本站未實測品質。

    量化:GGUF Q4_K_M (官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07)

    最少記憶體:48 GB (估算 · 原始連結 · Apache-2.0 · 取得於 2026-10-07 · 假設:以權重檔 19.762 GB + 視覺投影檔 0.772 GB + 2 GB(執行環境與約 8K 上下文)估算,假設 macOS 預設約 70% 統一記憶體可給 GPU 使用;影像解析度或更長上下文需要更多記憶體。)

    • 官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07
    • 估算 · 原始連結 · Apache-2.0 · 取得於 2026-10-07 · 假設:以權重檔 19.762 GB + 視覺投影檔 0.772 GB + 2 GB(執行環境與約 8K 上下文)估算,假設 macOS 預設約 70% 統一記憶體可給 GPU 使用;影像解析度或更長上下文需要更多記憶體。
    • 官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07

    查看模型頁

  91. Magistral Small 2506(GGUF Q8_0,官方量化) · GGUF Q8_0

    候選情境測試尚未完成

    符合:聊天

    為什麼列入:Mistral 官方發布 Magistral Small 2506 的 GGUF 量化檔;列為本機推理與對話候選,本站尚未實測推理品質。

    展開技術取捨與來源

    技術與取捨:Q8_0 檔案較大,下載與記憶體需求高;本站尚未實測品質。

    量化:GGUF Q8_0 (官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07)

    最少記憶體:48 GB (估算 · 原始連結 · Apache-2.0 · 取得於 2026-10-07 · 假設:以官方 GGUF 權重檔 25.05 GB + 2 GB(執行環境與約 8K 上下文)估算,並假設 macOS 約 70% 統一記憶體可給 GPU 使用;更長上下文需要更多記憶體。)

    • 官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07
    • 估算 · 原始連結 · Apache-2.0 · 取得於 2026-10-07 · 假設:以官方 GGUF 權重檔 25.05 GB + 2 GB(執行環境與約 8K 上下文)估算,並假設 macOS 約 70% 統一記憶體可給 GPU 使用;更長上下文需要更多記憶體。
    • 官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-07

    查看模型頁

  92. Qwen2 57B-A14B Instruct(GGUF Q4_K_M,官方量化) · GGUF Q4_K_M

    候選情境測試尚未完成

    符合:聊天

    為什麼列入:原廠發布 Qwen2 57B-A14B Instruct 的 Q4_K_M GGUF 指令/對話模型;列為本機對話候選,本站尚未實測表現。

    展開技術取捨與來源

    技術與取捨:Q4_K_M 量化相對全精度權重可能損失品質;本站尚未實測差異。

    量化:GGUF Q4_K_M (官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-08)

    最少記憶體:64 GB (估算 · 原始連結 · Apache-2.0 · 取得於 2026-10-08 · 假設:以官方 GGUF 權重檔 34.85 GB + 2 GB(執行環境與約 8K 上下文)估算,並假設 macOS 約 70% 統一記憶體可給 GPU 使用;更長上下文需要更多記憶體。)

    • 官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-08
    • 估算 · 原始連結 · Apache-2.0 · 取得於 2026-10-08 · 假設:以官方 GGUF 權重檔 34.85 GB + 2 GB(執行環境與約 8K 上下文)估算,並假設 macOS 約 70% 統一記憶體可給 GPU 使用;更長上下文需要更多記憶體。
    • 官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-08
    • 官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-10-08

    查看模型頁