gpt-oss-20b(官方 MXFP4 原生量化)
候選情境測試尚未完成- 量化
- MXFP4(原廠原生量化) (官方資料 · 原始連結 · Apache-2.0 · 取得於 2026-09-30)
- 最少記憶體
- 24 GB (估算 · 原始連結 · Apache-2.0 · 取得於 2026-09-30 · 假設:以權重檔 13.76 GB + 2 GB(執行環境與約 8K 上下文)估算,並假設 macOS 預設約 70% 統一記憶體可給 GPU 使用;更長上下文需要更多記憶體。)
為什麼列入
OpenAI 官方模型卡說明 gpt-oss-20b 為混合專家(MoE)模型,總參數 21B、每個 token 啟用 3.6B,原生脈絡長度 128K token,採 Apache-2.0 授權;模型卡明確列出「代理能力:原生支援 function calling、網頁瀏覽、Python 程式碼執行與結構化輸出」,定位為程式與代理任務使用。
技術與取捨
官方權重本身即以 MXFP4(4-bit 等級)原生量化發布,並非另外轉檔,但相較理論上的更高精度仍可能有品質犧牲,本站尚未實測;MoE 架構下記憶體需求取決於「總參數」而非「啟用參數」,因此即使只啟用 3.6B 參數,仍需把 21B 總參數的權重全部載入。