閱讀進度 0%
0%

MLX 實測:Mac mini 對決 DGX Spark,128GB 本地 AI 的 CP 值真相

AI硬體技術解析約 4 分鐘閱讀
2026-11 查證的本地 LLM 實測對照:MLX 為什麼讓 Mac 統一記憶體變護城河、Mac mini M6 與 Studio M5 Max 的真實 tok/s、DGX Spark 一年漲 74% 之後還值不值,以及三個預算檔位的最高 CP 值買法。

給趕時間的你:本地跑 LLM 只看三件事,RAM 上限、記憶體頻寬、再來才是 FLOPS。同樣 128GB,Mac Studio M5 Max 大約 HK$35k,吞吐多數場景贏過 HK$54k 起跳的 NVIDIA DGX Spark;如果你的目標只是 20B 到 32B 模型,一台 HK$7k 的 Mac mini M6 就夠用。

最近我為了「要不要買一台本地 AI 機器」把 2026 年 11 月能找到的實測數據翻了一遍:NVIDIA DGX Spark、Apple M5/M6 全系列、MLX 社群排行榜、Reddit 與 Hacker News 的機主回報。這篇是調研結論,所有數字都標了查證時間與來源,方便你自己驗。

MLX 是什麼:蘋果把統一記憶體變成護城河

MLX 是 Apple 官方開源的陣列運算框架,專為 Apple Silicon 的統一記憶體架構設計。傳統做法裡模型權重要在 CPU 記憶體和 GPU 顯示記憶體之間來回搬,MLX 的做法是 tensor 只存一份,CPU 和 GPU 直接讀同一塊記憶體,零拷貝。生成文字時每輸出一個 token 都要把權重讀一遍,所以誰的記憶體頻寬高,誰的 tok/s 就高,這就是為什麼頻寬比 FLOPS 更值得看。

MLX 統一記憶體零拷貝對比:傳統架構權重來回搬運,MLX 同一塊記憶體直接讀

量化是內建能力,不是外掛。mlx_lm.convert 幾秒內把 Hugging Face 上的 checkpoint 轉成 4-bit,一個 7B 模型縮到原本三分之一左右,8GB 記憶體的筆電都能微調。生態端三件事讓它從玩具變產線:

  1. LM Studio 從 v0.3.4 起內建 MLX 引擎,v0.4.2 加上 continuous batching,在介面裡搜 Hugging Face 就能下載 MLX 模型,還附 OpenAI 相容的本地 server
  2. Ollama 已經把 Mac 上的後端轉向 MLX
  3. Hugging Face 上的 mlx-community 組織放了幾千個現成 4-bit 模型,連 Qwen 官方團隊都特別為 MLX 做了優化

想看實測排行,RapidMLX 的 benchmarks 頁是群眾版本的 llama-bench 榜:58 份提交、11 台 Apple 機器、35 個模型與晶片組合,2026-11-11 剛更新。

2026 年 11 月的 Apple 陣容:M6 mini 很香,但有一個陷阱

Apple 在 2026 年 8 月發表 M6 與 M5 Ultra,9 月 22 日開賣。M5 世代起每一顆 GPU core 都內建 Neural Accelerator,prompt 處理快 3.3 到 4 倍;但生成速度只提升約 15%,因為瓶頸在記憶體頻寬,而頻寬是買機器時就鎖死的。

2026 年 11 月記憶體頻寬對比:Mac Studio M5 Max 614GB/s、Mac mini M5 Pro 307GB/s、DGX Spark 273GB/s、Mac mini M6 170GB/s

機器 美金定價 記憶體上限 頻寬 實測重點
Mac mini M6 $899 32GB ~170GB/s Qwen 9B 約 27 tok/s、GPT-OSS 20B 約 41 tok/s、Qwen 27B 級約 32 tok/s
Mac mini M5 Pro $1,699 64GB 307GB/s 70B 模型 Q4 塞得下
Mac Studio M5 Max $2,499(128GB 加購約 +$2,000) 128GB 614GB/s Qwen 32B Q4 約 40-50 tok/s、GPT-OSS 120B 約 14-19 tok/s、Llama 4 70B 約 25-32 tok/s
Mac Studio M5 Ultra $5,499 最高 512GB ~819GB/s 120B 級旗艦首選

陷阱在第一行:M6 mini 的晶片名字最亮,記憶體卻封頂 32GB。實測影片裡它的長文生成約 32 tok/s,反而輸給同一個機殼的 M5 Pro(約 69 tok/s)。買本地 AI 機器,記憶體上限比晶片名字重要。

DGX Spark 的現實:一年漲 74%,頻寬只有 Mac 的一半

NVIDIA DGX Spark 主打 128GB 統一記憶體與一 petaflop 的 FP4 算力,聽起來正好對上本地 LLM 需求。三個實況:

  1. 價格:128GB 版從 2025 年 10 月上市價 US$3,999 漲到 US$6,950,一年漲 74%,折港幣約 54k;香港水貨市場傳到 6 萬級。64GB 新版反而要 US$4,999
  2. 吞吐:GPT-OSS 120B 在 MXFP4 下約 41 到 59 tok/s(32k context 掉到 40 出頭);Qwen 27B 級 dense Q4 約 11.4 tok/s;Llama 70B Q4 只有 4 到 5 tok/s。同一份 GPT-OSS 20B 測試裡,一張 RTX 4090 跑出約 123 tok/s,是 Spark 的 2.3 倍
  3. 社群風向:NVFP4 加速半年未落地、CUDA 軟體相容性被抱怨、有人 Micro Center 花了 8 千美金還在問「是不是要買第二台才有用」

DGX Spark 一年漲幅:2025 年 10 月 US$3,999 到 2026 年 11 月 US$6,950,上漲 74%

同 128GB 直接對照:誰的 CP 值高

同 128GB 本地 AI 對照:Mac Studio M5 Max 對決 DGX Spark(128GB 本地 AI 縮圖)

Mac Studio M5 Max(128GB) DGX Spark(128GB)
價格 約 HK$35k(2026-11 查證) 官價約 HK$54k,水貨 6 萬級
頻寬 614GB/s 273GB/s
Qwen 32B 級 40-50 tok/s ~11.4 tok/s
GPT-OSS 120B 14-19 tok/s(Q4) 41-59 tok/s(MXFP4 官方棧)
生態 MLX+LM Studio+Ollama CUDA/MXFP4(承諾中)

有趣的翻轉在 GPT-OSS 120B:Spark 靠 NVIDIA 官方 MXFP4 棧在這個模型上反超。這是它唯一的實質賣點,而且依賴 NVIDIA 持續餵優化。其餘大多數場景,Mac 這邊用更低的價錢拿到更高的 tok/s,還有 MLX 的量化與微調工具鏈。

三個預算檔位的建議

三個預算檔位:約 HK$7k Mac mini M6(32GB)、約 HK$13k Mac mini M5 Pro(64GB)、約 HK$35k Mac Studio M5 Max(128GB)

預算 買什麼 能跑什麼
約 HK$7k Mac mini M6(32GB) 20B 到 32B 模型流暢(27 到 41 tok/s),agent 與日常助理夠用
約 HK$13k Mac mini M5 Pro(64GB) 70B Q4 入場
約 HK$35k Mac Studio M5 Max(128GB) 120B 級與雙模型常駐,多數場景勝 Spark,僅 GPT-OSS 120B 落後

最後一個誠實的選項:不買

把硬體折舊攤到 token 上,雲端 API 幾乎永遠贏:Clarifai 上的 gpt-oss 120B 中位數輸出 313 tok/s,GLM 這類旗艦 API 每天用量折算更是零頭。本地機器的價值只在兩個硬需求:資料不能出門,或者要離線。沒有這兩個需求,把 35k 留著訂雲端額度,CP 值高上一個量級。

我自己的結論:這波先不買。等 Spark 的 NVFP4 真的落地、或者記憶體價格回檔,再重算一次這張表。

參考來源

AI硬體技術解析
關於 Calpa

Calpa 擅長使用 TypeScript、React.js 和 Vue.js 建立 Responsive Website。

他積極參與開源社群,曾在 2019 年的香港開源大會上擔任講者,提供工作經驗和見解。此外,他也在GitHub 上公開分享個人部落格程式碼,GitHub 專案已累積超過 300 個 stars 與 60 個 forks。

他熱愛學習新技術,並樂意分享經驗。他相信,唯有不斷學習才能跟上快速演變的技術環境。

熱門文章

最新文章