繁
2026年11月11日 · Jakub M.
兩台相同配置的 Mac Studio M5 Ultra：本機 AI 速度有差別嗎？
我們有兩台搭載 M5 Ultra 與 256 GB 統一記憶體的 Mac Studio：一台從 10 月開始運作，另一台是全新的。我們在兩台機器上用三個語言模型執行了相同的測試，生成速度相差不到 0.5%。
同一型號、同一配置的兩台電腦理應一樣快。不過有時也會聽到不同個體之間存在差異的說法，因此我們想知道在本機 AI 中差異有多大。對我們來說這是實際的問題：客戶租用的是一種配置，無論分到哪一台，都應獲得相同的效能。
測試環境與方法
- 硬體：兩台 Mac Studio，搭載 Apple M5 Ultra（36 核心 CPU、80 核心 GPU）與 256 GB 統一記憶體。一台自 10 月起使用，另一台是新機。
- 軟體：兩台完全相同：macOS 27.2.1、Python 3.12、MLX 0.32.4 與 mlx-lm 0.32.2。
- 模型：來自 Hugging Face 上 mlx-community 組織的 4 位元 MLX 版本：Qwen3 30B-A3B、Llama 3.3 70B Instruct 與 gpt-oss-120b（MXFP4-Q8）。
- 測試：使用內建工具
mlx_lm.benchmark，分別測試短提示詞（512 個 token，執行 3 次）與長提示詞（8,192 個 token，執行 2 次），每次生成 128 個 token。提示詞由固定亂數種子產生的隨機 token 組成，因此兩台 Mac 收到的輸入完全相同。每項測量前都先進行一次暖機執行，兩台 Mac 在同一天完成測量。
結果
| 模型 | 提示詞（token） | 提示詞處理，較舊的 Mac | 提示詞處理，新 Mac | 生成，較舊的 Mac | 生成，新 Mac | 記憶體峰值 |
|---|---|---|---|---|---|---|
| Qwen3 30B-A3B | 512 | 2,285 | 2,237 | 162.2 | 162.2 | 17.8 GB |
| Qwen3 30B-A3B | 8,192 | 7,646 | 7,602 | 138.1 | 138.0 | 18.7 GB |
| Llama 3.3 70B | 512 | 469 | 467 | 25.2 | 25.3 | 40.3 GB |
| Llama 3.3 70B | 8,192 | 682 | 683 | 23.6 | 23.6 | 43.3 GB |
| gpt-oss-120b | 512 | 1,077 | 1,046 | 121.4 | 121.2 | 63.8 GB |
| gpt-oss-120b | 8,192 | 5,143 | 5,109 | 114.8 | 115.2 | 64.5 GB |
提示詞處理和生成速度為每秒 token 數，取多次執行的平均值（512 token 執行 3 次，8,192 token 執行 2 次），生成 128 個 token。較舊的 Mac：10 月起投入使用；新 Mac：全新。配置相同，4 位元 MLX 模型，mlx-lm 0.32.2，macOS 27.2.1，測量於 2026 年 11 月 11 日。
數據說明了什麼
生成速度，也就是模型寫出回答的速度，在兩台 Mac 上相同：三個模型、兩種提示詞長度下的差異最大只有 0.35%。長提示詞的處理速度差異最大為 0.7%。記憶體峰值精確到 0.1 GB 都一致。
短提示詞測試中，新 Mac 的處理速度慢了 2% 到 3%。但這項測試只需 0.2 到 0.5 秒，而且同一台 Mac 重複執行的結果之間也可相差 3%。因此我們不認為這項差異是真實存在的。
結果也與我們 10 月的測量一致：當時 gpt-oss-120b 每秒生成 120 個 token，現在是 121 個。
測試的限制
我們只比較了兩台機器，因此結論不能代表所有 Mac Studio M5 Ultra。隨機 token 組成的提示詞和較短的生成只能反映純粹的速度；在實際任務和更長的回答中，速度可能有所不同。本測試不衡量回答品質。
親自試試
想知道所需模型要占用多少記憶體，可以使用我們的 RAM 計算器。如需自行測試，可以租用 256 GB 的 Mac Studio M5 Ultra，最短一天起租。