CS
11. listopadu 2026 · Jakub M.
Dva stejné Macy Studio M5 Ultra: liší se jejich výkon v lokální AI?
Máme dva Macy Studio s čipem M5 Ultra a 256 GB jednotné paměti. Jeden běží od října, druhý je úplně nový. Na obou jsme pustili stejný test se třemi jazykovými modely a rychlost generování se lišila o méně než půl procenta.
Dva počítače stejného modelu a konfigurace by měly být stejně rychlé. Občas se ale mluví o rozdílech mezi jednotlivými kusy, a tak jsme chtěli vědět, jak velké jsou u lokální AI. Pro nás je to praktická otázka: zákazník si pronajímá konfiguraci a měl by dostat stejný výkon, ať mu připadne kterýkoli kus.
Na čem a jak jsme měřili
- Hardware: dva Macy Studio s čipem Apple M5 Ultra (36jádrové CPU, 80jádrová GPU) a 256 GB jednotné paměti. Jeden je v provozu od října, druhý je nový.
- Software: na obou stejný: macOS 27.2.1, Python 3.12, MLX 0.32.4 a mlx-lm 0.32.2.
- Modely: 4bitové MLX verze z organizace mlx-community na Hugging Face: Qwen3 30B-A3B, Llama 3.3 70B Instruct a gpt-oss-120b (MXFP4-Q8).
- Test: vestavěný nástroj
mlx_lm.benchmarks krátkým promptem (512 tokenů, tři opakování) a dlouhým promptem (8 192 tokenů, dvě opakování), pokaždé se 128 generovanými tokeny. Prompt tvoří náhodné tokeny s pevně nastaveným semínkem, takže oba Macy dostaly přesně stejné zadání. Každé měření začalo zahřívacím během a oba Macy jsme měřili ve stejný den.
Výsledky
| Model | Prompt (tokeny) | Zpracování promptu, starší Mac | Zpracování promptu, nový Mac | Generování, starší Mac | Generování, nový Mac | Špička paměti |
|---|---|---|---|---|---|---|
| Qwen3 30B-A3B | 512 | 2 285 | 2 237 | 162,2 | 162,2 | 17,8 GB |
| Qwen3 30B-A3B | 8 192 | 7 646 | 7 602 | 138,1 | 138,0 | 18,7 GB |
| Llama 3.3 70B | 512 | 469 | 467 | 25,2 | 25,3 | 40,3 GB |
| Llama 3.3 70B | 8 192 | 682 | 683 | 23,6 | 23,6 | 43,3 GB |
| gpt-oss-120b | 512 | 1 077 | 1 046 | 121,4 | 121,2 | 63,8 GB |
| gpt-oss-120b | 8 192 | 5 143 | 5 109 | 114,8 | 115,2 | 64,5 GB |
Zpracování promptu a generování v tokenech za sekundu, průměr opakování (tři u 512 tokenů, dvě u 8 192), 128 generovaných tokenů. Starší Mac: v provozu od října, nový Mac: zcela nový. Stejná konfigurace, 4bitové MLX modely, mlx-lm 0.32.2, macOS 27.2.1, měřeno 11. listopadu 2026.
Co z čísel plyne
Rychlost generování, tedy to, jak rychle model píše odpověď, je na obou Macích stejná: u všech tří modelů a obou délek promptu se liší nejvýš o 0,35 %. Zpracování dlouhého promptu se liší nejvýš o 0,7 %. Špičková spotřeba paměti je shodná na desetinu gigabajtu.
U krátkého promptu vyšel nový Mac při jeho zpracování o 2 až 3 % pomalejší. Takový běh ale trvá jen 0,2 až 0,5 sekundy a opakovaná měření na jednom a tomtéž Macu se lišila až o 3 %. Tento rozdíl proto nepovažujeme za skutečný.
Výsledky se shodují i s naším říjnovým měřením: gpt-oss-120b tehdy generoval 120 tokenů za sekundu, teď 121.
Omezení testu
Porovnávali jsme jen dva kusy, takže výsledek nevypovídá o všech Macích Studio M5 Ultra. Prompt z náhodných tokenů a krátké generování dávají čistě výkonová čísla. U skutečných úloh a delších odpovědí se rychlost může lišit. Kvalitu odpovědí test neměří.
Vyzkoušejte si to sami
Kolik paměti potřebuje model, který chcete použít, ukáže naše kalkulačka RAM. Pro vlastní testy si můžete pronajmout Mac Studio M5 Ultra s 256 GB už na jeden den.