CS
26. října 2026 · Jakub M.
Mac Studio M5 Ultra v testu: Qwen3 235B rychlostí 46 tokenů za sekundu a rychlé čtení promptů
Český technologický web Vše Smart otestoval Mac Studio M5 Ultra s 256 GB na pěti jazykových modelech v llama.cpp i MLX. Největší z nich, Qwen3 235B, zabral 133 GB paměti a generoval 46 tokenů za sekundu. Shrnujeme, co výsledky znamenají pro běh velkých modelů.
Zdroj: Mac Studio M5 Ultra v testu: Qwen3 235B a rychlost čtení promptů, Ludvík Eckerman, Vše Smart, 26. října 2026. Všechna čísla níže pocházejí z tohoto článku.
Web Vše Smart zveřejnil podrobný test Macu Studio s čipem M5 Ultra. Jde o stejnou konfiguraci, jakou pronajímáme: 80jádrové GPU a 256 GB sjednocené paměti. Test se zaměřuje na dvě věci, které naše první měření nepokrylo: jak rychle Mac čte dlouhé prompty a model, který se do stroje se 128 GB nevejde.
Jak Vše Smart testoval
- Hardware: Mac Studio M5 Ultra (80jádrové GPU), 256 GB, macOS 27.0.1, bez dalších spuštěných aplikací.
- Software: llama.cpp se všemi vrstvami na GPU a MLX 0.32 s mlx-lm. Příkon a teploty zapisoval nástroj macmon.
- Modely: Qwen3 8B, Qwen3 30B-A3B, Llama 3.3 70B, gpt-oss-120b a Qwen3 235B-A22B, všechny ve 4bitové kvantizaci (gpt-oss v MXFP4). Qwen3 235B jen v MLX.
- Testy: prompty o 512, 4 096 a 16 384 tokenech se 128 generovanými tokeny a navíc deset minut nepřetržité zátěže. Měřeno 24. října 2026.
Výsledky
| Model | Paměť | Generování, llama.cpp | Generování, MLX | Prompt 4k, llama.cpp | Prompt 4k, MLX |
|---|---|---|---|---|---|
| Qwen3 8B | ≈ 5 GB | 149 | 176 | 4 205 | 6 360 |
| Qwen3 30B-A3B | ≈ 18 GB | 172 | 159 | 4 535 | 9 870 |
| Llama 3.3 70B | ≈ 42 GB | 23 | 25 | 509 | 716 |
| gpt-oss-120b | ≈ 63 GB | 142 | 130 | 3 387 | 6 538 |
| Qwen3 235B-A22B | ≈ 133 GB | – | 46 | – | 1 656 |
Tokeny za sekundu s prázdným kontextem: generování 128 tokenů a načtení promptu o 4 096 tokenech. Qwen3 235B byl testován jen v MLX. Zdroj: Vše Smart, měřeno 24. října 2026.
MLX čte prompty až dvakrát rychleji
Než model napíše první slovo odpovědi, musí přečíst celý prompt, třeba dokument, který chcete shrnout. Podle Vše Smart četlo MLX prompty u všech modelů 1,4 až 2,2krát rychleji než llama.cpp, nejvíc u Qwen3 30B-A3B. S gpt-oss-120b v MLX přečte Mac dokument o 4 000 tokenech za výrazně méně než sekundu. Při generování jasný vítěz nebyl, proto se vyplatí vyzkoušet s vlastním modelem obojí.
Dlouhý kontext
| Model | Generování | Načtení promptu |
|---|---|---|
| Qwen3 8B | 121 | 5 240 |
| Qwen3 30B-A3B | 115 | 6 822 |
| Llama 3.3 70B | 22 | 650 |
| gpt-oss-120b | 114 | 6 332 |
| Qwen3 235B-A22B | 33 | 1 289 |
MLX, prompt o 16 384 tokenech a po něm 128 generovaných tokenů, tokeny za sekundu. Zdroj: Vše Smart.
S promptem o 16 384 tokenech se generování v MLX zpomalilo zhruba o 12 až 31 procent podle modelu.
Qwen3 235B potřebuje víc než 128 GB
Největší model zabral asi 133 GB paměti a generoval kolem 46 tokenů za sekundu, rychleji, než většina lidí čte. Na Mac se 128 GB by se nevešel, a právě tady konfigurace s 256 GB dělá rozdíl.
Teploty, příkon a srovnání s M3 Ultra
GPU se nejvýš ohřálo na 87 °C a čip při čtení promptů bral až 215 W. Ventilátor vystoupal na 2 265 ot./min, tedy 62 procent maxima, a během deseti minut nepřetržité zátěže test nezaznamenal žádné přiškrcení výkonu. Ve standardním testu llama.cpp s Llama 2 7B (Q4_0) článek odhaduje, že M5 Ultra čte prompty zhruba 3,5krát a generuje asi dvakrát rychleji než M3 Ultra. Autor upozorňuje, že čísla pro M3 Ultra pocházejí z komunitní tabulky llama.cpp měřené staršími verzemi, takže srovnání je jen orientační.
Jak článek uvádí, test měří rychlost, ne kvalitu odpovědí, používá jen 4bitovou kvantizaci a jednotlivé dotazy a uvádí příkon čipu, ne celého počítače.
Vyzkoušejte si to sami
Mac Studio M5 Ultra s 256 GB si můžete pronajmout už na jeden den a otestovat na něm vlastní modely. Jak se chová pod dlouhou zátěží, ukazuje náš hodinový zátěžový test.