16. října 2026 · Jakub Mokříš
Patnáct AI modelů na Macu Studio M5 Ultra: kolik tokenů za sekundu opravdu dostanete
Vše Smart pustil na Mac Studio s M5 Ultra a 256 GB paměti dvaatřicet lokálních jazykových modelů. Vybrali jsme z nich patnáct, od malého Qwen3 4B po Mistral Large se 123 miliardami parametrů, a podívali se, co z čísel plyne pro běžnou práci.
Srovnání rychlosti lokálních modelů většinou končí u dvou tří jmen. Redakce Vše Smart jich na Macu Studio M5 Ultra s 256 GB sjednocené paměti změřila dvaatřicet a každý jedenáctkrát. Z výsledků jsme vybrali patnáct modelů, které dobře pokrývají celé pole: malé i velké, husté i takzvané MoE.
Jak se měřilo
Modely běžely v Ollamě a řídil je jednoduchý skript v Pythonu. Všechny dostaly stejné zadání, delší technický text o konstrukci moderních aut, s limitem 2 000 výstupních tokenů, teplotou 0 a kontextem 8 192 tokenů. První běh každého modelu se zahodil jako zahřívací a z dalších deseti se spočítal průměr. Mezi modely byla půlminutová pauza.
Celý test trval přes čtyři hodiny a modely během něj vygenerovaly přes 700 tisíc tokenů. Měřila se jen rychlost, kvalitu odpovědí test neposuzoval.
Výsledky
| Model | Typ | Rychlost generování |
|---|---|---|
| Qwen3 4B | hustý | |
| Qwen3 30B-A3B | MoE, aktivních 3B | |
| gpt-oss-20b | MoE, aktivních 3,6B | |
| Qwen3.5 35B-A3B | MoE, aktivních 3B | |
| Qwen3.5 9B | hustý | |
| gpt-oss-120b | MoE, aktivních 5,1B | |
| Gemma 4 26B-A4B | MoE, aktivních 4B | |
| Qwen3-Next 80B-A3B | MoE, aktivních 3B | |
| Qwen3.5 122B-A10B | MoE, aktivních 10B | |
| Llama 4 Scout | MoE, aktivních 17B | |
| Mistral Small 3.2 24B | hustý | |
| Qwen3.5 27B | hustý | |
| Gemma 4 31B | hustý | |
| Llama 3.3 70B | hustý | |
| Mistral Large 123B | hustý |
Průměr z deseti běhů v Ollamě, 2 000 výstupních tokenů, kontext 8k. MoE = mixture of experts, „aktivních“ udává počet parametrů zapojených pro každý token. Data: Vše Smart.
Velikost modelu o rychlosti mnoho neřekne
Nejlíp je to vidět na dvojici gpt-oss-120b a Llama 3.3 70B. Model od OpenAI má víc parametrů (117 miliard proti 70), a přesto píše pětkrát rychleji: 115 tokenů za sekundu proti 23. Rozdíl dělá architektura. gpt-oss-120b patří mezi modely typu mixture of experts a pro každé slovo zapojí jen zhruba pět miliard parametrů. Llama 3.3 je hustý model, takže pokaždé počítá se všemi sedmdesáti miliardami.
Podobně vychází i Qwen. Verze 122B-A10B s deseti miliardami aktivních parametrů dává 85 tokenů za sekundu, kdežto hustý Qwen3.5 27B, čtyřikrát menší, jen 48. Kdo vybírá model hlavně podle rychlosti, měl by se dívat na počet aktivních parametrů, ne na celkovou velikost.
Kolik je dost
Na běžný chat stačí kolem 20 tokenů za sekundu, při té rychlosti už text přibývá rychleji, než ho většina lidí stíhá číst. Z patnácti modelů v tabulce pod touhle hranicí zůstal jen Mistral Large se 14 tokeny. I ten se ale hodí na úlohy, u kterých nikdo nesedí a nečeká, třeba na zpracování dokumentů přes noc.
Při programování s asistentem, který píše delší bloky kódu, se rychlost pozná mnohem víc. Tam dávají smysl modely nad 80 tokenů za sekundu, například gpt-oss-120b, Qwen3-Next 80B nebo Qwen3.5 122B.
Sedí to s naším měřením
Několik stejných modelů jsme na našem Macu Studio změřili sami, jen přes MLX místo Ollamy a s trochu jiným postupem. Čísla se liší o jednotky až desítky procent, celkový obraz je ale stejný. gpt-oss-120b nám dal 120 tokenů za sekundu (u Vše Smart 115), gpt-oss-20b 184 (169) a Qwen3.5 27B 55 (48). Gemma 4 31B nám naopak vyšla pomalejší, 31 proti 40, protože jsme použili jinou verzi modelu. Podrobnosti jsou v našem článku o měření.
Vyzkoušejte si to sami
Všech dvaatřicet modelů se do 256 GB paměti vešlo bez potíží a místo ještě zbývalo. Pokud podobný stroj zvažujete koupit, nebo potřebujete výkon jen na pár dní, Mac Studio M5 Ultra s 256 GB si u nás můžete pronajmout. Na den i na týden je teď zdarma.
Zdroj dat: Vše Smart: Mac Studio M5 Ultra v testu, výkon 32 lokálních AI modelů (Ludvík Eckerman, 5. října 2026).