CS
3. listopadu 2026 · Jakub M.
MacBook Pro M5 Max se 128 GB: kam až notebook dosáhne v lokální AI
Vše Smart pustil na MacBook Pro M5 Max se 128 GB šest otevřených modelů od 8 do 120 miliard parametrů. Všechny se vešly bez úprav systému, gpt-oss-120b generuje 110 tokenů za sekundu a čip bere jen 37–50 W. Dech notebooku dochází u dlouhých kontextů a velkých hustých modelů.
Zdroj: MacBook Pro M5 Max se 128 GB RAM v testu lokálních AI modelů, Ludvík Eckerman, Vše Smart, 2. listopadu 2026. Všechna čísla níže pocházejí z tohoto článku.
Zvládne notebook vážnou práci s lokální AI? Web Vše Smart otestoval nejvýkonnější MacBook Pro s čipem M5 Max (18jádrové CPU, 40jádrové GPU) a 128 GB sjednocené paměti s propustností 614 GB/s. Šest otevřených modelů, dva nástroje pro jejich běh a pohled na spotřebu.
Jak se testovalo
- Systém: macOS 27.2, režim vysokého výkonu, na adaptéru, výchozí limit paměti pro GPU (asi 107 GB).
- Software: llama.cpp (build 11669, Metal) a MLX 0.32.4 s mlx-lm 0.32.2.
- Modely: Llama 3.1 8B, gpt-oss-20b, Qwen3 30B-A3B, Qwen3 32B, Llama 3.3 70B a gpt-oss-120b ve 4bitové kvantizaci (gpt-oss v nativním MXFP4).
- Metodika: kontext od 0 do 32 768 tokenů, vždy tři běhy, příkon čipu měřený přes powermetrics, desetiminutová zátěž s Qwen3 30B-A3B.
Výsledky
| Model | Generování, llama.cpp | Generování, MLX | Generování při kontextu 32k (MLX) | První token při 32k (MLX) | Špička paměti (MLX) | Příkon čipu | Tokeny na watt |
|---|---|---|---|---|---|---|---|
| Llama 3.1 8B | 102 | 115 | 60 | 17 s | 9,5 GB | 49,8 W | 2,02 |
| gpt-oss-20b | 156 | 142 | 105 | 7,5 s | 13,7 GB | 48,5 W | 3,24 |
| Qwen3 30B-A3B | 155 | 152 | 72 | 15 s | 21,1 GB | 41,1 W | 3,69 |
| Qwen3 32B | 26 | 28 | 18 | 72 s | 27,8 GB | 48,3 W | 0,53 |
| Llama 3.3 70B | 12,5 | 13,6 | 10 | 132 s | 51,3 GB | 40,5 W | 0,31 |
| gpt-oss-120b | 110 | 94 | 70 | 13,5 s | 65,5 GB | 37,3 W | 2,92 |
Generování v tokenech za sekundu, 4bitové modely (gpt-oss v MXFP4), s prázdným kontextem, pokud není uvedeno jinak. Příkon čipu při generování v llama.cpp, jen čip (CPU, GPU, Neural Engine). Zdroj: Vše Smart, publikováno 2. listopadu 2026.
Do 128 GB se vejde všechno
Všech šest modelů běželo bez zvyšování limitu paměti. Největší gpt-oss-120b zabral ve špičce 65,5 GB, takže rezerva zůstala velká. Díky architektuře mixture of experts přitom v llama.cpp generuje 110 tokenů za sekundu.
Mixture of experts vyhrává, husté modely se trápí
Nejrychlejší byly modely, které pro každý token zapojí jen část parametrů: Qwen3 30B-A3B a gpt-oss-20b se zhruba 155 tokeny za sekundu. Hustá Llama 3.3 70B zvládla 12,5–13,6 tokenu za sekundu, s kontextem 32 tisíc tokenů klesla zhruba na 10 a na první token se čekalo 132 sekund. Pro dlouhé dokumenty s velkými hustými modely je notebook na hraně.
Úsporný a stabilní
Při generování bral čip 37–50 W, v klidu asi 2,1 W. Nejúspornější byl Qwen3 30B-A3B s 3,69 tokenu na watt. Při deseti minutách nepřetržité zátěže si držel zhruba 152 tokenů za sekundu bez známek přiškrcení. Čísla platí jen pro čip, ne celý notebook, a test běžel na adaptéru.
Když 128 GB nestačí
MacBook Pro M5 Max je výborný přenosný stroj pro modely zhruba do 100 GB. Větší modely, třeba Qwen3 235B, který potřebuje asi 133 GB, se do něj nevejdou vůbec a s hustými modely třídy 70B a dlouhým kontextem je pomalý. V našem souboji titánů byl Mac Studio M5 Ultra u těchto modelů 2,5 až 2,8krát rychlejší.
Jak článek uvádí, test měřil rychlost, ne kvalitu odpovědí.
Potřebujete víc?
Pronajměte si Mac Studio M5 Ultra s 256 GB už na jeden den a pusťte na něm modely, které se do notebooku nevejdou.