CS
22. října 2026 · Jakub M.
Hodina plné zátěže na Macu Studio M5 Ultra: kolik stojí milion tokenů
Náš Mac Studio jsme nechali celou hodinu generovat text šestnácti AI modely najednou a každých deset sekund zapisovali rychlost, příkon a teplotu. Vytvořil 980 tisíc tokenů, nezpomalil a milion tokenů ho stál méně než půl koruny za elektřinu.
Kolik vlastně stojí provoz lokální umělé inteligence? Na našem Macu Studio s čipem M5 Ultra a 256 GB paměti, tedy na stejném stroji, který pronajímáme, jsme pustili hodinový test a každých deset sekund zapisovali rychlost, příkon a teplotu čipu.
Jak jsme měřili
- Hardware: Mac Studio s Apple M5 Ultra (36jádrový procesor, 80jádrová grafika), 256 GB sjednocené paměti, macOS 27.0.1. Kromě testu na něm nic jiného neběželo.
- Model: gpt-oss-20b od OpenAI ve verzi MXFP4-Q8 pro knihovnu MLX od Applu (MLX 0.32.4, mlx-lm 0.32.2). Jde o model typu MoE s 21 miliardami parametrů, z nichž se na každý token používá zhruba 3,6 miliardy. V paměti zabírá asi 12 GB.
- Zátěž: šestnáct samostatných programů generovalo současně 60 minut, každý s vlastní kopií modelu. Simuluje to šestnáct uživatelů nebo AI agentů. Každé generování mělo strop 2 000 tokenů a pak začalo znovu se stejným zadáním, dlouhým technickým článkem o tom, jak funguje spalovací motor.
- Měření: každých 10 sekund jsme zapsali počet vygenerovaných tokenů, příkon čipu a průměrnou teplotu procesoru a grafiky. Hodnoty čte macOS, zaznamenávali jsme je nástrojem macmon 0.10.0. Spotřeba je průměrný příkon krát doba běhu.
Výsledky
| Výsledek | |
|---|---|
| Délka testu | 60 minut |
| Souběžných proudů | 16 |
| Vygenerováno | 980 000 tokenů |
| Rychlost | 273 tokenů za sekundu |
| Rychlost v první / poslední šestině | 272 / 272 tok/s |
| Příkon čipu, průměr (max.) | 73 W (76 W) |
| Teplota CPU / GPU po ustálení | 63 / 66 °C |
| Nejvyšší teplota CPU / GPU | 66 / 70 °C |
| Energie na milion tokenů | 0,074 kWh |
Brzdou je rychlost paměti, ne výpočetní výkon
Při generování textu Mac nebrzdí výpočetní výkon, ale rychlost paměti. Pro každý token musí grafika přečíst potřebnou část modelu z paměti a většinu času na data čeká. Proto si čip i při šestnácti proudech vzal jen 73 W.
Šestnáct programů si grafiku dělí a každý čte svou kopii modelu. Dohromady daly 273 tokenů za sekundu, na jeden proud kolem 17. Pro jednoho člověka u chatu je to málo, pro skupinu agentů na pozadí to stačí. Servery pro jazykové modely to řeší jinak: dotazy více uživatelů zpracují v jedné dávce a model přečtou jednou pro všechny, takže ze stejného Macu dostanou víc tokenů za sekundu. To jsme v tomto testu neměřili.
Teploty a stabilita
Teplota grafiky vystoupala ve čtvrté minutě na 70 °C, pak klesla a od páté minuty se držela na 66 °C. Procesor se ustálil na 63 °C. Ventilátory si s teplem poradily, aniž by čip musel zpomalit: v první i poslední šestině testu Mac generoval 272 tokenů za sekundu.
Kolik stojí elektřina
Hodina plné zátěže spotřebovala 0,073 kWh. Celý den takového provozu by vyšel asi na 1,75 kWh a jeden milion tokenů na 0,074 kWh. Při 6 Kč za kWh je to 0,45 Kč za milion tokenů a kolem 10,50 Kč za den. U lokálního provozu tak elektřina prakticky nehraje roli, rozhoduje cena samotného počítače.
Co test neukazuje
- Příkon celého počítače. Měřili jsme jen čip (procesor, grafiku a Neural Engine). Ventilátory, disk, síť a ztráty ve zdroji v číslech nejsou, takže ze zásuvky bude spotřeba o něco vyšší.
- Dávkové zpracování. Šestnáct samostatných programů není totéž co server, který obslouží více uživatelů v jedné dávce.
- Velké modely. gpt-oss-20b je malý a rychlý. Hustý model se 70 miliardami parametrů by Mac zatížil i napájel jinak.
- Kvalitu textu. Měřili jsme jen rychlost a spotřebu, ne to, co model napsal.
Jde o výsledky naměřené za uvedených podmínek, ne o záruku: skutečná rychlost a spotřeba závisí na modelu, kvantizaci, délce kontextu, softwaru a typu úlohy.
Vyzkoušejte si to sami
Pokud chcete vidět, jak se pod zátěží chová váš vlastní model, tento Mac Studio M5 Ultra s 256 GB si u nás pronajmete od jednoho dne. Další čísla najdete v našem měření šesti modelů.