PL
22 października 2026 · Jakub M.
Godzina pełnego obciążenia Maca Studio M5 Ultra: ile kosztuje milion tokenów
Przez pełną godzinę nasz Mac Studio generował tekst szesnastoma modelami AI naraz, a co dziesięć sekund zapisywaliśmy prędkość, pobór mocy i temperaturę. Wygenerował 980 000 tokenów bez spowolnienia, a milion tokenów zużył 0,074 kWh energii.
Ile naprawdę kosztuje lokalne uruchamianie AI? Na naszym Macu Studio z M5 Ultra i 256 GB pamięci, czyli na tej samej maszynie, którą wynajmujemy, przeprowadziliśmy godzinny test i co dziesięć sekund zapisywaliśmy prędkość, pobór mocy i temperaturę chipu.
Jak mierzyliśmy
- Sprzęt: Mac Studio z Apple M5 Ultra (36-rdzeniowy CPU, 80-rdzeniowe GPU), 256 GB pamięci zunifikowanej, macOS 27.0.1. Poza testem nic innego na nim nie działało.
- Model: gpt-oss-20b od OpenAI w wersji MXFP4-Q8 dla biblioteki MLX od Apple (MLX 0.32.4, mlx-lm 0.32.2). To model MoE z 21 miliardami parametrów, z których na każdy token używa około 3,6 miliarda. W pamięci zajmuje około 12 GB.
- Obciążenie: szesnaście osobnych programów generowało tekst jednocześnie przez 60 minut, każdy z własną kopią modelu. To symulacja szesnastu użytkowników lub agentów AI. Każde generowanie miało limit 2000 tokenów i potem zaczynało się od nowa z tym samym zadaniem: długim technicznym artykułem o działaniu silnika spalinowego.
- Pomiar: co 10 sekund zapisywaliśmy liczbę wygenerowanych tokenów, pobór mocy chipu oraz średnią temperaturę CPU i GPU, odczytywane z macOS narzędziem macmon 0.10.0. Energia to średni pobór mocy pomnożony przez czas.
Wyniki
| Wynik | |
|---|---|
| Czas testu | 60 minut |
| Równoległe strumienie | 16 |
| Wygenerowano | 980 000 tokenów |
| Prędkość | 273 tokeny na sekundę |
| Prędkość w pierwszej / ostatniej szóstej części | 272 / 272 tok/s |
| Pobór mocy chipu, średnio (maks.) | 73 W (76 W) |
| Temperatura CPU / GPU po ustabilizowaniu | 63 / 66 °C |
| Najwyższa temperatura CPU / GPU | 66 / 70 °C |
| Energia na milion tokenów | 0,074 kWh |
Ogranicza prędkość pamięci, nie moc obliczeniowa
Przy generowaniu tekstu Maca hamuje przepustowość pamięci, a nie moc obliczeniowa. Dla każdego tokenu GPU musi odczytać z pamięci potrzebną część modelu i większość czasu czeka na dane. Dlatego chip pobierał tylko 73 W nawet przy szesnastu strumieniach.
Szesnaście programów dzieli się GPU, a każdy czyta własną kopię modelu. Razem dały 273 tokeny na sekundę, około 17 na strumień. Dla jednej osoby przy czacie to mało, dla grupy agentów pracujących w tle wystarczy. Serwery dla modeli językowych robią to inaczej: obsługują zapytania wielu użytkowników w jednej partii i czytają model raz dla wszystkich, więc z tego samego Maca uzyskują więcej tokenów na sekundę. Tego w tym teście nie mierzyliśmy.
Temperatury i stabilność
Temperatura GPU wzrosła w czwartej minucie do 70 °C, potem spadła i od piątej minuty utrzymywała się na 66 °C. CPU ustabilizowało się na 63 °C. Wentylatory poradziły sobie z ciepłem, a chip nie musiał zwalniać: w pierwszej i w ostatniej szóstej części testu Mac generował 272 tokeny na sekundę.
Ile kosztuje prąd
Godzina pełnego obciążenia zużyła 0,073 kWh. Cała doba takiej pracy to około 1,75 kWh, a milion tokenów wymaga 0,074 kWh. Przy 0,25 € za kWh daje to mniej niż 2 centy za milion tokenów i około 44 centów dziennie. Przy lokalnym AI prąd praktycznie nie ma znaczenia, liczy się cena samego komputera.
Czego test nie pokazuje
- Poboru mocy całego komputera. Mierzyliśmy tylko chip (CPU, GPU i Neural Engine). Wentylatory, dysk, sieć i straty w zasilaczu nie są uwzględnione, więc pobór z gniazdka jest nieco wyższy.
- Przetwarzania wsadowego. Szesnaście osobnych programów to nie to samo co serwer obsługujący wielu użytkowników w jednej partii.
- Dużych modeli. gpt-oss-20b jest mały i szybki. Gęsty model z 70 miliardami parametrów obciążyłby Maca inaczej.
- Jakości tekstu. Mierzyliśmy tylko prędkość i zużycie energii, a nie to, co model napisał.
To wyniki zmierzone w opisanych warunkach, a nie gwarancja: rzeczywista prędkość i zużycie energii zależą od modelu, kwantyzacji, długości kontekstu, oprogramowania i rodzaju zadania.
Sprawdź sam
Jeśli chcesz zobaczyć, jak pod obciążeniem zachowuje się Twój własny model, możesz wynająć tego Maca Studio M5 Ultra z 256 GB już od jednego dnia. Więcej pomiarów znajdziesz w naszym teście sześciu modeli.