PL
26 października 2026 · Jakub M.
Mac Studio M5 Ultra w teście: Qwen3 235B z prędkością 46 tokenów na sekundę i szybkie wczytywanie promptów
Czeski serwis technologiczny Vše Smart przetestował Mac Studio M5 Ultra z 256 GB na pięciu modelach językowych w llama.cpp i MLX. Największy, Qwen3 235B, zajął 133 GB pamięci i generował 46 tokenów na sekundę. Wyjaśniamy, co wyniki oznaczają dla dużych modeli.
Źródło: Mac Studio M5 Ultra v testu: Qwen3 235B a rychlost čtení promptů, Ludvík Eckerman, Vše Smart, 26 października 2026 (po czesku). Wszystkie liczby poniżej pochodzą z tego artykułu.
Czeski serwis Vše Smart opublikował szczegółowy test Maca Studio z układem M5 Ultra. To ta sama konfiguracja, którą wynajmujemy: 80-rdzeniowe GPU i 256 GB pamięci zunifikowanej. Test skupia się na dwóch rzeczach, których nie obejmował nasz pierwszy pomiar: jak szybko Mac wczytuje długie prompty oraz na modelu, który nie zmieści się w maszynie ze 128 GB.
Jak testował Vše Smart
- Sprzęt: Mac Studio M5 Ultra (80-rdzeniowe GPU), 256 GB, macOS 27.0.1, bez innych uruchomionych aplikacji.
- Oprogramowanie: llama.cpp ze wszystkimi warstwami na GPU oraz MLX 0.32 z mlx-lm. Pobór mocy i temperatury rejestrował macmon.
- Modele: Qwen3 8B, Qwen3 30B-A3B, Llama 3.3 70B, gpt-oss-120b i Qwen3 235B-A22B, wszystkie w kwantyzacji 4-bitowej (gpt-oss w MXFP4). Qwen3 235B tylko w MLX.
- Testy: prompty o długości 512, 4096 i 16 384 tokenów ze 128 wygenerowanymi tokenami oraz dziesięć minut ciągłego obciążenia. Pomiar z 24 października 2026.
Wyniki
| Model | Pamięć | Generowanie, llama.cpp | Generowanie, MLX | Prompt 4k, llama.cpp | Prompt 4k, MLX |
|---|---|---|---|---|---|
| Qwen3 8B | ≈ 5 GB | 149 | 176 | 4 205 | 6 360 |
| Qwen3 30B-A3B | ≈ 18 GB | 172 | 159 | 4 535 | 9 870 |
| Llama 3.3 70B | ≈ 42 GB | 23 | 25 | 509 | 716 |
| gpt-oss-120b | ≈ 63 GB | 142 | 130 | 3 387 | 6 538 |
| Qwen3 235B-A22B | ≈ 133 GB | – | 46 | – | 1 656 |
Tokeny na sekundę przy pustym kontekście: generowanie 128 tokenów i wczytanie promptu o długości 4096 tokenów. Qwen3 235B testowano tylko w MLX. Źródło: Vše Smart, pomiar z 24 października 2026.
MLX wczytuje prompty nawet dwa razy szybciej
Zanim model napisze pierwsze słowo, musi przeczytać cały prompt, na przykład dokument do streszczenia. Według Vše Smart MLX wczytywał prompty 1,4–2,2 raza szybciej niż llama.cpp przy każdym modelu, najbardziej przy Qwen3 30B-A3B. Z gpt-oss-120b w MLX dokument o długości 4000 tokenów zostaje wczytany w znacznie mniej niż sekundę. Przy generowaniu żaden framework nie był wyraźnie szybszy, więc warto wypróbować oba z własnym modelem.
Długi kontekst
| Model | Generowanie | Wczytanie promptu |
|---|---|---|
| Qwen3 8B | 121 | 5 240 |
| Qwen3 30B-A3B | 115 | 6 822 |
| Llama 3.3 70B | 22 | 650 |
| gpt-oss-120b | 114 | 6 332 |
| Qwen3 235B-A22B | 33 | 1 289 |
MLX, prompt o długości 16 384 tokenów, a po nim 128 wygenerowanych tokenów, tokeny na sekundę. Źródło: Vše Smart.
Przy prompcie o długości 16 384 tokenów generowanie w MLX zwolniło o około 12–31 procent, zależnie od modelu.
Qwen3 235B potrzebuje więcej niż 128 GB
Największy model zajął około 133 GB pamięci i generował około 46 tokenów na sekundę, szybciej, niż czyta większość ludzi. Nie zmieściłby się na Macu ze 128 GB i właśnie tu konfiguracja z 256 GB robi różnicę.
Temperatury, pobór mocy i porównanie z M3 Ultra
GPU nagrzało się maksymalnie do 87 °C, a układ podczas wczytywania promptów pobierał do 215 W. Wentylator przyspieszył do 2265 obr./min, czyli 62 procent maksimum, a podczas dziesięciu minut ciągłego obciążenia test nie wykazał dławienia wydajności. W standardowym teście llama.cpp z Llama 2 7B (Q4_0) artykuł szacuje, że M5 Ultra wczytuje prompty około 3,5 raza, a generuje około dwa razy szybciej niż M3 Ultra. Autor zaznacza, że dane dla M3 Ultra pochodzą z tabeli społeczności llama.cpp mierzonej starszymi wersjami, więc porównanie jest tylko orientacyjne.
Jak zaznacza artykuł, test mierzy szybkość, a nie jakość odpowiedzi, używa tylko kwantyzacji 4-bitowej i pojedynczych zapytań oraz podaje pobór mocy układu, a nie całego komputera.
Sprawdź sam
Mac Studio M5 Ultra z 256 GB możesz wynająć już na jeden dzień i przetestować na nim własne modele. Jak zachowuje się pod długim obciążeniem, pokazuje nasz godzinny test obciążeniowy.