16 października 2026 · Jakub Mokříš
Piętnaście modeli AI na Mac Studio M5 Ultra: ile tokenów na sekundę naprawdę dostajesz
Czeski serwis Vše Smart uruchomił na Mac Studio z M5 Ultra i 256 GB pamięci 32 lokalne modele językowe. Wybraliśmy z nich piętnaście, od małego Qwen3 4B po Mistral Large ze 123 miliardami parametrów, i sprawdziliśmy, co te liczby znaczą w codziennej pracy.
Porównania szybkości lokalnych modeli zwykle kończą się na dwóch, trzech nazwach. Redakcja Vše Smart zmierzyła ich na Mac Studio M5 Ultra z 256 GB pamięci zunifikowanej aż trzydzieści dwa, każdy jedenaście razy. Z wyników wybraliśmy piętnaście modeli, które dobrze pokazują cały przekrój: małe i duże, gęste i typu mixture of experts.
Jak mierzono
Modele działały w Ollamie, sterowane prostym skryptem w Pythonie. Każdy dostał to samo zadanie, dłuższy tekst techniczny o budowie nowoczesnych samochodów, z limitem 2000 tokenów wyjściowych, temperaturą 0 i kontekstem 8192 tokenów. Pierwszy przebieg każdego modelu odrzucono jako rozgrzewkę, a wynik to średnia z kolejnych dziesięciu. Między modelami była półminutowa przerwa.
Cały test trwał ponad cztery godziny, a modele wygenerowały w tym czasie ponad 700 tysięcy tokenów. Mierzono tylko szybkość; jakości odpowiedzi test nie oceniał.
Wyniki
| Model | Typ | Prędkość generowania |
|---|---|---|
| Qwen3 4B | gęsty | |
| Qwen3 30B-A3B | MoE, aktywnych 3B | |
| gpt-oss-20b | MoE, aktywnych 3,6B | |
| Qwen3.5 35B-A3B | MoE, aktywnych 3B | |
| Qwen3.5 9B | gęsty | |
| gpt-oss-120b | MoE, aktywnych 5,1B | |
| Gemma 4 26B-A4B | MoE, aktywnych 4B | |
| Qwen3-Next 80B-A3B | MoE, aktywnych 3B | |
| Qwen3.5 122B-A10B | MoE, aktywnych 10B | |
| Llama 4 Scout | MoE, aktywnych 17B | |
| Mistral Small 3.2 24B | gęsty | |
| Qwen3.5 27B | gęsty | |
| Gemma 4 31B | gęsty | |
| Llama 3.3 70B | gęsty | |
| Mistral Large 123B | gęsty |
Średnia z dziesięciu przebiegów w Ollamie, 2000 tokenów wyjściowych, kontekst 8k. MoE = mixture of experts, „aktywnych” to liczba parametrów używanych dla każdego tokenu. Dane: Vše Smart.
Rozmiar niewiele mówi o szybkości
Najlepiej widać to na parze gpt-oss-120b i Llama 3.3 70B. Model OpenAI ma więcej parametrów (117 mld wobec 70), a mimo to pisze pięć razy szybciej: 115 tokenów na sekundę wobec 23. Różnicę robi architektura. gpt-oss-120b to model mixture of experts i dla każdego tokenu używa tylko około pięciu miliardów parametrów. Llama 3.3 jest modelem gęstym, więc za każdym razem liczy wszystkie siedemdziesiąt miliardów.
Podobnie wypada Qwen. Wersja 122B-A10B z dziesięcioma miliardami aktywnych parametrów daje 85 tokenów na sekundę, a gęsty Qwen3.5 27B, czterokrotnie mniejszy, tylko 48. Jeśli wybierasz model głównie pod kątem szybkości, patrz na liczbę aktywnych parametrów, a nie na całkowity rozmiar.
Ile wystarczy
Do zwykłego czatu wystarcza około 20 tokenów na sekundę; przy takim tempie tekst pojawia się szybciej, niż większość ludzi czyta. Z piętnastu modeli w tabeli poniżej tej granicy został tylko Mistral Large z 14 tokenami. Nadal przyda się jednak do zadań, na które nikt nie czeka przed ekranem, na przykład do nocnego przetwarzania dokumentów.
Szybkość liczy się znacznie bardziej przy programowaniu z asystentem, który pisze dłuższe bloki kodu. Tam sens mają modele powyżej 80 tokenów na sekundę, na przykład gpt-oss-120b, Qwen3-Next 80B czy Qwen3.5 122B.
Zgadza się z naszymi pomiarami
Kilka tych samych modeli zmierzyliśmy sami na naszym Mac Studio, tyle że w MLX zamiast Ollamy i nieco inną metodą. Liczby różnią się o kilka do kilkudziesięciu procent, ale ogólny obraz jest ten sam. gpt-oss-120b dał nam 120 tokenów na sekundę (Vše Smart: 115), gpt-oss-20b 184 (169), a Qwen3.5 27B 55 (48). Gemma 4 31B wyszła nam za to wolniej, 31 wobec 40, bo użyliśmy innej wersji modelu. Szczegóły są w naszym artykule z pomiarami.
Sprawdź sam
Wszystkie trzydzieści dwa modele zmieściły się w 256 GB pamięci i jeszcze zostało miejsce. Jeśli zastanawiasz się nad zakupem takiej maszyny albo potrzebujesz mocy tylko na kilka dni, możesz wynająć nasz Mac Studio M5 Ultra z 256 GB. Wynajem na dzień i tydzień jest teraz bezpłatny.
Źródło danych: Vše Smart: Mac Studio M5 Ultra w teście 32 lokalnych modeli AI (Ludvík Eckerman, 5 października 2026, po czesku).