PL
3 listopada 2026 · Jakub M.
MacBook Pro M5 Max ze 128 GB: dokąd sięga laptop w lokalnej AI
Vše Smart uruchomił na MacBooku Pro M5 Max ze 128 GB sześć otwartych modeli od 8 do 120 miliardów parametrów. Wszystkie zmieściły się bez zmian w systemie, gpt-oss-120b generuje 110 tokenów na sekundę, a układ pobiera tylko 37–50 W. Laptopowi brakuje tchu przy długich kontekstach i dużych gęstych modelach.
Źródło: MacBook Pro M5 Max se 128 GB RAM v testu lokálních AI modelů, Ludvík Eckerman, Vše Smart, 2 listopada 2026 (po czesku). Wszystkie liczby poniżej pochodzą z tego artykułu.
Czy laptop poradzi sobie z poważną lokalną AI? Czeski serwis Vše Smart przetestował najmocniejszego MacBooka Pro z układem M5 Max (18-rdzeniowe CPU, 40-rdzeniowe GPU) i 128 GB pamięci zunifikowanej o przepustowości 614 GB/s. Sześć otwartych modeli, dwa silniki i pomiar poboru mocy.
Jak testowano
- System: macOS 27.2, tryb wysokiej wydajności, zasilanie z sieci, domyślny limit pamięci GPU (około 107 GB).
- Oprogramowanie: llama.cpp (build 11669, Metal) oraz MLX 0.32.4 z mlx-lm 0.32.2.
- Modele: Llama 3.1 8B, gpt-oss-20b, Qwen3 30B-A3B, Qwen3 32B, Llama 3.3 70B i gpt-oss-120b w kwantyzacji 4-bitowej (gpt-oss w natywnym MXFP4).
- Metoda: kontekst od 0 do 32 768 tokenów, po trzy przebiegi, pobór mocy układu mierzony powermetrics, dziesięciominutowe obciążenie z Qwen3 30B-A3B.
Wyniki
| Model | Generowanie, llama.cpp | Generowanie, MLX | Generowanie przy kontekście 32k (MLX) | Pierwszy token przy 32k (MLX) | Szczyt pamięci (MLX) | Pobór mocy układu | Tokeny na wat |
|---|---|---|---|---|---|---|---|
| Llama 3.1 8B | 102 | 115 | 60 | 17 s | 9,5 GB | 49,8 W | 2,02 |
| gpt-oss-20b | 156 | 142 | 105 | 7,5 s | 13,7 GB | 48,5 W | 3,24 |
| Qwen3 30B-A3B | 155 | 152 | 72 | 15 s | 21,1 GB | 41,1 W | 3,69 |
| Qwen3 32B | 26 | 28 | 18 | 72 s | 27,8 GB | 48,3 W | 0,53 |
| Llama 3.3 70B | 12,5 | 13,6 | 10 | 132 s | 51,3 GB | 40,5 W | 0,31 |
| gpt-oss-120b | 110 | 94 | 70 | 13,5 s | 65,5 GB | 37,3 W | 2,92 |
Generowanie w tokenach na sekundę, modele 4-bitowe (gpt-oss w MXFP4), z pustym kontekstem, o ile nie podano inaczej. Pobór mocy układu podczas generowania w llama.cpp, tylko układ (CPU, GPU, Neural Engine). Źródło: Vše Smart, opublikowano 2 listopada 2026.
W 128 GB mieści się wszystko
Wszystkie sześć modeli działało bez podnoszenia limitu pamięci. Największy, gpt-oss-120b, zajął w szczycie 65,5 GB, więc zapas był duży. Dzięki architekturze mixture of experts generuje przy tym w llama.cpp 110 tokenów na sekundę.
Mixture of experts wygrywa, gęste modele cierpią
Najszybsze były modele, które dla każdego tokenu używają tylko części parametrów: Qwen3 30B-A3B i gpt-oss-20b z około 155 tokenami na sekundę. Gęsta Llama 3.3 70B osiągnęła 12,5–13,6 tokenu na sekundę, przy kontekście 32 tysięcy tokenów spadła do około 10, a na pierwszy token czekano 132 sekundy. Przy długich dokumentach i dużych gęstych modelach laptop jest na granicy.
Oszczędny i stabilny
Podczas generowania układ pobierał 37–50 W, w spoczynku około 2,1 W. Najbardziej wydajny był Qwen3 30B-A3B z 3,69 tokenu na wat. Przez dziesięć minut ciągłego obciążenia utrzymał około 152 tokenów na sekundę bez oznak dławienia. Dane dotyczą tylko układu, nie całego laptopa, a test odbywał się na zasilaniu z sieci.
Gdy 128 GB nie wystarcza
MacBook Pro M5 Max to świetna przenośna maszyna do modeli do około 100 GB. Większe modele, na przykład Qwen3 235B, który potrzebuje około 133 GB, w ogóle się nie zmieszczą, a z gęstymi modelami klasy 70B i długim kontekstem jest wolny. W naszym starciu tytanów Mac Studio M5 Ultra był przy tych modelach od 2,5 do 2,8 raza szybszy.
Jak zaznacza artykuł, test mierzył szybkość, a nie jakość odpowiedzi.
Potrzebujesz więcej?
Wynajmij Mac Studio M5 Ultra z 256 GB już na jeden dzień i uruchom modele, które nie mieszczą się w laptopie.