NL
11 november 2026 · Jakub M.
Twee identieke Mac Studio M5 Ultra’s: verschilt de snelheid bij lokale AI?
We hebben twee Mac Studio’s met M5 Ultra en 256 GB unified memory: de ene draait sinds oktober, de andere is gloednieuw. Op beide draaiden we dezelfde test met drie taalmodellen. De generatiesnelheid verschilde minder dan een half procent.
Twee computers van hetzelfde model en dezelfde configuratie zouden even snel moeten zijn. Toch is er soms sprake van verschillen tussen individuele exemplaren, en we wilden weten hoe groot die zijn bij lokale AI. Voor ons is dat een praktische vraag: een klant huurt een configuratie en moet dezelfde prestaties krijgen, welk exemplaar hij ook krijgt.
Waarop en hoe we hebben gemeten
- Hardware: twee Mac Studio’s met Apple M5 Ultra (36-core CPU, 80-core GPU) en 256 GB unified memory. De ene is sinds oktober in gebruik, de andere is nieuw.
- Software: op beide identiek: macOS 27.2.1, Python 3.12, MLX 0.32.4 en mlx-lm 0.32.2.
- Modellen: 4-bit MLX-versies van de organisatie mlx-community op Hugging Face: Qwen3 30B-A3B, Llama 3.3 70B Instruct en gpt-oss-120b (MXFP4-Q8).
- Test: de ingebouwde tool
mlx_lm.benchmarkmet een korte prompt (512 tokens, drie herhalingen) en een lange prompt (8.192 tokens, twee herhalingen), telkens met 128 gegenereerde tokens. De prompt bestaat uit willekeurige tokens met een vaste seed, dus beide Macs kregen precies dezelfde invoer. Elke meting begon met een opwarmrun en beide Macs zijn op dezelfde dag gemeten.
Resultaten
| Model | Prompt (tokens) | Promptverwerking, oudere Mac | Promptverwerking, nieuwe Mac | Generatie, oudere Mac | Generatie, nieuwe Mac | Piekgeheugen |
|---|---|---|---|---|---|---|
| Qwen3 30B-A3B | 512 | 2.285 | 2.237 | 162,2 | 162,2 | 17,8 GB |
| Qwen3 30B-A3B | 8.192 | 7.646 | 7.602 | 138,1 | 138,0 | 18,7 GB |
| Llama 3.3 70B | 512 | 469 | 467 | 25,2 | 25,3 | 40,3 GB |
| Llama 3.3 70B | 8.192 | 682 | 683 | 23,6 | 23,6 | 43,3 GB |
| gpt-oss-120b | 512 | 1.077 | 1.046 | 121,4 | 121,2 | 63,8 GB |
| gpt-oss-120b | 8.192 | 5.143 | 5.109 | 114,8 | 115,2 | 64,5 GB |
Promptverwerking en generatie in tokens per seconde, gemiddelde van de herhalingen (drie bij 512 tokens, twee bij 8.192), 128 gegenereerde tokens. Oudere Mac: in gebruik sinds oktober; nieuwe Mac: gloednieuw. Zelfde configuratie, 4-bit MLX-modellen, mlx-lm 0.32.2, macOS 27.2.1, gemeten op 11 november 2026.
Wat de cijfers laten zien
De generatiesnelheid, dus hoe snel het model zijn antwoord schrijft, is op beide Macs gelijk: bij alle drie de modellen en beide promptlengtes is het verschil hooguit 0,35%. De verwerking van de lange prompt verschilt hooguit 0,7%. Het piekgeheugen is tot op een tiende gigabyte gelijk.
Bij de korte prompt was de nieuwe Mac 2 tot 3% trager met de verwerking. Die run duurt echter maar 0,2 tot 0,5 seconde, en herhalingen op één en dezelfde Mac verschilden tot 3%. Daarom beschouwen we dit verschil niet als echt.
De resultaten komen ook overeen met onze meting van oktober: gpt-oss-120b genereerde toen 120 tokens per seconde, nu 121.
Beperkingen van de test
We hebben maar twee exemplaren vergeleken, dus het resultaat geldt niet voor elke Mac Studio M5 Ultra. Een prompt van willekeurige tokens en korte generatie geven pure snelheidscijfers; bij echte taken en langere antwoorden kan de snelheid afwijken. De test meet de kwaliteit van de antwoorden niet.
Probeer het zelf
Hoeveel geheugen het model dat je wilt gebruiken nodig heeft, zie je in onze RAM-calculator. Voor je eigen tests kun je een Mac Studio M5 Ultra met 256 GB huren, al vanaf één dag.