DE
26. Oktober 2026 · Jakub M.
Mac Studio M5 Ultra im Test: Qwen3 235B mit 46 Token pro Sekunde und schnelles Einlesen von Prompts
Die tschechische Tech-Website Vše Smart hat den Mac Studio M5 Ultra mit 256 GB mit fünf Sprachmodellen in llama.cpp und MLX getestet. Das größte, Qwen3 235B, belegte 133 GB Speicher und erzeugte 46 Token pro Sekunde. Wir fassen zusammen, was die Ergebnisse für große Modelle bedeuten.
Quelle: Mac Studio M5 Ultra v testu: Qwen3 235B a rychlost čtení promptů, Ludvík Eckerman, Vše Smart, 26. Oktober 2026 (auf Tschechisch). Alle Zahlen unten stammen aus diesem Artikel.
Die tschechische Website Vše Smart hat einen ausführlichen Test des Mac Studio mit M5-Ultra-Chip veröffentlicht. Es ist dieselbe Konfiguration, die wir vermieten: 80-Kern-GPU und 256 GB gemeinsamer Arbeitsspeicher. Der Test konzentriert sich auf zwei Punkte, die unser erster Benchmark nicht abgedeckt hat: wie schnell der Mac lange Prompts einliest und ein Modell, das auf eine Maschine mit 128 GB nicht passt.
So hat Vše Smart getestet
- Hardware: Mac Studio M5 Ultra (80-Kern-GPU), 256 GB, macOS 27.0.1, ohne weitere laufende Programme.
- Software: llama.cpp mit allen Schichten auf der GPU sowie MLX 0.32 mit mlx-lm. Leistungsaufnahme und Temperaturen wurden mit macmon protokolliert.
- Modelle: Qwen3 8B, Qwen3 30B-A3B, Llama 3.3 70B, gpt-oss-120b und Qwen3 235B-A22B, alle in 4-Bit-Quantisierung (gpt-oss in MXFP4). Qwen3 235B nur in MLX.
- Tests: Prompts mit 512, 4.096 und 16.384 Token und je 128 generierten Token, dazu zehn Minuten Dauerlast. Gemessen am 24. Oktober 2026.
Ergebnisse
| Modell | Speicher | Generierung, llama.cpp | Generierung, MLX | Prompt 4k, llama.cpp | Prompt 4k, MLX |
|---|---|---|---|---|---|
| Qwen3 8B | ≈ 5 GB | 149 | 176 | 4.205 | 6.360 |
| Qwen3 30B-A3B | ≈ 18 GB | 172 | 159 | 4.535 | 9.870 |
| Llama 3.3 70B | ≈ 42 GB | 23 | 25 | 509 | 716 |
| gpt-oss-120b | ≈ 63 GB | 142 | 130 | 3.387 | 6.538 |
| Qwen3 235B-A22B | ≈ 133 GB | – | 46 | – | 1.656 |
Token pro Sekunde mit leerem Kontext: Generierung von 128 Token und Einlesen eines Prompts mit 4.096 Token. Qwen3 235B wurde nur in MLX getestet. Quelle: Vše Smart, gemessen am 24. Oktober 2026.
MLX liest Prompts bis zu doppelt so schnell ein
Bevor ein Modell das erste Wort schreibt, muss es den ganzen Prompt einlesen, etwa ein Dokument, das zusammengefasst werden soll. Laut Vše Smart las MLX die Prompts bei allen Modellen 1,4- bis 2,2-mal schneller ein als llama.cpp, am deutlichsten bei Qwen3 30B-A3B. Mit gpt-oss-120b in MLX ist ein Dokument mit 4.000 Token in deutlich weniger als einer Sekunde eingelesen. Bei der Generierung gab es keinen klaren Sieger, daher lohnt es sich, beide mit dem eigenen Modell auszuprobieren.
Langer Kontext
| Modell | Generierung | Einlesen des Prompts |
|---|---|---|
| Qwen3 8B | 121 | 5.240 |
| Qwen3 30B-A3B | 115 | 6.822 |
| Llama 3.3 70B | 22 | 650 |
| gpt-oss-120b | 114 | 6.332 |
| Qwen3 235B-A22B | 33 | 1.289 |
MLX, Prompt mit 16.384 Token, danach 128 generierte Token, in Token pro Sekunde. Quelle: Vše Smart.
Mit einem Prompt von 16.384 Token verlangsamte sich die Generierung in MLX je nach Modell um etwa 12 bis 31 Prozent.
Qwen3 235B braucht mehr als 128 GB
Das größte Modell belegte rund 133 GB Speicher und erzeugte etwa 46 Token pro Sekunde, schneller, als die meisten Menschen lesen. Auf einen Mac mit 128 GB würde es nicht passen, und genau hier macht die Konfiguration mit 256 GB den Unterschied.
Temperaturen, Leistungsaufnahme und der M3 Ultra
Die GPU erreichte höchstens 87 °C, der Chip nahm beim Einlesen von Prompts bis zu 215 W auf. Der Lüfter stieg auf 2.265 U/min, 62 Prozent seines Maximums, und während zehn Minuten Dauerlast stellte der Test keine Drosselung fest. Im Standardtest von llama.cpp mit Llama 2 7B (Q4_0) schätzt der Artikel, dass der M5 Ultra Prompts etwa 3,5-mal so schnell einliest und etwa doppelt so schnell generiert wie der M3 Ultra. Der Autor weist darauf hin, dass die M3-Ultra-Werte aus der mit älteren Versionen gemessenen Community-Tabelle von llama.cpp stammen, der Vergleich also nur grob ist.
Wie der Artikel anmerkt, misst der Test die Geschwindigkeit, nicht die Qualität der Antworten, nutzt nur 4-Bit-Quantisierung und einzelne Anfragen und gibt die Leistungsaufnahme des Chips an, nicht die des ganzen Rechners.
Selbst ausprobieren
Einen Mac Studio M5 Ultra mit 256 GB können Sie schon ab einem Tag mieten und darauf Ihre eigenen Modelle testen. Wie er sich unter Dauerlast verhält, zeigt unser einstündiger Lasttest.