DE
22. Oktober 2026 · Jakub M.
Eine Stunde Volllast auf dem Mac Studio M5 Ultra: Was eine Million Token kostet
Wir haben unseren Mac Studio eine ganze Stunde lang mit sechzehn KI-Modellen gleichzeitig Text erzeugen lassen und alle zehn Sekunden Geschwindigkeit, Leistungsaufnahme und Temperatur protokolliert. Er erzeugte 980.000 Token, ohne langsamer zu werden, und eine Million Token kostete 0,074 kWh Strom.
Was kostet es eigentlich, KI lokal zu betreiben? Wir haben auf unserem Mac Studio mit M5 Ultra und 256 GB Speicher, genau dem Rechner, den wir vermieten, einen einstündigen Test gefahren und alle zehn Sekunden Geschwindigkeit, Leistungsaufnahme und Temperatur des Chips aufgezeichnet.
So haben wir gemessen
- Hardware: Mac Studio mit Apple M5 Ultra (36-Kern-CPU, 80-Kern-GPU), 256 GB Unified Memory, macOS 27.0.1. Während des Tests lief sonst nichts auf dem Rechner.
- Modell: gpt-oss-20b von OpenAI in der Version MXFP4-Q8 für Apples MLX (MLX 0.32.4, mlx-lm 0.32.2). Es ist ein Mixture-of-Experts-Modell mit 21 Milliarden Parametern, von denen pro Token etwa 3,6 Milliarden genutzt werden. Es belegt rund 12 GB Speicher.
- Last: Sechzehn separate Programme erzeugten 60 Minuten lang gleichzeitig Text, jedes mit einer eigenen Kopie des Modells. Das simuliert sechzehn Nutzer oder KI-Agenten. Jede Generierung war auf 2.000 Token begrenzt und begann dann mit derselben Aufgabe neu: einem langen technischen Artikel darüber, wie ein Automotor funktioniert.
- Messung: Alle 10 Sekunden haben wir die Zahl der erzeugten Token, die Leistungsaufnahme des Chips und die mittlere CPU- und GPU-Temperatur protokolliert, ausgelesen aus macOS mit macmon 0.10.0. Die Energie ist die mittlere Leistung mal die Zeit.
Ergebnisse
| Ergebnis | |
|---|---|
| Testdauer | 60 Minuten |
| Parallele Streams | 16 |
| Generiert | 980.000 Token |
| Geschwindigkeit | 273 Token pro Sekunde |
| Geschwindigkeit, erstes / letztes Sechstel | 272 / 272 tok/s |
| Leistungsaufnahme des Chips, Mittel (max.) | 73 W (76 W) |
| CPU-/GPU-Temperatur nach Einpendeln | 63 / 66 °C |
| Höchste CPU-/GPU-Temperatur | 66 / 70 °C |
| Energie pro Million Token | 0,074 kWh |
Die Grenze ist die Speichergeschwindigkeit, nicht die Rechenleistung
Beim Erzeugen von Text bremst den Mac die Speicherbandbreite, nicht die Rechenleistung. Für jedes Token muss die GPU den passenden Teil des Modells aus dem Speicher lesen und verbringt die meiste Zeit mit Warten auf Daten. Deshalb nahm der Chip selbst mit sechzehn Streams nur 73 W auf.
Die sechzehn Programme teilen sich die GPU, und jedes liest seine eigene Kopie des Modells. Zusammen erzeugten sie 273 Token pro Sekunde, etwa 17 pro Stream. Für eine Person im Chat ist das langsam, für eine Gruppe von Agenten im Hintergrund reicht es. Inferenzserver gehen anders vor: Sie verarbeiten Anfragen vieler Nutzer in einem Batch und lesen das Modell einmal für alle, was aus demselben Mac mehr Token pro Sekunde herausholt. Das haben wir in diesem Test nicht gemessen.
Temperaturen und Stabilität
Die GPU-Temperatur stieg in der vierten Minute auf 70 °C, fiel dann und hielt sich ab der fünften Minute bei 66 °C. Die CPU pendelte sich bei 63 °C ein. Die Lüfter kamen mit, ohne dass der Chip drosseln musste: Sowohl im ersten als auch im letzten Sechstel des Tests erzeugte der Mac 272 Token pro Sekunde.
Was der Strom kostet
Die Stunde unter Volllast verbrauchte 0,073 kWh. Ein ganzer Tag in diesem Betrieb bräuchte etwa 1,75 kWh, und eine Million Token benötigt 0,074 kWh. Bei 0,25 € pro kWh sind das unter 2 Cent pro Million Token und etwa 44 Cent pro Tag. Bei lokaler KI spielt der Strom kaum eine Rolle; entscheidend ist der Preis des Computers.
Was der Test nicht zeigt
- Leistungsaufnahme des ganzen Computers. Wir haben nur den Chip gemessen (CPU, GPU und Neural Engine). Lüfter, SSD, Netzwerk und Netzteilverluste sind nicht enthalten, an der Steckdose ist der Verbrauch also etwas höher.
- Batch-Betrieb. Sechzehn separate Programme sind nicht dasselbe wie ein Server, der viele Nutzer in einem Batch bedient.
- Große Modelle. gpt-oss-20b ist klein und schnell. Ein dichtes Modell mit 70 Milliarden Parametern würde den Mac anders auslasten und anders Strom ziehen.
- Qualität der Ausgabe. Wir haben nur Geschwindigkeit und Leistungsaufnahme gemessen, nicht, was das Modell geschrieben hat.
Das sind Ergebnisse, gemessen unter den genannten Bedingungen, keine Garantie: Tatsächliche Geschwindigkeit und Leistungsaufnahme hängen von Modell, Quantisierung, Kontextlänge, Software und Aufgabe ab.
Probieren Sie es selbst
Wenn Sie sehen möchten, wie sich Ihr eigenes Modell unter Last verhält, können Sie diesen Mac Studio M5 Ultra mit 256 GB ab einem Tag mieten. Weitere Messungen finden Sie in unserem Benchmark mit sechs Modellen.