IT
22 ottobre 2026 · Jakub M.
Un’ora a pieno carico sul Mac Studio M5 Ultra: quanto costa un milione di token
Abbiamo fatto generare testo al nostro Mac Studio per un’ora intera con sedici modelli di IA contemporaneamente, registrando ogni dieci secondi velocità, assorbimento e temperatura. Ha generato 980.000 token senza rallentare, e un milione di token è costato 0,074 kWh di elettricità.
Quanto costa davvero far girare l’IA in locale? Sul nostro Mac Studio con M5 Ultra e 256 GB di memoria, la stessa macchina che noleggiamo, abbiamo eseguito un test di un’ora registrando ogni dieci secondi velocità, assorbimento e temperatura del chip.
Come abbiamo misurato
- Hardware: Mac Studio con Apple M5 Ultra (CPU a 36 core, GPU a 80 core), 256 GB di memoria unificata, macOS 27.0.1. Durante il test sulla macchina non girava nient’altro.
- Modello: gpt-oss-20b di OpenAI nella versione MXFP4-Q8 per MLX di Apple (MLX 0.32.4, mlx-lm 0.32.2). È un modello mixture of experts con 21 miliardi di parametri, di cui circa 3,6 miliardi usati per ogni token. Occupa circa 12 GB di memoria.
- Carico: sedici programmi separati hanno generato testo contemporaneamente per 60 minuti, ciascuno con la propria copia del modello. Simula sedici utenti o agenti di IA. Ogni generazione era limitata a 2.000 token e poi ripartiva con lo stesso compito: un lungo articolo tecnico su come funziona il motore di un’auto.
- Misurazione: ogni 10 secondi abbiamo registrato il numero di token generati, l’assorbimento del chip e la temperatura media di CPU e GPU, lette da macOS con macmon 0.10.0. L’energia è la potenza media moltiplicata per il tempo.
Risultati
| Risultato | |
|---|---|
| Durata del test | 60 minuti |
| Flussi paralleli | 16 |
| Generati | 980.000 token |
| Velocità | 273 token al secondo |
| Velocità, primo / ultimo sesto | 272 / 272 tok/s |
| Assorbimento del chip, media (max) | 73 W (76 W) |
| Temperatura CPU / GPU a regime | 63 / 66 °C |
| Temperatura massima CPU / GPU | 66 / 70 °C |
| Energia per milione di token | 0,074 kWh |
Il limite è la velocità della memoria, non la potenza di calcolo
Quando genera testo, il Mac è frenato dalla banda della memoria, non dalla potenza di calcolo. Per ogni token la GPU deve leggere dalla memoria la parte corrispondente del modello e passa la maggior parte del tempo ad aspettare i dati. Per questo anche con sedici flussi il chip ha assorbito solo 73 W.
I sedici programmi si dividono la GPU e ognuno legge la propria copia del modello. Insieme hanno generato 273 token al secondo, circa 17 per flusso. Per una persona in chat è lento, per un gruppo di agenti in background basta. I server di inferenza fanno diversamente: elaborano in batch le richieste di molti utenti e leggono il modello una volta per tutti, ottenendo dallo stesso Mac più token al secondo. In questo test non l’abbiamo misurato.
Temperature e stabilità
La temperatura della GPU è salita a 70 °C nel quarto minuto, poi è scesa e dal quinto minuto si è stabilizzata a 66 °C. La CPU si è assestata a 63 °C. Le ventole hanno tenuto il passo senza che il chip dovesse rallentare: sia nel primo sia nell’ultimo sesto del test il Mac ha generato 272 token al secondo.
Quanto costa l’elettricità
L’ora a pieno carico ha consumato 0,073 kWh. Un giorno intero in queste condizioni richiederebbe circa 1,75 kWh, e un milione di token richiede 0,074 kWh. A 0,25 € al kWh significa meno di 2 centesimi per milione di token e circa 44 centesimi al giorno. Nell’IA locale l’elettricità conta poco; a decidere è il prezzo del computer.
Cosa il test non mostra
- Assorbimento dell’intero computer. Abbiamo misurato solo il chip (CPU, GPU e Neural Engine). Ventole, SSD, rete e perdite dell’alimentatore non sono inclusi, quindi alla presa il consumo è un po’ più alto.
- Elaborazione in batch. Sedici programmi separati non sono la stessa cosa di un server che serve molti utenti in batch.
- Modelli grandi. gpt-oss-20b è piccolo e veloce. Un modello denso da 70 miliardi di parametri caricherebbe il Mac in modo diverso e assorbirebbe un’altra potenza.
- Qualità dell’output. Abbiamo misurato solo velocità e assorbimento, non cosa ha scritto il modello.
Sono risultati misurati nelle condizioni indicate, non una garanzia: velocità e assorbimento reali dipendono da modello, quantizzazione, lunghezza del contesto, software e carico di lavoro.
Provalo tu stesso
Se vuoi vedere come si comporta il tuo modello sotto carico, puoi noleggiare questo Mac Studio M5 Ultra con 256 GB già da un giorno. Altre misurazioni sono nel nostro benchmark con sei modelli.