IT
3 novembre 2026 · Jakub M.
MacBook Pro M5 Max con 128 GB: fin dove arriva un portatile con l’IA locale
Vše Smart ha fatto girare sei modelli aperti da 8 a 120 miliardi di parametri su un MacBook Pro M5 Max con 128 GB. Sono entrati tutti senza modificare il sistema, gpt-oss-120b genera 110 token al secondo e il chip assorbe solo 37–50 W. Il portatile va in affanno con contesti lunghi e grandi modelli densi.
Fonte: MacBook Pro M5 Max se 128 GB RAM v testu lokálních AI modelů, Ludvík Eckerman, Vše Smart, 2 novembre 2026 (in ceco). Tutti i numeri qui sotto provengono da quell’articolo.
Un portatile può gestire sul serio l’IA locale? Il sito ceco Vše Smart ha testato il MacBook Pro più potente, con chip M5 Max (CPU a 18 core, GPU a 40 core) e 128 GB di memoria unificata con 614 GB/s di banda. Sei modelli aperti, due motori di inferenza e uno sguardo ai consumi.
Come è stato testato
- Sistema: macOS 27.2, modalità Prestazioni elevate, collegato alla corrente, limite di memoria della GPU predefinito (circa 107 GB).
- Software: llama.cpp (build 11669, Metal) e MLX 0.32.4 con mlx-lm 0.32.2.
- Modelli: Llama 3.1 8B, gpt-oss-20b, Qwen3 30B-A3B, Qwen3 32B, Llama 3.3 70B e gpt-oss-120b, quantizzati a 4 bit (gpt-oss nel suo MXFP4 nativo).
- Metodo: contesti da 0 a 32.768 token, tre esecuzioni ciascuno; assorbimento del chip misurato con powermetrics; carico continuo di dieci minuti con Qwen3 30B-A3B.
Risultati
| Modello | Generazione, llama.cpp | Generazione, MLX | Generazione con contesto 32k (MLX) | Primo token a 32k (MLX) | Memoria di picco (MLX) | Assorbimento del chip | Token per watt |
|---|---|---|---|---|---|---|---|
| Llama 3.1 8B | 102 | 115 | 60 | 17 s | 9,5 GB | 49,8 W | 2,02 |
| gpt-oss-20b | 156 | 142 | 105 | 7,5 s | 13,7 GB | 48,5 W | 3,24 |
| Qwen3 30B-A3B | 155 | 152 | 72 | 15 s | 21,1 GB | 41,1 W | 3,69 |
| Qwen3 32B | 26 | 28 | 18 | 72 s | 27,8 GB | 48,3 W | 0,53 |
| Llama 3.3 70B | 12,5 | 13,6 | 10 | 132 s | 51,3 GB | 40,5 W | 0,31 |
| gpt-oss-120b | 110 | 94 | 70 | 13,5 s | 65,5 GB | 37,3 W | 2,92 |
Generazione in token al secondo, modelli a 4 bit (gpt-oss in MXFP4), contesto vuoto salvo diversa indicazione. Assorbimento del chip durante la generazione in llama.cpp, solo chip (CPU, GPU, Neural Engine). Fonte: Vše Smart, pubblicato il 2 novembre 2026.
In 128 GB entra tutto
Tutti e sei i modelli hanno funzionato senza alzare il limite di memoria. Il più grande, gpt-oss-120b, ha raggiunto un picco di 65,5 GB, lasciando molto margine. Grazie all’architettura mixture of experts genera comunque 110 token al secondo in llama.cpp.
Il mixture of experts vince, i modelli densi faticano
I più veloci sono stati i modelli che per ogni token usano solo una parte dei parametri: Qwen3 30B-A3B e gpt-oss-20b, con circa 155 token al secondo. Il denso Llama 3.3 70B ha raggiunto 12,5–13,6 token al secondo; con un contesto di 32.000 token è sceso a circa 10 e il primo token è arrivato dopo 132 secondi. Con documenti lunghi e grandi modelli densi il portatile è al limite.
Efficiente e stabile
Durante la generazione il chip ha assorbito 37–50 W, circa 2,1 W a riposo. Il più efficiente è stato Qwen3 30B-A3B, con 3,69 token per watt. In dieci minuti di carico continuo ha mantenuto circa 152 token al secondo senza segni di throttling. I valori riguardano solo il chip, non l’intero portatile, e il test è stato fatto collegato alla corrente.
Quando 128 GB non bastano
Il MacBook Pro M5 Max è un’ottima macchina portatile per modelli fino a circa 100 GB. Modelli più grandi, come Qwen3 235B, che richiede circa 133 GB, non ci entrano proprio, e con modelli densi da 70B e contesti lunghi diventa lento. Nella nostra sfida tra titani il Mac Studio M5 Ultra è stato da 2,5 a 2,8 volte più veloce con questi modelli.
Come sottolinea l’articolo, il test ha misurato la velocità, non la qualità delle risposte.
Ti serve di più?
Noleggia un Mac Studio M5 Ultra con 256 GB già da un giorno e fai girare i modelli che in un portatile non entrano.