UK
3 листопада 2026 р. · Jakub M.
MacBook Pro M5 Max зі 128 ГБ: на що здатен ноутбук у локальному ШІ
Vše Smart запустив на MacBook Pro M5 Max зі 128 ГБ шість відкритих моделей від 8 до 120 мільярдів параметрів. Усі помістилися без змін у системі, gpt-oss-120b генерує 110 токенів за секунду, а чип споживає лише 37–50 Вт. Ноутбуку бракує сил на довгих контекстах і великих щільних моделях.
Джерело: MacBook Pro M5 Max se 128 GB RAM v testu lokálních AI modelů, Ludvík Eckerman, Vše Smart, 2 листопада 2026 р. (чеською). Усі цифри нижче взято з цієї статті.
Чи впорається ноутбук із серйозним локальним ШІ? Чеський сайт Vše Smart протестував найпотужніший MacBook Pro з чипом M5 Max (18-ядерний CPU, 40-ядерний GPU) і 128 ГБ уніфікованої пам’яті з пропускною здатністю 614 ГБ/с. Шість відкритих моделей, два рушії та вимірювання споживання.
Як тестували
- Система: macOS 27.2, режим високої продуктивності, від мережі, стандартний ліміт пам’яті для GPU (близько 107 ГБ).
- ПЗ: llama.cpp (build 11669, Metal) і MLX 0.32.4 з mlx-lm 0.32.2.
- Моделі: Llama 3.1 8B, gpt-oss-20b, Qwen3 30B-A3B, Qwen3 32B, Llama 3.3 70B і gpt-oss-120b у 4-бітній квантизації (gpt-oss у рідному MXFP4).
- Методика: контекст від 0 до 32 768 токенів, по три запуски, споживання чипа через powermetrics, десятихвилинне навантаження з Qwen3 30B-A3B.
Результати
| Модель | Генерація, llama.cpp | Генерація, MLX | Генерація з контекстом 32k (MLX) | Перший токен при 32k (MLX) | Пік пам’яті (MLX) | Споживання чипа | Токенів на ват |
|---|---|---|---|---|---|---|---|
| Llama 3.1 8B | 102 | 115 | 60 | 17 с | 9,5 ГБ | 49,8 Вт | 2,02 |
| gpt-oss-20b | 156 | 142 | 105 | 7,5 с | 13,7 ГБ | 48,5 Вт | 3,24 |
| Qwen3 30B-A3B | 155 | 152 | 72 | 15 с | 21,1 ГБ | 41,1 Вт | 3,69 |
| Qwen3 32B | 26 | 28 | 18 | 72 с | 27,8 ГБ | 48,3 Вт | 0,53 |
| Llama 3.3 70B | 12,5 | 13,6 | 10 | 132 с | 51,3 ГБ | 40,5 Вт | 0,31 |
| gpt-oss-120b | 110 | 94 | 70 | 13,5 с | 65,5 ГБ | 37,3 Вт | 2,92 |
Генерація в токенах за секунду, 4-бітні моделі (gpt-oss у MXFP4), з порожнім контекстом, якщо не вказано інше. Споживання чипа під час генерації в llama.cpp, лише чип (CPU, GPU, Neural Engine). Джерело: Vše Smart, опубліковано 2 листопада 2026 р.
У 128 ГБ вміщується все
Усі шість моделей працювали без підвищення ліміту пам’яті. Найбільша, gpt-oss-120b, на піку зайняла 65,5 ГБ, тож запас лишився великий. Завдяки архітектурі mixture of experts вона при цьому генерує в llama.cpp 110 токенів за секунду.
Mixture of experts перемагає, щільні моделі страждають
Найшвидшими були моделі, що для кожного токена задіюють лише частину параметрів: Qwen3 30B-A3B і gpt-oss-20b — близько 155 токенів за секунду. Щільна Llama 3.3 70B видала 12,5–13,6 токена за секунду, з контекстом 32 тисячі токенів упала приблизно до 10, а першого токена довелося чекати 132 секунди. Для довгих документів із великими щільними моделями ноутбук на межі.
Економний і стабільний
Під час генерації чип споживав 37–50 Вт, у спокої близько 2,1 Вт. Найефективнішим був Qwen3 30B-A3B — 3,69 токена на ват. За десять хвилин безперервного навантаження він тримав близько 152 токенів за секунду без ознак тротлінгу. Цифри стосуються лише чипа, а не всього ноутбука, і тест ішов від мережі.
Коли 128 ГБ не вистачає
MacBook Pro M5 Max — чудова портативна машина для моделей приблизно до 100 ГБ. Більші моделі, наприклад Qwen3 235B, якому потрібно близько 133 ГБ, взагалі не помістяться, а зі щільними моделями класу 70B і довгим контекстом він повільний. У нашій битві титанів Mac Studio M5 Ultra був із такими моделями у 2,5–2,8 раза швидшим.
Як зазначає стаття, тест вимірював швидкість, а не якість відповідей.
Потрібно більше?
Орендуйте Mac Studio M5 Ultra з 256 ГБ вже на один день і запустіть моделі, що не вміщуються в ноутбук.