UK
22 жовтня 2026 р. · Jakub M.
Година повного навантаження на Mac Studio M5 Ultra: скільки коштує мільйон токенів
Наш Mac Studio цілу годину генерував текст шістнадцятьма моделями ШІ одночасно, а ми кожні десять секунд записували швидкість, споживання та температуру. Він згенерував 980 000 токенів без сповільнення, а мільйон токенів забрав 0,074 кВт·год електроенергії.
Скільки насправді коштує локальний запуск ШІ? На нашому Mac Studio з M5 Ultra і 256 ГБ пам’яті — тій самій машині, яку ми здаємо в оренду, — ми провели годинний тест і кожні десять секунд записували швидкість, споживання та температуру чипа.
Як ми вимірювали
- Обладнання: Mac Studio з Apple M5 Ultra (36-ядерний CPU, 80-ядерний GPU), 256 ГБ уніфікованої пам’яті, macOS 27.0.1. Окрім тесту, на ньому нічого не працювало.
- Модель: gpt-oss-20b від OpenAI у версії MXFP4-Q8 для бібліотеки MLX від Apple (MLX 0.32.4, mlx-lm 0.32.2). Це MoE-модель із 21 мільярдом параметрів, із яких для кожного токена використовується близько 3,6 мільярда. У пам’яті вона займає приблизно 12 ГБ.
- Навантаження: шістнадцять окремих програм генерували текст одночасно 60 хвилин, кожна з власною копією моделі. Це імітує шістнадцять користувачів або агентів ШІ. Кожна генерація мала ліміт 2000 токенів, а потім починалася знову з тим самим завданням — довгою технічною статтею про роботу двигуна внутрішнього згоряння.
- Вимірювання: кожні 10 секунд ми записували кількість згенерованих токенів, споживання чипа та середню температуру CPU і GPU, які зчитували з macOS інструментом macmon 0.10.0. Енергія — це середнє споживання, помножене на час.
Результати
| Результат | |
|---|---|
| Тривалість тесту | 60 хвилин |
| Паралельних потоків | 16 |
| Згенеровано | 980 000 токенів |
| Швидкість | 273 токени за секунду |
| Швидкість у першій / останній шостій частині | 272 / 272 ток/с |
| Споживання чипа, середнє (макс.) | 73 Вт (76 Вт) |
| Температура CPU / GPU після стабілізації | 63 / 66 °C |
| Найвища температура CPU / GPU | 66 / 70 °C |
| Енергія на мільйон токенів | 0,074 кВт·год |
Обмежує швидкість пам’яті, а не обчислення
Під час генерації тексту Mac гальмує пропускна здатність пам’яті, а не обчислювальна потужність. Для кожного токена GPU має прочитати з пам’яті потрібну частину моделі й більшість часу чекає на дані. Тому навіть із шістнадцятьма потоками чип споживав лише 73 Вт.
Шістнадцять програм ділять GPU, і кожна читає власну копію моделі. Разом вони дали 273 токени за секунду, близько 17 на потік. Для однієї людини в чаті це мало, а для групи агентів у фоні достатньо. Сервери для мовних моделей працюють інакше: обробляють запити багатьох користувачів одним пакетом і читають модель один раз для всіх, тож із того самого Mac отримують більше токенів за секунду. Цього в тесті ми не вимірювали.
Температури й стабільність
Температура GPU на четвертій хвилині піднялася до 70 °C, потім знизилася й від п’ятої хвилини трималася на 66 °C. CPU стабілізувався на 63 °C. Вентилятори впоралися з теплом, і чипу не довелося сповільнюватися: і в першій, і в останній шостій частині тесту Mac генерував 272 токени за секунду.
Скільки коштує електроенергія
Година повного навантаження спожила 0,073 кВт·год. Цілодобова робота в такому режимі — близько 1,75 кВт·год, а мільйон токенів потребує 0,074 кВт·год. За ціни 0,25 € за кВт·год це менше 2 центів за мільйон токенів і близько 44 центів на добу. Для локального ШІ електроенергія майже не важить, вирішує ціна самого комп’ютера.
Чого тест не показує
- Споживання всього комп’ютера. Ми вимірювали лише чип (CPU, GPU і Neural Engine). Вентилятори, диск, мережа та втрати в блоці живлення не враховані, тож споживання з розетки трохи вище.
- Пакетну обробку. Шістнадцять окремих програм — це не те саме, що сервер, який обслуговує багатьох користувачів одним пакетом.
- Великі моделі. gpt-oss-20b мала й швидка. Щільна модель на 70 мільярдів параметрів навантажила б Mac інакше.
- Якість тексту. Ми вимірювали лише швидкість і споживання, а не те, що написала модель.
Це результати, виміряні за описаних умов, а не гарантія: реальна швидкість і споживання залежать від моделі, квантизації, довжини контексту, програмного забезпечення та типу завдання.
Спробуйте самі
Якщо хочете побачити, як під навантаженням поводиться ваша модель, цей Mac Studio M5 Ultra з 256 ГБ можна орендувати від одного дня. Більше вимірювань — у нашому тесті шести моделей.