UK
11 листопада 2026 р. · Jakub M.
Два однакові Mac Studio M5 Ultra: чи відрізняється їхня швидкість у локальному ШІ?
У нас є два Mac Studio з M5 Ultra і 256 ГБ уніфікованої пам’яті: один працює з жовтня, другий зовсім новий. На обох ми запустили однаковий тест із трьома мовними моделями. Швидкість генерації відрізнялася менш ніж на пів відсотка.
Два комп’ютери однієї моделі та конфігурації мають бути однаково швидкими. Утім, іноді говорять про відмінності між окремими екземплярами, тож ми хотіли дізнатися, наскільки вони великі в локальному ШІ. Для нас це практичне питання: клієнт орендує конфігурацію й має отримати однакову продуктивність, хоч би який екземпляр йому дістався.
На чому і як ми вимірювали
- Обладнання: два Mac Studio з Apple M5 Ultra (36-ядерний CPU, 80-ядерний GPU) і 256 ГБ уніфікованої пам’яті. Один використовується з жовтня, другий новий.
- Програмне забезпечення: однакове на обох: macOS 27.2.1, Python 3.12, MLX 0.32.4 і mlx-lm 0.32.2.
- Моделі: 4-бітні версії MLX від організації mlx-community на Hugging Face: Qwen3 30B-A3B, Llama 3.3 70B Instruct і gpt-oss-120b (MXFP4-Q8).
- Тест: вбудований інструмент
mlx_lm.benchmarkз коротким промптом (512 токенів, три повтори) і довгим промптом (8 192 токени, два повтори), щоразу з генерацією 128 токенів. Промпт складається з випадкових токенів із фіксованим зерном, тож обидва Mac отримали абсолютно однакові вхідні дані. Кожне вимірювання починалося з прогрівального запуску, а обидва Mac ми вимірювали того самого дня.
Результати
| Модель | Промпт (токени) | Обробка промпту, старіший Mac | Обробка промпту, новий Mac | Генерація, старіший Mac | Генерація, новий Mac | Пік пам’яті |
|---|---|---|---|---|---|---|
| Qwen3 30B-A3B | 512 | 2 285 | 2 237 | 162,2 | 162,2 | 17,8 GB |
| Qwen3 30B-A3B | 8 192 | 7 646 | 7 602 | 138,1 | 138,0 | 18,7 GB |
| Llama 3.3 70B | 512 | 469 | 467 | 25,2 | 25,3 | 40,3 GB |
| Llama 3.3 70B | 8 192 | 682 | 683 | 23,6 | 23,6 | 43,3 GB |
| gpt-oss-120b | 512 | 1 077 | 1 046 | 121,4 | 121,2 | 63,8 GB |
| gpt-oss-120b | 8 192 | 5 143 | 5 109 | 114,8 | 115,2 | 64,5 GB |
Обробка промпту й генерація в токенах за секунду, середнє з повторів (три для 512 токенів, два для 8 192), 128 згенерованих токенів. Старіший Mac: працює з жовтня, новий Mac: зовсім новий. Однакова конфігурація, 4-бітні моделі MLX, mlx-lm 0.32.2, macOS 27.2.1, виміряно 11 листопада 2026 р.
Що показують цифри
Швидкість генерації, тобто те, як швидко модель пише відповідь, на обох Mac однакова: для всіх трьох моделей і обох довжин промпту різниця не перевищує 0,35 %. Обробка довгого промпту відрізняється щонайбільше на 0,7 %. Пікове використання пам’яті збігається з точністю до десятої частини гігабайта.
З коротким промптом новий Mac обробляв його на 2–3 % повільніше. Проте такий запуск триває лише 0,2–0,5 секунди, а повтори на одному й тому самому Mac відрізнялися до 3 %. Тому ми не вважаємо цю різницю реальною.
Результати також збігаються з нашим жовтневим вимірюванням: gpt-oss-120b тоді генерував 120 токенів за секунду, а тепер 121.
Обмеження тесту
Ми порівняли лише два екземпляри, тож результат не стосується всіх Mac Studio M5 Ultra. Промпт із випадкових токенів і коротка генерація дають чисті показники швидкості; у реальних завданнях і з довшими відповідями швидкість може відрізнятися. Тест не вимірює якість відповідей.
Спробуйте самі
Скільки пам’яті потрібно потрібній вам моделі, покаже наш калькулятор RAM. Для власних тестів ви можете орендувати Mac Studio M5 Ultra з 256 ГБ від одного дня.