ID
11 November 2026 · Jakub M.
Dua Mac Studio M5 Ultra identik: apakah kecepatan AI lokalnya berbeda?
Kami punya dua Mac Studio dengan M5 Ultra dan memori terpadu 256 GB: satu sudah berjalan sejak Oktober, satunya lagi baru. Kami menjalankan tes yang sama dengan tiga model bahasa di keduanya. Kecepatan generasi berbeda kurang dari setengah persen.
Dua komputer dengan model dan konfigurasi yang sama seharusnya sama cepat. Namun kadang ada pembicaraan soal perbedaan antarunit, jadi kami ingin tahu seberapa besar perbedaannya untuk AI lokal. Bagi kami ini pertanyaan praktis: pelanggan menyewa sebuah konfigurasi dan harus mendapat kinerja yang sama, unit mana pun yang ia terima.
Apa dan bagaimana kami mengukur
- Perangkat keras: dua Mac Studio dengan Apple M5 Ultra (CPU 36 inti, GPU 80 inti) dan memori terpadu 256 GB. Satu dipakai sejak Oktober, satunya lagi baru.
- Perangkat lunak: sama di keduanya: macOS 27.2.1, Python 3.12, MLX 0.32.4, dan mlx-lm 0.32.2.
- Model: versi MLX 4-bit dari organisasi mlx-community di Hugging Face: Qwen3 30B-A3B, Llama 3.3 70B Instruct, dan gpt-oss-120b (MXFP4-Q8).
- Tes: alat bawaan
mlx_lm.benchmarkdengan prompt pendek (512 token, tiga kali) dan prompt panjang (8.192 token, dua kali), masing-masing dengan 128 token yang dihasilkan. Prompt terdiri dari token acak dengan seed tetap, sehingga kedua Mac menerima masukan yang persis sama. Setiap pengukuran diawali satu putaran pemanasan, dan kedua Mac diukur pada hari yang sama.
Hasil
| Model | Prompt (token) | Pemrosesan prompt, Mac lama | Pemrosesan prompt, Mac baru | Generasi, Mac lama | Generasi, Mac baru | Puncak memori |
|---|---|---|---|---|---|---|
| Qwen3 30B-A3B | 512 | 2.285 | 2.237 | 162,2 | 162,2 | 17,8 GB |
| Qwen3 30B-A3B | 8.192 | 7.646 | 7.602 | 138,1 | 138,0 | 18,7 GB |
| Llama 3.3 70B | 512 | 469 | 467 | 25,2 | 25,3 | 40,3 GB |
| Llama 3.3 70B | 8.192 | 682 | 683 | 23,6 | 23,6 | 43,3 GB |
| gpt-oss-120b | 512 | 1.077 | 1.046 | 121,4 | 121,2 | 63,8 GB |
| gpt-oss-120b | 8.192 | 5.143 | 5.109 | 114,8 | 115,2 | 64,5 GB |
Pemrosesan prompt dan generasi dalam token per detik, rata-rata pengulangan (tiga kali untuk 512 token, dua kali untuk 8.192), 128 token dihasilkan. Mac lama: dipakai sejak Oktober; Mac baru: benar-benar baru. Konfigurasi sama, model MLX 4-bit, mlx-lm 0.32.2, macOS 27.2.1, diukur pada 11 November 2026.
Apa arti angka-angka ini
Kecepatan generasi, yaitu seberapa cepat model menulis jawabannya, sama di kedua Mac: untuk ketiga model dan kedua panjang prompt, selisihnya paling banyak 0,35%. Pemrosesan prompt panjang berbeda paling banyak 0,7%. Puncak pemakaian memori sama persis hingga sepersepuluh gigabyte.
Dengan prompt pendek, Mac baru 2–3% lebih lambat saat memprosesnya. Namun putaran itu hanya berlangsung 0,2–0,5 detik, dan pengulangan pada satu Mac yang sama pun bervariasi hingga 3%. Karena itu kami tidak menganggap selisih ini nyata.
Hasilnya juga sesuai dengan pengukuran kami pada Oktober: gpt-oss-120b saat itu menghasilkan 120 token per detik, sekarang 121.
Keterbatasan tes
Kami hanya membandingkan dua unit, jadi hasilnya tidak berlaku untuk semua Mac Studio M5 Ultra. Prompt dari token acak dan generasi singkat memberi angka kecepatan murni; pada tugas nyata dan jawaban yang lebih panjang, kecepatannya bisa berbeda. Tes ini tidak mengukur kualitas jawaban.
Coba sendiri
Berapa memori yang dibutuhkan model yang ingin Anda pakai bisa dilihat di kalkulator RAM kami. Untuk tes Anda sendiri, Anda bisa menyewa Mac Studio M5 Ultra 256 GB mulai satu hari.