TR
11 Kasım 2026 · Jakub M.
İki aynı Mac Studio M5 Ultra: Yerel yapay zekâda hızları farklı mı?
M5 Ultra ve 256 GB birleşik belleğe sahip iki Mac Studio'muz var: biri ekimden beri çalışıyor, diğeri yepyeni. İkisinde de üç dil modeliyle aynı testi çalıştırdık. Üretim hızı yüzde yarımdan az farklıydı.
Aynı model ve yapılandırmadaki iki bilgisayarın aynı hızda olması gerekir. Yine de bazen tek tek cihazlar arasındaki farklardan söz edilir; biz de yerel yapay zekâda bu farkın ne kadar olduğunu öğrenmek istedik. Bizim için bu pratik bir soru: Müşteri bir yapılandırma kiralar ve hangi cihaz ona düşerse düşsün aynı performansı almalıdır.
Neyle ve nasıl ölçtük
- Donanım: Apple M5 Ultra (36 çekirdekli CPU, 80 çekirdekli GPU) ve 256 GB birleşik belleğe sahip iki Mac Studio. Biri ekimden beri kullanımda, diğeri yeni.
- Yazılım: ikisinde de aynı: macOS 27.2.1, Python 3.12, MLX 0.32.4 ve mlx-lm 0.32.2.
- Modeller: Hugging Face'teki mlx-community kuruluşunun 4 bit MLX sürümleri: Qwen3 30B-A3B, Llama 3.3 70B Instruct ve gpt-oss-120b (MXFP4-Q8).
- Test: yerleşik
mlx_lm.benchmarkaracı; kısa istem (512 token, üç tekrar) ve uzun istem (8.192 token, iki tekrar), her seferinde 128 token üretildi. İstem sabit tohumlu rastgele tokenlerden oluşuyor; böylece iki Mac de tamamen aynı girdiyi aldı. Her ölçüm bir ısınma çalıştırmasıyla başladı ve iki Mac aynı gün ölçüldü.
Sonuçlar
| Model | İstem (token) | İstem işleme, eski Mac | İstem işleme, yeni Mac | Üretim, eski Mac | Üretim, yeni Mac | Bellek zirvesi |
|---|---|---|---|---|---|---|
| Qwen3 30B-A3B | 512 | 2.285 | 2.237 | 162,2 | 162,2 | 17,8 GB |
| Qwen3 30B-A3B | 8.192 | 7.646 | 7.602 | 138,1 | 138,0 | 18,7 GB |
| Llama 3.3 70B | 512 | 469 | 467 | 25,2 | 25,3 | 40,3 GB |
| Llama 3.3 70B | 8.192 | 682 | 683 | 23,6 | 23,6 | 43,3 GB |
| gpt-oss-120b | 512 | 1.077 | 1.046 | 121,4 | 121,2 | 63,8 GB |
| gpt-oss-120b | 8.192 | 5.143 | 5.109 | 114,8 | 115,2 | 64,5 GB |
İstem işleme ve üretim saniyedeki token cinsinden, tekrarların ortalaması (512 tokende üç, 8.192'de iki), 128 token üretildi. Eski Mac: ekimden beri kullanımda; yeni Mac: sıfır. Aynı yapılandırma, 4 bit MLX modelleri, mlx-lm 0.32.2, macOS 27.2.1, 11 Kasım 2026'da ölçüldü.
Rakamlar ne gösteriyor
Üretim hızı, yani modelin yanıtını ne kadar hızlı yazdığı, iki Mac'te de aynı: üç modelde ve iki istem uzunluğunda fark en fazla %0,35. Uzun istemin işlenmesi en fazla %0,7 farklı. En yüksek bellek kullanımı gigabaytın onda birine kadar aynı.
Kısa istemde yeni Mac, istemi %2-3 daha yavaş işledi. Ancak bu çalıştırma yalnızca 0,2-0,5 saniye sürüyor ve aynı Mac'teki tekrarlar bile %3'e kadar değişti. Bu yüzden bu farkı gerçek saymıyoruz.
Sonuçlar ekim ayındaki ölçümümüzle de örtüşüyor: gpt-oss-120b o zaman saniyede 120 token üretiyordu, şimdi 121.
Testin sınırları
Yalnızca iki cihazı karşılaştırdık; dolayısıyla sonuç her Mac Studio M5 Ultra için geçerli değil. Rastgele tokenlerden oluşan istem ve kısa üretim saf hız rakamları verir; gerçek işlerde ve daha uzun yanıtlarda hız farklı olabilir. Test yanıtların kalitesini ölçmez.
Kendiniz deneyin
Kullanmak istediğiniz modelin ne kadar belleğe ihtiyaç duyduğunu RAM hesaplayıcımız gösterir. Kendi testleriniz için 256 GB'lık bir Mac Studio M5 Ultra kiralayabilirsiniz, bir günden itibaren.