TR
26 Ekim 2026 · Jakub M.
Mac Studio M5 Ultra testte: Qwen3 235B saniyede 46 token ve hızlı istem okuma
Çek teknoloji sitesi Vše Smart, 256 GB'lık Mac Studio M5 Ultra'yı llama.cpp ve MLX'te beş dil modeliyle test etti. En büyüğü Qwen3 235B, 133 GB bellek kullandı ve saniyede 46 token üretti. Sonuçların büyük modelleri çalıştırmak için ne anlama geldiğini özetliyoruz.
Kaynak: Mac Studio M5 Ultra v testu: Qwen3 235B a rychlost čtení promptů, Ludvík Eckerman, Vše Smart, 26 Ekim 2026 (Çekçe). Aşağıdaki tüm rakamlar bu makaleden alınmıştır.
Çek sitesi Vše Smart, M5 Ultra çipli Mac Studio'nun ayrıntılı bir testini yayımladı. Bu, kiraladığımız yapılandırmanın aynısı: 80 çekirdekli GPU ve 256 GB birleşik bellek. Test, ilk ölçümümüzün kapsamadığı iki konuya odaklanıyor: Mac'in uzun istemleri ne kadar hızlı okuduğu ve 128 GB'lık bir makineye sığmayan bir model.
Vše Smart nasıl test etti
- Donanım: Mac Studio M5 Ultra (80 çekirdekli GPU), 256 GB, macOS 27.0.1; başka uygulama çalışmıyordu.
- Yazılım: tüm katmanları GPU'da çalışan llama.cpp ve mlx-lm ile MLX 0.32. Güç ve sıcaklıklar macmon ile kaydedildi.
- Modeller: Qwen3 8B, Qwen3 30B-A3B, Llama 3.3 70B, gpt-oss-120b ve Qwen3 235B-A22B; hepsi 4 bit nicemlemeyle (gpt-oss MXFP4). Qwen3 235B yalnızca MLX'te.
- Testler: 512, 4.096 ve 16.384 tokenlık istemler ve 128 üretilen token, ayrıca on dakikalık kesintisiz yük. 24 Ekim 2026'da ölçüldü.
Sonuçlar
| Model | Bellek | Üretim, llama.cpp | Üretim, MLX | 4k istem, llama.cpp | 4k istem, MLX |
|---|---|---|---|---|---|
| Qwen3 8B | ≈ 5 GB | 149 | 176 | 4.205 | 6.360 |
| Qwen3 30B-A3B | ≈ 18 GB | 172 | 159 | 4.535 | 9.870 |
| Llama 3.3 70B | ≈ 42 GB | 23 | 25 | 509 | 716 |
| gpt-oss-120b | ≈ 63 GB | 142 | 130 | 3.387 | 6.538 |
| Qwen3 235B-A22B | ≈ 133 GB | – | 46 | – | 1.656 |
Boş bağlamla saniyedeki token: 128 token üretme ve 4.096 tokenlık bir istemi okuma. Qwen3 235B yalnızca MLX'te test edildi. Kaynak: Vše Smart, 24 Ekim 2026'da ölçüldü.
MLX istemleri iki kata kadar daha hızlı okuyor
Bir model yanıtının ilk kelimesini yazmadan önce, örneğin özetlemek istediğiniz bir belge gibi istemin tamamını okumak zorundadır. Vše Smart'a göre MLX, istemleri tüm modellerde llama.cpp'den 1,4 ile 2,2 kat daha hızlı okudu; en büyük fark Qwen3 30B-A3B'deydi. MLX'te gpt-oss-120b ile 4.000 tokenlık bir belge bir saniyeden çok daha kısa sürede okunuyor. Üretimde açık bir kazanan olmadı, bu yüzden ikisini de kendi modelinizle denemeye değer.
Uzun bağlam
| Model | Üretim | İstemi okuma |
|---|---|---|
| Qwen3 8B | 121 | 5.240 |
| Qwen3 30B-A3B | 115 | 6.822 |
| Llama 3.3 70B | 22 | 650 |
| gpt-oss-120b | 114 | 6.332 |
| Qwen3 235B-A22B | 33 | 1.289 |
MLX, 16.384 tokenlık istem ve ardından 128 üretilen token, saniyedeki token. Kaynak: Vše Smart.
16.384 tokenlık bir istemle MLX'te üretim, modele bağlı olarak yaklaşık yüzde 12 ile 31 arasında yavaşladı.
Qwen3 235B 128 GB'tan fazlasına ihtiyaç duyuyor
En büyük model yaklaşık 133 GB bellek kullandı ve saniyede yaklaşık 46 token üretti; bu, çoğu insanın okuma hızından daha hızlı. 128 GB'lık bir Mac'e sığmazdı ve 256 GB yapılandırması tam da burada fark yaratıyor.
Sıcaklıklar, güç ve M3 Ultra karşılaştırması
GPU en fazla 87 °C'ye ulaştı ve çip istem okurken 215 W'a kadar güç çekti. Fan, azamisinin yüzde 62'si olan 2.265 rpm'ye çıktı ve on dakikalık kesintisiz yük boyunca testte performans düşürme görülmedi. Llama 2 7B (Q4_0) ile yapılan standart llama.cpp testinde makale, M5 Ultra'nın M3 Ultra'ya göre istemleri yaklaşık 3,5 kat daha hızlı okuduğunu ve yaklaşık iki kat daha hızlı ürettiğini tahmin ediyor. Yazar, M3 Ultra rakamlarının eski sürümlerle ölçülen llama.cpp topluluk tablosundan geldiğini, bu yüzden karşılaştırmanın yalnızca kaba bir fikir verdiğini belirtiyor.
Makalenin belirttiği gibi test, yanıt kalitesini değil hızı ölçüyor, yalnızca 4 bit nicemleme ve tekil istekler kullanıyor ve tüm bilgisayarın değil çipin güç tüketimini veriyor.
Kendiniz deneyin
256 GB'lık Mac Studio M5 Ultra'yı bir günden itibaren kiralayıp üzerinde kendi modellerinizi test edebilirsiniz. Uzun süreli yük altında nasıl davrandığını bir saatlik yük testimiz gösteriyor.