TR
22 Ekim 2026 · Jakub M.
Mac Studio M5 Ultra'da bir saat tam yük: Bir milyon token ne kadara mal oluyor
Mac Studio'muza tam bir saat boyunca aynı anda on altı yapay zekâ modeliyle metin ürettirdik ve her on saniyede hız, güç ve sıcaklığı kaydettik. Yavaşlamadan 980.000 token üretti ve bir milyon token 0,074 kWh elektrik harcadı.
Yapay zekâyı yerelde çalıştırmak aslında ne kadara mal oluyor? Kiraladığımız makinenin ta kendisi olan M5 Ultra ve 256 GB belleğe sahip Mac Studio'muzda bir saatlik bir test yaptık ve her on saniyede hızı, çip gücünü ve çip sıcaklığını kaydettik.
Nasıl ölçtük
- Donanım: Apple M5 Ultra'lı (36 çekirdekli CPU, 80 çekirdekli GPU) Mac Studio, 256 GB birleşik bellek, macOS 27.0.1. Test sırasında makinede başka hiçbir şey çalışmadı.
- Model: OpenAI'ın gpt-oss-20b modeli, Apple'ın MLX'i için MXFP4-Q8 sürümüyle (MLX 0.32.4, mlx-lm 0.32.2). 21 milyar parametreli bir uzmanlar karışımı (mixture-of-experts) modelidir ve her token için bunların yaklaşık 3,6 milyarını kullanır. Yaklaşık 12 GB bellek kaplar.
- Yük: On altı ayrı program, her biri modelin kendi kopyasıyla, 60 dakika boyunca aynı anda metin üretti. Bu, on altı kullanıcıyı veya yapay zekâ ajanını taklit eder. Her üretim 2.000 tokenla sınırlandı ve ardından aynı görevle yeniden başladı: bir otomobil motorunun nasıl çalıştığına dair uzun teknik bir makale.
- Ölçüm: Her 10 saniyede üretilen token sayısını, çip gücünü ve ortalama CPU ve GPU sıcaklığını, macmon 0.10.0 ile macOS'ten okuyarak kaydettik. Enerji, ortalama güç çarpı süredir.
Sonuçlar
| Sonuç | |
|---|---|
| Test süresi | 60 dakika |
| Paralel akış | 16 |
| Üretilen | 980.000 token |
| Hız | saniyede 273 token |
| Hız, ilk / son altıda bir | 272 / 272 tok/s |
| Çip gücü, ortalama (maks.) | 73 W (76 W) |
| Dengelenme sonrası CPU / GPU sıcaklığı | 63 / 66 °C |
| En yüksek CPU / GPU sıcaklığı | 66 / 70 °C |
| Milyon token başına enerji | 0,074 kWh |
Sınır işlem gücü değil, bellek hızı
Metin üretirken Mac'i işlem gücü değil bellek bant genişliği sınırlar. Her token için GPU, modelin ilgili kısmını bellekten okumak zorundadır ve zamanının çoğunu veri beklemekle geçirir. Bu yüzden çip, on altı akışta bile yalnızca 73 W çekti.
On altı program GPU'yu paylaşır ve her biri modelin kendi kopyasını okur. Birlikte saniyede 273 token ürettiler, akış başına yaklaşık 17. Bu, sohbet eden tek bir kişi için yavaştır, ancak arka planda çalışan bir grup ajan için yeterlidir. Çıkarım sunucuları bunu farklı yapar: birçok kullanıcının isteklerini tek bir toplu işte işler ve modeli hepsi için bir kez okur; bu da aynı Mac'ten saniyede daha fazla token alınmasını sağlar. Bunu bu testte ölçmedik.
Sıcaklıklar ve kararlılık
GPU sıcaklığı dördüncü dakikada 70 °C'ye çıktı, sonra düştü ve beşinci dakikadan itibaren 66 °C'de kaldı. CPU 63 °C'de dengelendi. Fanlar, çipin yavaşlamasına gerek kalmadan yetişti: testin hem ilk hem de son altıda birinde Mac saniyede 272 token üretti.
Elektriğin maliyeti
Tam yükteki bir saat 0,073 kWh harcadı. Bütün gün böyle çalışmak yaklaşık 1,75 kWh gerektirir ve bir milyon token 0,074 kWh harcar. kWh başına 0,25 € ile bu, milyon token başına 2 sentin altında ve günde yaklaşık 44 sent eder. Yerel yapay zekâda elektriğin neredeyse önemi yoktur; belirleyici olan bilgisayarın fiyatıdır.
Testin göstermedikleri
- Bilgisayarın tamamının gücü. Yalnızca çipi (CPU, GPU ve Neural Engine) ölçtük. Fanlar, SSD, ağ ve güç kaynağı kayıpları dahil değildir, bu yüzden prizden çekilen güç biraz daha yüksektir.
- Toplu sunum. On altı ayrı program, birçok kullanıcıyı tek bir toplu işte karşılayan bir sunucuyla aynı şey değildir.
- Büyük modeller. gpt-oss-20b küçük ve hızlıdır. 70 milyar parametreli yoğun bir model Mac'i farklı yükler ve farklı güç çeker.
- Çıktı kalitesi. Yalnızca hızı ve gücü ölçtük, modelin ne yazdığını değil.
Bunlar yukarıdaki koşullarda ölçülen sonuçlardır, garanti değildir: gerçek hız ve güç; modele, nicemlemeye, bağlam uzunluğuna, yazılıma ve iş yüküne bağlıdır.
Kendiniz deneyin
Kendi modelinizin yük altında nasıl davrandığını görmek isterseniz, bu 256 GB'lık Mac Studio M5 Ultra'yı bir günden itibaren kiralayabilirsiniz. Daha fazla ölçüm altı modelli testimizde.