2026年11月11日 · Jakub M.
同じ構成のMac Studio M5 Ultra 2台:ローカルAIの速度に差は出るのか
当社にはM5 Ultraと256GBのユニファイドメモリを搭載したMac Studioが2台あります。1台は10月から稼働しており、もう1台は新品です。両方で3つの言語モデルを使った同じテストを実行したところ、生成速度の差は0.5%未満でした。
同じモデル・同じ構成のコンピュータなら、速度も同じはずです。ただし個体差が話題になることもあり、ローカルAIではどの程度なのかを確かめたいと考えました。当社にとっては実務的な問題です。お客様は構成を指定してレンタルするので、どの個体が割り当てられても同じ性能を得られるべきだからです。
測定環境と方法
- ハードウェア:Apple M5 Ultra(36コアCPU、80コアGPU)と256GBのユニファイドメモリを搭載したMac Studio 2台。1台は10月から使用中、もう1台は新品です。
- ソフトウェア:両方で同一:macOS 27.2.1、Python 3.12、MLX 0.32.4、mlx-lm 0.32.2。
- モデル:Hugging Faceのmlx-communityによる4ビットMLX版:Qwen3 30B-A3B、Llama 3.3 70B Instruct、gpt-oss-120b(MXFP4-Q8)。
- テスト:内蔵ツール
mlx_lm.benchmarkで、短いプロンプト(512トークン、3回)と長いプロンプト(8,192トークン、2回)を測定し、いずれも128トークンを生成しました。プロンプトは固定シードのランダムなトークンで、2台にまったく同じ入力を与えています。各測定の前にウォームアップを1回実行し、2台とも同じ日に測定しました。
結果
| モデル | プロンプト(トークン) | プロンプト処理(古いMac) | プロンプト処理(新しいMac) | 生成(古いMac) | 生成(新しいMac) | ピークメモリ |
|---|---|---|---|---|---|---|
| Qwen3 30B-A3B | 512 | 2,285 | 2,237 | 162.2 | 162.2 | 17.8 GB |
| Qwen3 30B-A3B | 8,192 | 7,646 | 7,602 | 138.1 | 138.0 | 18.7 GB |
| Llama 3.3 70B | 512 | 469 | 467 | 25.2 | 25.3 | 40.3 GB |
| Llama 3.3 70B | 8,192 | 682 | 683 | 23.6 | 23.6 | 43.3 GB |
| gpt-oss-120b | 512 | 1,077 | 1,046 | 121.4 | 121.2 | 63.8 GB |
| gpt-oss-120b | 8,192 | 5,143 | 5,109 | 114.8 | 115.2 | 64.5 GB |
プロンプト処理と生成はトークン/秒、複数回の平均(512トークンは3回、8,192トークンは2回)、生成は128トークン。古いMac:10月から稼働、新しいMac:新品。同一構成、4ビットMLXモデル、mlx-lm 0.32.2、macOS 27.2.1、2026年11月11日に測定。
数値からわかること
生成速度、つまりモデルが回答を書き出す速さは2台で同じです。3つのモデル、2種類のプロンプト長のすべてで、差は最大0.35%でした。長いプロンプトの処理速度の差は最大0.7%です。ピークメモリは0.1GB単位まで一致しました。
短いプロンプトでは、新しいMacの処理が2〜3%遅い結果になりました。ただしこの測定は0.2〜0.5秒しかかからず、同じMacでの繰り返しでも最大3%のばらつきがありました。そのため、この差は実際の差とはみなしていません。
結果は当社の10月の測定とも一致しています。gpt-oss-120bの生成速度は当時毎秒120トークン、今回は121トークンでした。
テストの限界
比較したのは2台だけなので、すべてのMac Studio M5 Ultraに当てはまるわけではありません。ランダムなトークンのプロンプトと短い生成で得られるのは純粋な速度の数値で、実際の作業や長い回答では速度が変わる可能性があります。回答の品質は測定していません。
ご自身で試す
使いたいモデルに必要なメモリ量はRAM計算ツールで確認できます。独自のテストには、256GBのMac Studio M5 Ultraを1日からレンタルできます。