JA
2026年10月26日 · Jakub M.
Mac Studio M5 Ultraのテスト：Qwen3 235Bが毎秒46トークン、プロンプトの読み込みも高速
チェコのテクノロジーサイトVše Smartが、256 GBのMac Studio M5 Ultraでllama.cppとMLXを使って5つの言語モデルをテストしました。最大のQwen3 235Bはメモリを133 GB使い、毎秒46トークンを生成。大規模モデルを動かす上で結果が何を意味するかをまとめます。
出典：Mac Studio M5 Ultra v testu: Qwen3 235B a rychlost čtení promptů（Ludvík Eckerman、Vše Smart、2026年10月26日、チェコ語）。以下の数値はすべてこの記事によるものです。
チェコのサイトVše Smartが、M5 Ultraチップを搭載したMac Studioの詳しいテストを公開しました。当社がレンタルしているのと同じ構成で、80コアGPUと256 GBのユニファイドメモリを備えています。このテストは、当社の最初のベンチマークでは扱わなかった2点、つまり長いプロンプトを読み込む速さと、128 GBのマシンには収まらないモデルに焦点を当てています。
Vše Smartのテスト方法
- ハードウェア：Mac Studio M5 Ultra（80コアGPU）、256 GB、macOS 27.0.1。ほかのアプリは動かしていません。
- ソフトウェア：全レイヤーをGPUで実行したllama.cppと、mlx-lmを使ったMLX 0.32。消費電力と温度はmacmonで記録。
- モデル：Qwen3 8B、Qwen3 30B-A3B、Llama 3.3 70B、gpt-oss-120b、Qwen3 235B-A22B。すべて4ビット量子化（gpt-ossはMXFP4）。Qwen3 235BはMLXのみ。
- テスト：512、4,096、16,384トークンのプロンプトと128トークンの生成、さらに10分間の連続負荷。2026年10月24日測定。
結果
| モデル | メモリ | 生成（llama.cpp） | 生成（MLX） | プロンプト4k（llama.cpp） | プロンプト4k（MLX） |
|---|---|---|---|---|---|
| Qwen3 8B | ≈ 5 GB | 149 | 176 | 4,205 | 6,360 |
| Qwen3 30B-A3B | ≈ 18 GB | 172 | 159 | 4,535 | 9,870 |
| Llama 3.3 70B | ≈ 42 GB | 23 | 25 | 509 | 716 |
| gpt-oss-120b | ≈ 63 GB | 142 | 130 | 3,387 | 6,538 |
| Qwen3 235B-A22B | ≈ 133 GB | – | 46 | – | 1,656 |
空のコンテキストでのトークン/秒：128トークンの生成と、4,096トークンのプロンプトの読み込み。Qwen3 235BはMLXのみでテスト。出典：Vše Smart、2026年10月24日測定。
MLXはプロンプトの読み込みが最大2倍速い
モデルは回答の最初の一語を書く前に、要約したい文書などのプロンプト全体を読み込む必要があります。Vše Smartによると、MLXはすべてのモデルでllama.cppより1.4〜2.2倍速くプロンプトを読み込み、差が最も大きかったのはQwen3 30B-A3Bでした。MLXでgpt-oss-120bを使えば、4,000トークンの文書を1秒を大きく下回る時間で読み込めます。生成速度ではどちらも明確な勝者ではないため、ご自身のモデルで両方を試す価値があります。
長いコンテキスト
| モデル | 生成 | プロンプトの読み込み |
|---|---|---|
| Qwen3 8B | 121 | 5,240 |
| Qwen3 30B-A3B | 115 | 6,822 |
| Llama 3.3 70B | 22 | 650 |
| gpt-oss-120b | 114 | 6,332 |
| Qwen3 235B-A22B | 33 | 1,289 |
MLX、16,384トークンのプロンプトに続いて128トークンを生成（トークン/秒）。出典：Vše Smart。
16,384トークンのプロンプトでは、MLXでの生成はモデルによって約12〜31%遅くなりました。
Qwen3 235Bには128 GB以上が必要
最大のモデルはメモリを約133 GB使い、毎秒約46トークンを生成しました。多くの人が文章を読むより速い速度です。128 GBのMacには収まらないため、ここで256 GB構成の差が出ます。
温度、消費電力、M3 Ultraとの比較
GPU温度は最高87 °Cで、プロンプト読み込み中のチップの消費電力は最大215 Wでした。ファンは最大の62%にあたる2,265 rpmまで上がり、10分間の連続負荷ではスロットリングは見られませんでした。Llama 2 7B（Q4_0）を使ったllama.cppの標準テストでは、M5 UltraはM3 Ultraに比べてプロンプトの読み込みが約3.5倍、生成が約2倍速いと記事は見積もっています。ただし筆者は、M3 Ultraの数値が古いバージョンで測定されたllama.cppのコミュニティ表によるもので、比較はあくまで目安だと述べています。
記事にあるとおり、このテストは回答の品質ではなく速度を測るもので、4ビット量子化と単発のリクエストのみを使い、マシン全体ではなくチップの消費電力を示しています。
ご自身で試す
256 GBのMac Studio M5 Ultraは1日からレンタルでき、ご自身のモデルをテストできます。長時間の負荷での挙動は、当社の1時間負荷テストをご覧ください。