2026年10月15日 · Jakub Mokříš
256 GBのMac Studio M5 UltraとローカルAI：6つのモデルを実測
M5 Ultraと256 GBのユニファイドメモリを搭載したMac Studioは、実際に毎秒何トークンを生成できるのか。90億〜1200億パラメータの人気オープンモデル6種を、空のコンテキストと長いコンテキストで測定し、メモリ使用量も記録しました。
ローカル言語モデルでのApple Siliconのテストは、1つのモデルについて1つの数値だけを示し、測定方法を説明しないことがほとんどです。私たちは完全で再現可能な数値を求め、すべてのモデルを同じ方法で測定し、その方法を記録しました。
測定環境と方法
- ハードウェア：Apple M5 Ultra、256 GBユニファイドメモリ、4 TB SSDを搭載したMac Studio。当社がレンタルしているマシンそのものです。
- ソフトウェア：macOS 27.0.1、Python 3.12、AppleのMLXフレームワークをベースにしたmlx-lm 0.32。
- モデル：Hugging Faceのmlx-communityによるMLX版、4ビット量子化。gpt-ossはエキスパートの重みにMXFP4を使用（「MXFP4-Q8」版）、Gemma 4 31Bは4ビットのQAT版です。
- テスト：コンテキストにすでに0、8,192、32,768トークンがある状態で、512トークンのプロンプトに続けて128トークンを生成。空のコンテキストでは2回測定して平均し、長いコンテキストでは1回測定しました。速度は文章の内容に左右されないため、プロンプトはランダムなトークンです。
- メモリ：テスト中にMLXが報告したピークメモリ。モデルの重みとコンテキストキャッシュを含みます。
結果
| モデル | タイプ | サイズ | 生成（空） | 生成（8k） | 生成（32k） | メモリ（空） | メモリ（32k） |
|---|---|---|---|---|---|---|---|
| Qwen3.5 9B | Dense | 6.0 GB | 167 | 161 | 141 | 5.5 GB | 7.4 GB |
| gpt-oss-20b | MoE | 12.1 GB | 184 | 172 | 145 | 11.7 GB | 12.8 GB |
| Qwen3.5 27B | Dense | 16.1 GB | 55 | 53 | 48 | 15.3 GB | 18.8 GB |
| Gemma 4 31B | Dense | 28.8 GB | 31 | 27 | 21 | 26.6 GB | 31.5 GB |
| Qwen3.5 35B-A3B | MoE | 20.4 GB | 162 | 154 | 141 | 18.8 GB | 20.6 GB |
| gpt-oss-120b | MoE | 63.4 GB | 120 | 113 | 96 | 59.5 GB | 61.0 GB |
生成速度（トークン/秒）。「空」「8k」「32k」は、すでにコンテキストに入っているトークン数です。メモリはMLXが報告したピーク値です。
数値からわかること
Mixture-of-Expertsモデルは大幅に速い
テストで最も速かったのは、最小のモデルではありません。gpt-oss-20bは毎秒184トークン、gpt-oss-120bでも120トークンに達しました。どちらもmixture-of-experts（MoE）モデルで、トークンごとにパラメータのごく一部しか使いません。OpenAIによると、gpt-oss-20bで約36億、gpt-oss-120bで約51億です。アクティブパラメータ約30億のQwen3.5 35B-A3Bも同じ仕組みで、毎秒162トークンに達しました。
Dense（密）モデルはトークンごとにすべてのパラメータを使うため遅くなります。Qwen3.5 27Bは毎秒55トークン、Gemma 4 31Bは31トークンでした。参考までに、毎秒20トークン程度でもほとんどの人の読む速さを上回るため、テストで最も遅いモデルでもチャットには十分快適です。
長いコンテキストでは12〜32%低下
コンテキストに32,768トークンある状態では、ほとんどのモデルで生成速度が12〜21%低下しました。最も低下したのはGemma 4 31Bで、毎秒31から21トークンへ、約3分の1の低下です。長い文書や大規模なコードベースを扱う場合は、この列を重視してください。
256 GBには大きな余裕がある
テストした最大のモデルgpt-oss-120bでも、32kのコンテキストを含めて61 GBしか使わず、メモリの4分の1未満でした。残りの容量で、Qwen3.5 122B-A10B（4ビット版で約70 GB）や、4ビットのファイルが224 GBあるQwen3.5 397B-A17Bのような、はるかに大きなモデルも扱えます。回答用の大きなモデルと、クエリの振り分けや埋め込み用の小さなモデルを並べて動かすこともできます。
測定していないこと
- プロンプト処理速度。512トークンの短いテストでは結果がばらつき、モデルによっておよそ毎秒500〜5,000トークンでした。プロンプトの読み込みが生成より何倍も速いとは言えますが、正確な数値を示すには不十分です。より長い測定を追加する予定です。
- 他のソフトウェア。使用したのはMLXのみです。llama.cpp、Ollama、LM StudioでのGGUFモデルでは結果が異なる場合があります。
- 回答の品質、消費電力、最大級のモデル（122Bと397B）。今後測定する予定です。
ご自身の作業で試す
他人のテスト結果だけでは、そのマシンがあなたの作業に合うかどうかは完全にはわかりません。だからこそ当社は、このMac Studioそのものを1日から、SSHまたはリモートデスクトップでレンタルしています。購入を検討中なら、まずご自身のモデルとデータで試してみてください。