JA
2026年11月3日 · Jakub M.
128 GBのMacBook Pro M5 Max：ローカルAIでノートはどこまで行けるか
Vše Smartは、128 GBのMacBook Pro M5 Maxで80億〜1,200億パラメータの6つのオープンモデルを動かしました。すべてシステム設定を変えずに収まり、gpt-oss-120bは毎秒110トークンを生成し、チップの消費電力はわずか37〜50 W。長いコンテキストと大きなDenseモデルでは息切れします。
出典：MacBook Pro M5 Max se 128 GB RAM v testu lokálních AI modelů（Ludvík Eckerman、Vše Smart、2026年11月2日、チェコ語）。以下の数値はすべてこの記事によるものです。
ノートパソコンで本格的なローカルAIはこなせるのか。チェコのサイトVše Smartが、M5 Maxチップ（18コアCPU、40コアGPU）と帯域幅614 GB/sの128 GBユニファイドメモリを備えた最上位のMacBook Proをテストしました。6つのオープンモデル、2つの推論エンジン、そして消費電力を見ています。
テスト方法
- システム：macOS 27.2、高パワーモード、電源アダプタ接続、GPUメモリ上限は初期設定（約107 GB）。
- ソフトウェア：llama.cpp（build 11669、Metal）とMLX 0.32.4＋mlx-lm 0.32.2。
- モデル：Llama 3.1 8B、gpt-oss-20b、Qwen3 30B-A3B、Qwen3 32B、Llama 3.3 70B、gpt-oss-120b。4ビット量子化（gpt-ossはネイティブのMXFP4）。
- 方法：コンテキスト0〜32,768トークンで各3回、チップの消費電力はpowermetricsで測定、Qwen3 30B-A3Bで10分間の連続負荷。
結果
| モデル | 生成（llama.cpp） | 生成（MLX） | 32kコンテキストでの生成（MLX） | 32kでの最初のトークン（MLX） | ピークメモリ（MLX） | チップの消費電力 | 1ワットあたりのトークン |
|---|---|---|---|---|---|---|---|
| Llama 3.1 8B | 102 | 115 | 60 | 17 秒 | 9.5 GB | 49.8 W | 2.02 |
| gpt-oss-20b | 156 | 142 | 105 | 7.5 秒 | 13.7 GB | 48.5 W | 3.24 |
| Qwen3 30B-A3B | 155 | 152 | 72 | 15 秒 | 21.1 GB | 41.1 W | 3.69 |
| Qwen3 32B | 26 | 28 | 18 | 72 秒 | 27.8 GB | 48.3 W | 0.53 |
| Llama 3.3 70B | 12.5 | 13.6 | 10 | 132 秒 | 51.3 GB | 40.5 W | 0.31 |
| gpt-oss-120b | 110 | 94 | 70 | 13.5 秒 | 65.5 GB | 37.3 W | 2.92 |
生成はトークン/秒、4ビットモデル（gpt-ossはMXFP4）、特記のない限り空のコンテキスト。消費電力はllama.cppでの生成中のチップのみ（CPU、GPU、Neural Engine）。出典：Vše Smart、2026年11月2日公開。
128 GBにすべて収まる
6つのモデルはすべてメモリ上限を上げずに動作しました。最大のgpt-oss-120bでもピークは65.5 GBで、十分な余裕があります。mixture of experts構造のおかげで、llama.cppでは毎秒110トークンを生成します。
MoEが勝ち、Denseモデルは苦戦
最速だったのは、トークンごとにパラメータの一部しか使わないモデルで、Qwen3 30B-A3Bとgpt-oss-20bは毎秒約155トークン。DenseのLlama 3.3 70Bは毎秒12.5〜13.6トークンで、32,000トークンのコンテキストでは約10に落ち、最初のトークンまで132秒かかりました。大きなDenseモデルで長い文書を扱うには、ノートは限界です。
省電力で安定
生成中のチップの消費電力は37〜50 W、アイドル時は約2.1 W。最も効率が良かったのはQwen3 30B-A3Bで1ワットあたり3.69トークン。10分間の連続負荷でも毎秒約152トークンを保ち、スロットリングの兆候はありませんでした。数値はチップのみで、ノート全体ではなく、テストは電源アダプタ接続で行われました。
128 GBで足りないとき
MacBook Pro M5 Maxは約100 GBまでのモデルには優れたモバイルマシンです。約133 GBが必要なQwen3 235Bのような大きなモデルはそもそも収まらず、70BクラスのDenseモデルと長いコンテキストでは遅くなります。当社の頂上決戦では、こうしたモデルでMac Studio M5 Ultraが2.5〜2.8倍高速でした。
記事にあるとおり、このテストは回答の品質ではなく速度を測ったものです。
もっと必要なら
256 GBのMac Studio M5 Ultraを1日からレンタルして、ノートに収まらないモデルを動かしてください。