2026年11月3日 · Jakub M.

128 GB 的 MacBook Pro M5 Max：笔记本跑本地 AI 能走多远

Vše Smart 在 128 GB 的 MacBook Pro M5 Max 上运行了 6 个开放模型，参数从 80 亿到 1200 亿不等。全部无需调整系统即可装下，gpt-oss-120b 每秒生成 110 个 token，芯片功耗仅 37–50 W。面对长上下文和大型稠密模型，笔记本就力不从心了。

来源：MacBook Pro M5 Max se 128 GB RAM v testu lokálních AI modelů，Ludvík Eckerman，Vše Smart，2026 年 11 月 2 日（捷克语）。以下所有数据均来自该文。

笔记本能胜任真正的本地 AI 吗？捷克网站 Vše Smart 测试了最强的 MacBook Pro：M5 Max 芯片（18 核 CPU、40 核 GPU），128 GB 统一内存，带宽 614 GB/s。6 个开放模型、2 个推理引擎，并测量了功耗。

测试方法

系统：macOS 27.2，高功率模式，接电源，GPU 内存上限为默认值（约 107 GB）。
软件：llama.cpp（build 11669，Metal）以及 MLX 0.32.4 与 mlx-lm 0.32.2。
模型：Llama 3.1 8B、gpt-oss-20b、Qwen3 30B-A3B、Qwen3 32B、Llama 3.3 70B 和 gpt-oss-120b，4 位量化（gpt-oss 为原生 MXFP4）。
方法：上下文 0 至 32,768 个 token，每项运行三次；芯片功耗用 powermetrics 测量；用 Qwen3 30B-A3B 进行十分钟持续负载。

结果

模型	生成（llama.cpp）	生成（MLX）	32k 上下文生成（MLX）	32k 首个 token（MLX）	内存峰值（MLX）	芯片功耗	每瓦 token 数
Llama 3.1 8B	102	115	60	17 秒	9.5 GB	49.8 W	2.02
gpt-oss-20b	156	142	105	7.5 秒	13.7 GB	48.5 W	3.24
Qwen3 30B-A3B	155	152	72	15 秒	21.1 GB	41.1 W	3.69
Qwen3 32B	26	28	18	72 秒	27.8 GB	48.3 W	0.53
Llama 3.3 70B	12.5	13.6	10	132 秒	51.3 GB	40.5 W	0.31
gpt-oss-120b	110	94	70	13.5 秒	65.5 GB	37.3 W	2.92

生成速度为每秒 token 数，4 位模型（gpt-oss 为 MXFP4），未注明时为空上下文。功耗为 llama.cpp 生成期间仅芯片（CPU、GPU、神经网络引擎）的功耗。来源：Vše Smart，2026 年 11 月 2 日发布。

128 GB 全都装得下

6 个模型都无需提高内存上限即可运行。最大的 gpt-oss-120b 峰值占用 65.5 GB，余量充足。得益于 mixture of experts 架构，它在 llama.cpp 中仍能每秒生成 110 个 token。

MoE 胜出，稠密模型吃力

最快的是每个 token 只调用部分参数的模型：Qwen3 30B-A3B 和 gpt-oss-20b，约每秒 155 个 token。稠密的 Llama 3.3 70B 为每秒 12.5–13.6 个 token，在 32,000 token 上下文下降到约 10，首个 token 需等待 132 秒。用大型稠密模型处理长文档，笔记本已到极限。

省电且稳定

生成时芯片功耗为 37–50 W，空闲约 2.1 W。效率最高的是 Qwen3 30B-A3B，每瓦 3.69 个 token。连续十分钟负载下仍保持约每秒 152 个 token，没有降频迹象。数据仅指芯片而非整机，测试在接电源状态下进行。

128 GB 不够时

对于约 100 GB 以内的模型，MacBook Pro M5 Max 是出色的移动机器。更大的模型，例如需要约 133 GB 的 Qwen3 235B，根本装不下；而在 70B 级稠密模型和长上下文下它会变慢。在我们的巅峰对决中，Mac Studio M5 Ultra 在这类模型上快 2.5 到 2.8 倍。

正如原文所说，测试衡量的是速度，而不是回答质量。

需要更多？

租用 256 GB 的 Mac Studio M5 Ultra，最短一天，运行笔记本装不下的模型。

申请租用性能