2026年11月7日 · Jakub M.
新功能:本地 AI 模型内存计算器
你的 Mac 能运行哪些 AI 模型?你想用的模型需要多少内存?我们的新计算器针对 63 个开放模型一目了然地给出答案,从最小的模型到上万亿参数的巨型模型。
我们推出了内存计算器。它能一目了然地显示哪台 Mac 可以运行哪些开放 AI 模型,不必再手动计算。
两种用法
- 我的 Mac 内存:选择你的 Mac 有多少内存(16 至 512 GB),即可看到所有放得下的模型,从大到小排列。
- 我想运行的模型:选择一个模型,即可看到它需要多少内存,以及能在哪些 Mac 上运行。
多少内存放得下什么
| Mac 内存 | 能放下的最大模型(4 位) |
|---|---|
| 16 GB | Ministral 3 14B, Qwen3 8B, Llama 3.1 8B |
| 32 GB | Gemma 4 31B, Qwen3 30B-A3B, gpt-oss-20b |
| 64 GB | Qwen2.5 72B, Llama 3.3 70B, Qwen3.5 35B-A3B |
| 128 GB | Mistral Large 2, Qwen3.5 122B-A10B, gpt-oss-120b |
| 256 GB | DeepSeek V4 Flash, Qwen3 235B-A22B, MiniMax M2 |
| 512 GB | Nemotron 3 Ultra, Qwen3-Coder 480B-A35B, Llama 3.1 405B |
计算器估算:4 位量化,上下文约 3.2 万 token 以内,macOS 默认 GPU 上限。
计算方法
计算器收录了 63 个开放模型,从 Qwen3 0.6B 到 2.4 万亿参数的 Qwen3.8。它按本地模型常用的 4 位量化计算,并为上下文和运行留出余量。它还考虑到 macOS 默认只把大约三分之二到四分之三的内存分给图形处理。结果均为估算,实际占用取决于软件和上下文长度。计算方法详见我们的文章语言模型需要多少内存。
试一试
打开计算器。如果你自己的 Mac 不够用,可以租用 256 GB 的 Mac Studio M5 Ultra,最短一天。