2026年11月7日 · Jakub M.

新功能:本地 AI 模型内存计算器

你的 Mac 能运行哪些 AI 模型?你想用的模型需要多少内存?我们的新计算器针对 63 个开放模型一目了然地给出答案,从最小的模型到上万亿参数的巨型模型。

我们推出了内存计算器。它能一目了然地显示哪台 Mac 可以运行哪些开放 AI 模型,不必再手动计算。

两种用法

多少内存放得下什么

Mac 内存能放下的最大模型(4 位)
16 GBMinistral 3 14B, Qwen3 8B, Llama 3.1 8B
32 GBGemma 4 31B, Qwen3 30B-A3B, gpt-oss-20b
64 GBQwen2.5 72B, Llama 3.3 70B, Qwen3.5 35B-A3B
128 GBMistral Large 2, Qwen3.5 122B-A10B, gpt-oss-120b
256 GBDeepSeek V4 Flash, Qwen3 235B-A22B, MiniMax M2
512 GBNemotron 3 Ultra, Qwen3-Coder 480B-A35B, Llama 3.1 405B

计算器估算:4 位量化,上下文约 3.2 万 token 以内,macOS 默认 GPU 上限。

计算方法

计算器收录了 63 个开放模型,从 Qwen3 0.6B 到 2.4 万亿参数的 Qwen3.8。它按本地模型常用的 4 位量化计算,并为上下文和运行留出余量。它还考虑到 macOS 默认只把大约三分之二到四分之三的内存分给图形处理。结果均为估算,实际占用取决于软件和上下文长度。计算方法详见我们的文章语言模型需要多少内存。

试一试

打开计算器。如果你自己的 Mac 不够用,可以租用 256 GB 的 Mac Studio M5 Ultra,最短一天。

申请租用 性能

← 全部文章