JA
AIモデルに必要なメモリは？
Macのメモリ容量を選ぶと、動作するオープンな言語モデルが表示されます。モデルを選ぶと、必要なメモリ量がわかります。
ローカルモデルで一般的な4ビット量子化と、約3万2千トークンまでのコンテキストを前提にしています。パラメータ × 4.5ビット ÷ 8に、コンテキストと実行用として10 %と2 GBを加えています。MacはGPUに標準でメモリの約67 %（36 GB以下）または75 %（36 GB超）を割り当て、この上限は引き上げられます。あくまで目安で、実際の使用量はソフトウェアとコンテキストの長さによって変わります。256GBのMac Studio（macOS 27.2.1）ではGPUの上限が240GBなので、256GBにはこの値を使っています。
モデルのデータ： Google Gemma, Wikipedia: Qwen, Nemotron, Kimi, OpenRouter, ComputingForGeeks.
計算ツールによるメモリの見積もり方
言語モデルには、重み、処理するコンテキスト、そして実行そのもののためにメモリが必要です。計算ツールはこれらを次のように合計します。
重み
4ビット量子化では、スケール係数を含めて1パラメータあたり約4.5ビット、つまり10億パラメータあたり約0.56GBになります。70Bモデルなら重みだけで約39GB、120Bモデルなら約66GBです。
コンテキストとKVキャッシュ
モデルはコンテキスト内の各トークンについてキーと値をメモリに保持します。これがKVキャッシュです。必要量はモデルの構造によって異なり、コンテキストが長いほど増えます。計算ツールは重みに10%と2GBを加えており、多くのモデルでは約3万2千トークンまでのコンテキストをまかなえます。それよりずっと長いコンテキストでは、さらに多くのメモリを見込んでください。
Macがメモリのすべてをモデルに使えない理由
Apple SiliconではCPUとGPUが1つのユニファイドメモリを共有し、macOSはその一部をシステム用に確保します。GPUが標準で使える量はMacとmacOSのバージョンによって異なります。256GBのMac Studio（macOS 27.2.1）では、Metalが報告する値は240GB、つまり16GBを除くすべてで、224GBのモデルが設定を変えずに動作しました。以前のmacOSや小さいMacでは約3分の2〜4分の3が一般的だったため、それらについては計算ツールは慎重なこのルールのままです。この上限はiogpu.wired_limit_mbで引き上げられますが、その分システムや他のアプリが使えるメモリは減ります。そのため計算ツールでは「上限を上げれば動作」を別に表示しています。
4ビット、8ビット、16ビット
8ビット量子化は4ビットの約2倍、16ビット（BF16）は約4倍のメモリが必要です。ローカル実行では4ビットが一般的な妥協点で、多くのモデルでは品質の低下は小さく、4ビットを下回ると低下が大きくなります。詳しくは言語モデルに必要なメモリの記事をご覧ください。
見積もりと実測
| モデル | 計算ツールの推定 | 実測ピーク | 収まる最小のMac |
|---|---|---|---|
| Qwen3 30B-A3B | 20.9 GB | 18.7 GB | 32 GB |
| Llama 3.3 70B | 45.7 GB | 43.3 GB | 64 GB |
| gpt-oss-120b | 74.4 GB | 64.5 GB | 128 GB |
2026年11月11日、Mac Studio M5 Ultra上でmlx-lm 0.32.2と8,192トークンのプロンプトで測定。gpt-oss-120bはMXFP4形式で、計算ツールが想定する4.5ビットより少し小さくなります。
見積もりはあえて余裕を持たせています。当社の測定では、3つのモデルとも見積もりより少し少ないメモリで動きました。大きなMacが一時的に必要なだけなら、Mac Studio M5 Ultraのレンタルと購入の比較も参考にしてください。Qwen3.5 397Bについては、計算ツールは見積もりの代わりに当社がコンテキスト32kで実測したピーク（227.5GB）を使っています。詳しくはこのモデルのテストをご覧ください。