2026年10月16日 · Jakub Mokříš
Mac Studio M5 Ultraで15のAIモデルを比較：実際に毎秒何トークン出るのか
チェコのテックメディアVše Smartが、M5 Ultraと256 GBメモリを搭載したMac Studioで32種類のローカル言語モデルを動かしました。その中から小型のQwen3 4Bから1230億パラメータのMistral Largeまで15モデルを選び、数字が日々の作業にどう関わるのかを見ていきます。
ローカルモデルの速度比較は、たいてい2〜3モデルで終わってしまいます。Vše Smartの編集部は、256 GBのユニファイドメモリを搭載したMac Studio M5 Ultraで32モデルを、それぞれ11回ずつ測定しました。今回はその結果から、小型と大型、Dense型とMoE型をまんべんなく含む15モデルを取り上げます。
測定方法
モデルはOllamaで動かし、シンプルなPythonスクリプトで制御しました。課題はすべて同じで、最新の自動車の構造について長めの技術文を書かせるものです。出力上限は2,000トークン、温度は0、コンテキストは8,192トークン。各モデルの1回目はウォームアップとして除外し、残り10回の平均を結果としています。モデル間には30秒の待ち時間を挟みました。
テスト全体は4時間以上かかり、その間に生成されたトークンは70万を超えました。測ったのは速度だけで、回答の質は評価していません。
結果
| モデル | タイプ | 生成速度 |
|---|---|---|
| Qwen3 4B | Dense | |
| Qwen3 30B-A3B | MoE（アクティブ3B） | |
| gpt-oss-20b | MoE（アクティブ3.6B） | |
| Qwen3.5 35B-A3B | MoE（アクティブ3B） | |
| Qwen3.5 9B | Dense | |
| gpt-oss-120b | MoE（アクティブ5.1B） | |
| Gemma 4 26B-A4B | MoE（アクティブ4B） | |
| Qwen3-Next 80B-A3B | MoE（アクティブ3B） | |
| Qwen3.5 122B-A10B | MoE（アクティブ10B） | |
| Llama 4 Scout | MoE（アクティブ17B） | |
| Mistral Small 3.2 24B | Dense | |
| Qwen3.5 27B | Dense | |
| Gemma 4 31B | Dense | |
| Llama 3.3 70B | Dense | |
| Mistral Large 123B | Dense |
Ollamaでの10回の平均。出力2,000トークン、コンテキスト8k。MoEはmixture of experts、「アクティブ」はトークンごとに使われるパラメータ数です。データ：Vše Smart。
モデルの大きさは速度の目安にならない
いちばんわかりやすいのは、gpt-oss-120bとLlama 3.3 70Bの比較です。OpenAIのモデルはパラメータ数が多い（1170億対700億）のに、生成速度は5倍、毎秒115トークン対23トークンでした。違いを生むのはアーキテクチャです。gpt-oss-120bはmixture of experts（MoE）型で、1トークンごとに使うパラメータは約50億だけ。一方、Dense型のLlama 3.3は毎回700億すべてを計算します。
Qwenでも同じ傾向が出ています。アクティブパラメータ100億の122B-A10Bは毎秒85トークン、4分の1の大きさのDense型Qwen3.5 27Bは48トークンでした。速度を重視してモデルを選ぶなら、総パラメータ数ではなくアクティブパラメータ数を見るのが近道です。
どのくらい速ければ十分か
普通のチャットなら毎秒20トークン前後で十分です。この速さなら、ほとんどの人が読むより早く文字が出てきます。表の15モデルのうち、このラインを下回ったのはMistral Large（毎秒14トークン）だけでした。それでも、夜間の文書処理のように画面の前で待たない作業には使えます。
速度の差がはっきり効いてくるのは、コーディングアシスタントが長いコードを書くときです。そうした用途では、gpt-oss-120b、Qwen3-Next 80B、Qwen3.5 122Bなど、毎秒80トークンを超えるモデルが向いています。
当社の測定とも一致
同じモデルのいくつかは、当社のMac StudioでOllamaではなくMLXを使い、少し違う方法で測っています。数値には数%から数十%の差がありますが、全体の傾向は変わりません。gpt-oss-120bは毎秒120トークン（Vše Smartでは115）、gpt-oss-20bは184（169）、Qwen3.5 27Bは55（48）でした。逆にGemma 4 31Bは当社のほうが遅く、31対40でしたが、これは別バージョンのモデルを使ったためです。詳しくは当社の測定記事をご覧ください。
ご自身で試してみる
32モデルすべてが256 GBのメモリに収まり、まだ余裕がありました。同じクラスのマシンの購入を検討している方や、数日だけパワーが必要な方は、当社のMac Studio M5 Ultra（256 GB）をレンタルできます。現在、日単位・週単位のレンタルは無料です。
データ出典：Vše Smart「Mac Studio M5 Ultraで32のローカルAIモデルをテスト」（Ludvík Eckerman、2026年10月5日、チェコ語）。