2026年10月22日 · Jakub M.

Mac Studio M5 Ultraを1時間フル稼働：100万トークンのコストは

当社のMac Studioで16個のAIモデルを同時に動かし、1時間ずっと文章を生成させながら、10秒ごとに速度、消費電力、温度を記録しました。速度を落とすことなく98万トークンを生成し、100万トークンあたりの電力量は0.074 kWhでした。

ローカルでAIを動かすと、実際どれくらいのコストがかかるのでしょうか。当社がレンタルしているものと同じ、M5 Ultraと256 GBメモリを搭載したMac Studioで1時間のテストを行い、10秒ごとに速度、チップの消費電力、温度を記録しました。

計測方法

• ハードウェア：Apple M5 Ultra（36コアCPU、80コアGPU）、256 GBのユニファイドメモリ、macOS 27.0.1を搭載したMac Studio。テスト中、ほかには何も実行していません。
• モデル：OpenAIのgpt-oss-20b、AppleのMLX向けMXFP4-Q8版（MLX 0.32.4、mlx-lm 0.32.2）。210億パラメータのMoEモデルで、1トークンごとに使うのは約36億です。メモリ使用量は約12 GBです。
• 負荷：16個の独立したプログラムが、それぞれ自分のモデルのコピーを使って60分間同時に文章を生成しました。16人のユーザーやAIエージェントを想定しています。1回の生成は2,000トークンが上限で、終わると同じタスク（エンジンの仕組みに関する長い技術記事）を最初からやり直します。
• 計測：10秒ごとに、生成トークン数、チップの消費電力、CPUとGPUの平均温度を、macmon 0.10.0でmacOSから読み取って記録しました。電力量は平均消費電力に時間を掛けたものです。

結果

ボトルネックは計算性能ではなくメモリ速度

文章生成でMacの足を引っ張るのは、計算性能ではなくメモリ帯域です。GPUはトークンごとにモデルの必要な部分をメモリから読み込む必要があり、大半の時間はデータを待っています。そのため、16ストリームでもチップの消費電力は73 Wにとどまりました。

16個のプログラムはGPUを分け合い、それぞれが自分のモデルのコピーを読み込みます。合計で毎秒273トークン、1ストリームあたり約17トークンでした。1人でチャットするには遅いものの、バックグラウンドで動くエージェント群には十分です。推論サーバーは別の方法を取り、多数のユーザーのリクエストを1つのバッチで処理してモデルを全員分まとめて1回だけ読み込むため、同じMacからより多くのトークンを引き出せます。これは今回のテストでは計測していません。

温度と安定性

GPU温度は4分目に70 °Cまで上がり、その後下がって5分目以降は66 °Cで安定しました。CPUは63 °Cで落ち着きました。ファンが熱を処理し、チップが速度を落とすことはありませんでした。テストの最初の6分の1でも最後の6分の1でも、Macは毎秒272トークンを生成しています。

電気代はいくらか

1時間のフル稼働で使った電力量は0.073 kWhでした。この状態で丸1日動かすと約1.75 kWh、100万トークンあたりは0.074 kWhです。1 kWhあたり0.25ユーロなら、100万トークンで2セント未満、1日で約44セントです。ローカルAIでは電気代はほとんど問題にならず、重要なのはコンピュータ本体の価格です。

このテストでわからないこと

• コンピュータ全体の消費電力。計測したのはチップ（CPU、GPU、Neural Engine）だけです。ファン、SSD、ネットワーク、電源の損失は含まないため、コンセントからの消費電力はもう少し高くなります。
• バッチ処理。16個の独立したプログラムは、多数のユーザーを1つのバッチで処理するサーバーとは違います。
• 大きなモデル。gpt-oss-20bは小さく高速です。700億パラメータのdenseモデルでは、Macへの負荷のかかり方が変わります。
• 文章の品質。計測したのは速度と消費電力だけで、モデルが書いた内容は評価していません。

これらは記載の条件で計測した結果であり、保証値ではありません。実際の速度と消費電力は、モデル、量子化、コンテキスト長、ソフトウェア、作業内容によって変わります。

ご自身で試す

ご自身のモデルが負荷のもとでどう動くかを確かめたい場合は、このMac Studio M5 Ultra（256 GB）を1日からレンタルできます。そのほかの計測結果は6モデルのベンチマークをご覧ください。

レンタルを申し込む パフォーマンス

← 記事一覧