2026년 10월 22일 · Jakub M.

Mac Studio M5 Ultra 1시간 풀로드: 100만 토큰의 비용은?

Mac Studio에서 AI 모델 16개로 한 시간 동안 동시에 텍스트를 생성하며 10초마다 속도, 전력, 온도를 기록했습니다. 속도 저하 없이 980,000토큰을 생성했고, 100만 토큰에 든 전기는 0.074 kWh였습니다.

로컬에서 AI를 돌리는 데 실제로 얼마가 들까요? 저희가 대여하는 바로 그 장비, M5 Ultra와 256 GB 메모리를 갖춘 Mac Studio에서 1시간 테스트를 진행하며 10초마다 칩의 속도, 전력, 온도를 기록했습니다.

측정 방법

하드웨어: Apple M5 Ultra(36코어 CPU, 80코어 GPU), 256 GB 통합 메모리, macOS 27.0.1을 갖춘 Mac Studio. 테스트 중에는 다른 작업을 실행하지 않았습니다.
모델: OpenAI의 gpt-oss-20b, Apple MLX용 MXFP4-Q8 버전(MLX 0.32.4, mlx-lm 0.32.2). 210억 파라미터의 mixture of experts 모델로, 토큰마다 약 36억 개를 사용합니다. 메모리는 약 12 GB를 차지합니다.
부하: 별도 프로그램 16개가 60분 동안 동시에 텍스트를 생성했고, 각각 모델 사본을 따로 썼습니다. 사용자나 AI 에이전트 16명을 흉내 낸 것입니다. 생성은 각각 2,000토큰으로 제한했고, 그 후에는 같은 과제, 즉 자동차 엔진의 작동 원리에 관한 긴 기술 기사를 처음부터 다시 썼습니다.
측정: 10초마다 생성된 토큰 수, 칩 전력, CPU와 GPU의 평균 온도를 macmon 0.10.0으로 macOS에서 읽어 기록했습니다. 전력량은 평균 전력에 시간을 곱한 값입니다.

결과

	결과
테스트 시간	60분
병렬 스트림	16
생성량	980,000토큰
속도	초당 273토큰
속도, 처음 / 마지막 6분의 1	272 / 272 tok/s
칩 전력, 평균(최대)	73 W (76 W)
안정화 후 CPU / GPU 온도	63 / 66 °C
최고 CPU / GPU 온도	66 / 70 °C
100만 토큰당 전력량	0.074 kWh

한계는 연산 능력이 아니라 메모리 속도

텍스트를 생성할 때 Mac의 발목을 잡는 것은 연산 능력이 아니라 메모리 대역폭입니다. 토큰마다 GPU가 모델의 해당 부분을 메모리에서 읽어야 하므로 대부분의 시간을 데이터를 기다리며 보냅니다. 그래서 스트림이 16개여도 칩은 73 W만 소비했습니다.

16개 프로그램은 GPU를 나눠 쓰며 각자 모델 사본을 읽습니다. 합쳐서 초당 273토큰, 스트림당 약 17토큰을 생성했습니다. 채팅하는 사람에게는 느리지만 백그라운드 에이전트 그룹에는 충분합니다. 추론 서버는 방식이 다릅니다. 여러 사용자의 요청을 배치로 묶어 모델을 한 번만 읽으므로 같은 Mac에서 초당 더 많은 토큰을 뽑아냅니다. 이번 테스트에서는 그 방식을 측정하지 않았습니다.

온도와 안정성

GPU 온도는 4분째에 70 °C까지 올랐다가 내려가 5분째부터 66 °C를 유지했습니다. CPU는 63 °C에서 안정되었습니다. 팬이 칩의 속도를 낮출 필요 없이 열을 감당했고, 테스트의 처음 6분의 1과 마지막 6분의 1 모두에서 Mac은 초당 272토큰을 생성했습니다.

전기 요금은 얼마일까

1시간 풀로드에서 0.073 kWh를 소비했습니다. 이 상태로 하루 종일 돌리면 약 1.75 kWh가 필요하고, 100만 토큰에는 0.074 kWh가 듭니다. kWh당 0.25 €로 계산하면 100만 토큰에 2센트 미만, 하루 약 44센트입니다. 로컬 AI에서 전기 요금은 거의 문제가 되지 않으며, 결정적인 것은 컴퓨터 가격입니다.

이 테스트가 보여 주지 않는 것

컴퓨터 전체의 전력. 칩(CPU, GPU, Neural Engine)만 측정했습니다. 팬, SSD, 네트워크, 전원 공급 장치 손실은 포함되지 않았으므로 콘센트에서의 소비는 조금 더 높습니다.
배치 처리. 별도 프로그램 16개는 여러 사용자를 배치로 처리하는 서버와 같지 않습니다.
대형 모델. gpt-oss-20b는 작고 빠릅니다. 700억 파라미터의 dense 모델은 Mac에 다른 방식으로 부하를 주고 전력도 다르게 소비합니다.
출력 품질. 속도와 전력만 측정했으며, 모델이 무엇을 썼는지는 평가하지 않았습니다.

명시된 조건에서 측정한 결과이며 보장이 아닙니다. 실제 속도와 전력은 모델, 양자화, 컨텍스트 길이, 소프트웨어, 작업량에 따라 달라집니다.

직접 해 보세요

직접 쓰는 모델이 부하에서 어떻게 동작하는지 보고 싶다면 이 256 GB Mac Studio M5 Ultra를 하루부터 대여할 수 있습니다. 다른 측정 결과는 저희의 6개 모델 벤치마크에 있습니다.

대여 문의하기 성능