2026년 11월 11일 · Jakub M.

같은 구성의 Mac Studio M5 Ultra 두 대: 로컬 AI 속도는 다를까?

M5 Ultra와 256 GB 통합 메모리를 갖춘 Mac Studio가 두 대 있습니다. 한 대는 10월부터 가동 중이고, 다른 한 대는 새 제품입니다. 두 대에서 세 가지 언어 모델로 같은 테스트를 실행한 결과, 생성 속도 차이는 0.5% 미만이었습니다.

같은 모델, 같은 구성의 컴퓨터 두 대라면 속도도 같아야 합니다. 하지만 개체마다 차이가 있다는 이야기도 종종 나오기 때문에 로컬 AI에서는 그 차이가 얼마나 되는지 알고 싶었습니다. 저희에게는 실무적인 문제입니다. 고객은 구성을 골라 대여하므로 어떤 개체를 받든 같은 성능을 얻어야 하기 때문입니다.

측정 환경과 방법

• 하드웨어: Apple M5 Ultra(36코어 CPU, 80코어 GPU)와 256 GB 통합 메모리를 갖춘 Mac Studio 두 대. 한 대는 10월부터 사용 중이고, 다른 한 대는 새 제품입니다.
• 소프트웨어: 두 대 모두 동일: macOS 27.2.1, Python 3.12, MLX 0.32.4, mlx-lm 0.32.2.
• 모델: Hugging Face mlx-community의 4비트 MLX 버전: Qwen3 30B-A3B, Llama 3.3 70B Instruct, gpt-oss-120b(MXFP4-Q8).
• 테스트: 내장 도구 mlx_lm.benchmark로 짧은 프롬프트(512토큰, 3회)와 긴 프롬프트(8,192토큰, 2회)를 측정했고, 매번 128토큰을 생성했습니다. 프롬프트는 고정 시드의 무작위 토큰으로 구성되어 두 Mac이 완전히 같은 입력을 받았습니다. 모든 측정은 워밍업 실행으로 시작했고, 두 Mac은 같은 날 측정했습니다.

결과

프롬프트 처리와 생성은 초당 토큰 수이며 반복 측정의 평균입니다(512토큰은 3회, 8,192토큰은 2회). 128토큰을 생성했습니다. 이전 Mac: 10월부터 사용, 새 Mac: 새 제품. 동일 구성, 4비트 MLX 모델, mlx-lm 0.32.2, macOS 27.2.1, 2026년 11월 11일 측정.

숫자가 말해 주는 것

생성 속도, 즉 모델이 답변을 써 내려가는 속도는 두 Mac에서 같습니다. 세 모델과 두 가지 프롬프트 길이 모두에서 차이는 최대 0.35%였습니다. 긴 프롬프트 처리 속도의 차이는 최대 0.7%입니다. 최대 메모리 사용량은 0.1 GB 단위까지 같았습니다.

짧은 프롬프트에서는 새 Mac의 처리 속도가 2~3% 느리게 나왔습니다. 하지만 이 측정은 0.2~0.5초밖에 걸리지 않으며, 같은 Mac에서 반복한 결과도 최대 3%까지 차이가 났습니다. 그래서 이 차이는 실제 차이로 보지 않습니다.

결과는 저희의 10월 측정과도 일치합니다. 당시 gpt-oss-120b는 초당 120토큰을 생성했고, 이번에는 121토큰이었습니다.

테스트의 한계

두 대만 비교했으므로 결과가 모든 Mac Studio M5 Ultra에 해당하지는 않습니다. 무작위 토큰 프롬프트와 짧은 생성은 순수한 속도 수치만 보여 주며, 실제 작업과 더 긴 답변에서는 속도가 달라질 수 있습니다. 이 테스트는 답변의 품질을 측정하지 않습니다.

직접 해 보세요

사용하려는 모델에 필요한 메모리는 RAM 계산기에서 확인할 수 있습니다. 직접 테스트하려면 256 GB Mac Studio M5 Ultra를 하루부터 대여할 수 있습니다.

대여 문의하기 성능

← 모든 글