KO
2026년 11월 13일
젠슨 황 없는 Nvidia: 로컬 AI와 하드웨어 가격에 미치는 영향
Nvidia 창업자 젠슨 황이 CEO 자리에서 물러났습니다. 하지만 자기 하드웨어에서 AI를 돌리는 사람들에게 더 중요한 것은 따로 있습니다. 그래픽카드와 AI 워크스테이션 가격이 오르는 주된 이유는 경영진 교체가 아니라 메모리 부족입니다.
Bohemian Silicon
블로그: 측정과 글
Apple Silicon Mac 대여 서비스를 운영하며 얻은 측정 결과, 안내, 메모.
2026년 11월 12일
2시간 풀로드: Mac Studio M5 Ultra는 얼마나 뜨거워지고 언제 느려질까?
Mac Studio M5 Ultra의 CPU와 GPU에 2시간 동안 최대 부하를 걸고 온도, 전력, 성능을 측정했습니다. CPU만 쓸 때는 전혀 느려지지 않았고, GPU만 쓸 때는 3% 느려졌습니다. 둘을 동시에 쓰자 macOS는 GPU를 90% 이상으로 유지하고 CPU를 약 60%로 낮췄습니다.
2026년 11월 12일
Mac Studio M5 Ultra 한 대로 Qwen3.5 397B: 224 GB, 초당 62토큰
파라미터 3,970억 개의 모델은 4비트에서 약 224 GB를 차지합니다. 256 GB Mac Studio M5 Ultra 한 대에서 실행한 결과, 초당 약 62토큰을 생성했고 12만 8천 토큰의 컨텍스트도 처리했으며 macOS 설정은 전혀 바꿀 필요가 없었습니다.
2026년 11월 11일
256 GB Mac Studio M5 Ultra, 대여할까 구매할까? 각각 유리한 경우
256 GB Mac Studio M5 Ultra는 Apple에서 12,000유로가 넘습니다. 대여료는 30일에 1,399유로입니다. 구매가 언제부터 유리해지는지, 단순 비교에서 빠지는 부분은 무엇인지 계산해 봤습니다.
2026년 11월 11일
같은 구성의 Mac Studio M5 Ultra 두 대: 로컬 AI 속도는 다를까?
M5 Ultra와 256 GB 통합 메모리를 갖춘 Mac Studio가 두 대 있습니다. 한 대는 10월부터 가동 중이고, 다른 한 대는 새 제품입니다. 두 대에서 세 가지 언어 모델로 같은 테스트를 실행한 결과, 생성 속도 차이는 0.5% 미만이었습니다.
2026년 11월 7일
새 기능: 로컬 AI 모델용 RAM 계산기
내 Mac에서 어떤 AI 모델이 실행될까요? 쓰고 싶은 모델에는 메모리가 얼마나 필요할까요? 새 계산기가 가장 작은 모델부터 수조 개 파라미터의 거대 모델까지 63개 오픈 모델에 대해 한눈에 보여 줍니다.
2026년 11월 3일
128 GB MacBook Pro M5 Max: 노트북으로 로컬 AI를 어디까지 돌릴 수 있을까
Vše Smart가 128 GB MacBook Pro M5 Max에서 80억~1,200억 파라미터의 오픈 모델 6개를 실행했습니다. 시스템 설정을 바꾸지 않고도 모두 메모리에 들어갔고, gpt-oss-120b는 초당 110토큰을 생성했으며 칩 전력은 37~50 W에 불과했습니다. 다만 긴 컨텍스트와 대형 dense 모델에서는 노트북이 힘에 부칩니다.
2026년 10월 27일
거인들의 대결: 로컬 AI에서 MacBook Pro M5 Max 대 Mac Studio M5 Ultra
가장 빠른 MacBook과 가장 빠른 Mac Studio, 언어 모델 32개, 승자는 하나. Vše Smart의 테스트에서 Mac Studio M5 Ultra는 32라운드 중 31라운드에서 더 빨랐고, 중앙값 기준 89퍼센트 앞섰습니다. 70B 이상 모델에서는 2.5배 넘게 빨랐습니다.
2026년 10월 26일
Mac Studio M5 Ultra 테스트: 초당 46토큰의 Qwen3 235B와 빠른 프롬프트 읽기
체코의 IT 웹사이트 Vše Smart가 256 GB Mac Studio M5 Ultra를 llama.cpp와 MLX에서 언어 모델 5개로 테스트했습니다. 가장 큰 Qwen3 235B는 메모리 133 GB를 사용하며 초당 46토큰을 생성했습니다. 대형 모델을 돌리려는 분께 이 결과가 무엇을 의미하는지 정리했습니다.
2026년 10월 22일
Mac Studio M5 Ultra 1시간 풀로드: 100만 토큰의 비용은?
Mac Studio에서 AI 모델 16개로 한 시간 동안 동시에 텍스트를 생성하며 10초마다 속도, 전력, 온도를 기록했습니다. 속도 저하 없이 980,000토큰을 생성했고, 100만 토큰에 든 전기는 0.074 kWh였습니다.
2026년 10월 20일
언어 모델에는 메모리가 얼마나 필요할까? 7B부터 405B까지 한눈에
70B 모델은 64 GB에 들어갈까요? 235B는요? 크기별 언어 모델이 메모리를 얼마나 차지하는지, 컨텍스트가 얼마나 더하는지, 어떤 Mac이 무엇에 충분한지 계산했습니다.
2026년 10월 17일
256 GB 메모리의 Mac Studio M5 Ultra는 어디에 쓸까
클라우드 없는 대형 언어 모델, 앱 빌드, 몇 시간 분량의 녹음 받아쓰기, 다른 곳에는 들어가지 않는 데이터. 256 GB Mac Studio가 실제로 유용한 곳과 적합하지 않은 곳을 정리했습니다.
2026년 10월 16일
Mac Studio M5 Ultra의 AI 모델 15개: 실제로 초당 몇 토큰이 나올까
체코의 IT 웹사이트 Vše Smart가 M5 Ultra와 256 GB 메모리를 갖춘 Mac Studio에서 로컬 언어 모델 32개를 실행했습니다. 그중 작은 Qwen3 4B부터 1,230억 파라미터의 Mistral Large까지 15개를 골라, 수치가 일상 업무에 어떤 의미인지 살펴봤습니다.
2026년 10월 15일
256 GB Mac Studio M5 Ultra와 로컬 AI: 모델 6개를 측정했습니다
M5 Ultra와 256 GB 통합 메모리를 갖춘 Mac Studio는 실제로 초당 몇 토큰을 낼까요? 90억~1,200억 파라미터의 인기 오픈 모델 6개를 빈 컨텍스트와 긴 컨텍스트로 실행하고 메모리 사용량도 기록했습니다.