PT
26 de outubro de 2026 · Jakub M.
Mac Studio M5 Ultra em teste: Qwen3 235B a 46 tokens por segundo e leitura rápida de prompts
O site de tecnologia checo Vše Smart testou o Mac Studio M5 Ultra com 256 GB em cinco modelos de linguagem no llama.cpp e no MLX. O maior, o Qwen3 235B, ocupou 133 GB de memória e gerou 46 tokens por segundo. Explicamos o que os resultados significam para correr modelos grandes.
Fonte: Mac Studio M5 Ultra v testu: Qwen3 235B a rychlost čtení promptů, Ludvík Eckerman, Vše Smart, 26 de outubro de 2026 (em checo). Todos os números abaixo vêm desse artigo.
O site checo Vše Smart publicou um teste detalhado do Mac Studio com o chip M5 Ultra. É a mesma configuração que alugamos: GPU de 80 núcleos e 256 GB de memória unificada. O teste foca duas coisas que a nossa primeira medição não cobria: a rapidez com que o Mac lê prompts longos e um modelo que não cabe numa máquina de 128 GB.
Como a Vše Smart testou
- Hardware: Mac Studio M5 Ultra (GPU de 80 núcleos), 256 GB, macOS 27.0.1, sem mais nada a correr.
- Software: llama.cpp com todas as camadas na GPU e MLX 0.32 com mlx-lm. Consumo e temperaturas registados com o macmon.
- Modelos: Qwen3 8B, Qwen3 30B-A3B, Llama 3.3 70B, gpt-oss-120b e Qwen3 235B-A22B, todos em 4 bits (gpt-oss em MXFP4). O Qwen3 235B só no MLX.
- Testes: prompts de 512, 4096 e 16 384 tokens com 128 tokens gerados, mais dez minutos de carga contínua. Medido a 24 de outubro de 2026.
Resultados
| Modelo | Memória | Geração, llama.cpp | Geração, MLX | Prompt 4k, llama.cpp | Prompt 4k, MLX |
|---|---|---|---|---|---|
| Qwen3 8B | ≈ 5 GB | 149 | 176 | 4 205 | 6 360 |
| Qwen3 30B-A3B | ≈ 18 GB | 172 | 159 | 4 535 | 9 870 |
| Llama 3.3 70B | ≈ 42 GB | 23 | 25 | 509 | 716 |
| gpt-oss-120b | ≈ 63 GB | 142 | 130 | 3 387 | 6 538 |
| Qwen3 235B-A22B | ≈ 133 GB | – | 46 | – | 1 656 |
Tokens por segundo com o contexto vazio: geração de 128 tokens e leitura de um prompt de 4096 tokens. O Qwen3 235B só foi testado em MLX. Fonte: Vše Smart, medido a 24 de outubro de 2026.
O MLX lê prompts até duas vezes mais depressa
Antes de escrever a primeira palavra, o modelo tem de ler o prompt inteiro, por exemplo um documento que quer resumir. Segundo a Vše Smart, o MLX leu os prompts 1,4 a 2,2 vezes mais depressa do que o llama.cpp com todos os modelos, sobretudo com o Qwen3 30B-A3B. Com o gpt-oss-120b no MLX, um documento de 4000 tokens é lido em bem menos de um segundo. Na geração nenhum dos dois ganhou com clareza, por isso vale a pena experimentar ambos com o seu modelo.
Um contexto longo
| Modelo | Geração | Leitura do prompt |
|---|---|---|
| Qwen3 8B | 121 | 5 240 |
| Qwen3 30B-A3B | 115 | 6 822 |
| Llama 3.3 70B | 22 | 650 |
| gpt-oss-120b | 114 | 6 332 |
| Qwen3 235B-A22B | 33 | 1 289 |
MLX, prompt de 16 384 tokens seguido de 128 tokens gerados, em tokens por segundo. Fonte: Vše Smart.
Com um prompt de 16 384 tokens, a geração no MLX abrandou cerca de 12 a 31 por cento, consoante o modelo.
O Qwen3 235B precisa de mais de 128 GB
O maior modelo ocupou cerca de 133 GB de memória e gerou cerca de 46 tokens por segundo, mais depressa do que a maioria das pessoas lê. Não caberia num Mac de 128 GB, e é aí que a configuração de 256 GB faz a diferença.
Temperaturas, consumo e o M3 Ultra
A GPU chegou no máximo a 87 °C e o chip consumiu até 215 W ao ler prompts. A ventoinha subiu a 2265 rpm, 62 por cento do máximo, e em dez minutos de carga contínua o teste não registou perda de desempenho por temperatura. No teste padrão do llama.cpp com o Llama 2 7B (Q4_0), o artigo estima que o M5 Ultra lê prompts cerca de 3,5 vezes mais depressa e gera cerca do dobro da velocidade do M3 Ultra. O autor avisa que os números do M3 Ultra vêm da tabela da comunidade llama.cpp, medida com versões antigas, por isso a comparação é apenas indicativa.
Como o artigo refere, o teste mede a velocidade e não a qualidade das respostas, usa só quantização de 4 bits e pedidos individuais, e indica o consumo do chip, não do computador inteiro.
Experimente
Pode alugar um Mac Studio M5 Ultra com 256 GB a partir de um dia e testar nele os seus próprios modelos. O nosso teste de carga de uma hora mostra como se comporta sob carga prolongada.