16 de outubro de 2026 · Jakub Mokříš
Quinze modelos de IA no Mac Studio M5 Ultra: quantos tokens por segundo obtém na prática
O site checo Vše Smart pôs 32 modelos de linguagem locais a correr num Mac Studio com M5 Ultra e 256 GB de memória. Escolhemos quinze, do pequeno Qwen3 4B ao Mistral Large com 123 mil milhões de parâmetros, e vimos o que os números significam no trabalho do dia a dia.
As comparações de velocidade de modelos locais costumam ficar por dois ou três nomes. A equipa do Vše Smart mediu trinta e dois num Mac Studio M5 Ultra com 256 GB de memória unificada, cada um onze vezes. Dos resultados, escolhemos quinze modelos que cobrem bem todo o leque: pequenos e grandes, densos e do tipo mixture of experts.
Como foi medido
Os modelos correram no Ollama, controlados por um script simples em Python. Todos receberam a mesma tarefa, um texto técnico longo sobre a construção dos automóveis modernos, com um limite de 2000 tokens de saída, temperatura 0 e um contexto de 8192 tokens. A primeira execução de cada modelo foi descartada como aquecimento e o resultado é a média das dez seguintes. Entre modelos houve uma pausa de meio minuto.
O teste completo demorou mais de quatro horas e os modelos geraram mais de 700 mil tokens. Só se mediu a velocidade; a qualidade das respostas não foi avaliada.
Resultados
| Modelo | Tipo | Velocidade de geração |
|---|---|---|
| Qwen3 4B | denso | |
| Qwen3 30B-A3B | MoE, 3B ativos | |
| gpt-oss-20b | MoE, 3,6B ativos | |
| Qwen3.5 35B-A3B | MoE, 3B ativos | |
| Qwen3.5 9B | denso | |
| gpt-oss-120b | MoE, 5,1B ativos | |
| Gemma 4 26B-A4B | MoE, 4B ativos | |
| Qwen3-Next 80B-A3B | MoE, 3B ativos | |
| Qwen3.5 122B-A10B | MoE, 10B ativos | |
| Llama 4 Scout | MoE, 17B ativos | |
| Mistral Small 3.2 24B | denso | |
| Qwen3.5 27B | denso | |
| Gemma 4 31B | denso | |
| Llama 3.3 70B | denso | |
| Mistral Large 123B | denso |
Média de dez execuções no Ollama, 2000 tokens de saída, contexto de 8k. MoE = mixture of experts; «ativos» é o número de parâmetros usados em cada token. Dados: Vše Smart.
O tamanho diz pouco sobre a velocidade
O melhor exemplo é o gpt-oss-120b contra o Llama 3.3 70B. O modelo da OpenAI tem mais parâmetros (117 mil milhões contra 70) e, mesmo assim, escreve cinco vezes mais depressa: 115 tokens por segundo contra 23. A diferença está na arquitetura. O gpt-oss-120b é um modelo mixture of experts e usa apenas cerca de cinco mil milhões de parâmetros por token. O Llama 3.3 é denso, por isso trabalha sempre com os setenta mil milhões.
Com o Qwen passa-se o mesmo. A versão 122B-A10B, com dez mil milhões de parâmetros ativos, chega aos 85 tokens por segundo, enquanto o Qwen3.5 27B denso, quatro vezes mais pequeno, fica pelos 48. Se o que procura é velocidade, olhe para os parâmetros ativos e não para o tamanho total.
Quanto chega
Para conversar, cerca de 20 tokens por segundo chegam; a esse ritmo o texto aparece mais depressa do que a maioria das pessoas lê. Dos quinze modelos da tabela, só o Mistral Large fica abaixo, com 14 tokens por segundo. Mesmo assim serve para tarefas que ninguém espera em frente ao ecrã, como processar documentos durante a noite.
A velocidade nota-se muito mais quando um assistente de programação escreve blocos longos de código. Aí fazem sentido os modelos acima de 80 tokens por segundo, como o gpt-oss-120b, o Qwen3-Next 80B ou o Qwen3.5 122B.
Bate certo com as nossas medições
Medimos vários dos mesmos modelos no nosso próprio Mac Studio, com MLX em vez do Ollama e um método um pouco diferente. Os números variam entre alguns e algumas dezenas de pontos percentuais, mas o quadro geral mantém-se. O gpt-oss-120b deu-nos 120 tokens por segundo (Vše Smart: 115), o gpt-oss-20b 184 (169) e o Qwen3.5 27B 55 (48). Já o Gemma 4 31B saiu-nos mais lento, 31 contra 40, porque usámos outra versão do modelo. Os detalhes estão no nosso artigo de medições.
Experimente por si
Os trinta e dois modelos couberam nos 256 GB de memória e ainda sobrou espaço. Se está a pensar comprar uma máquina assim, ou só precisa desta potência durante alguns dias, pode alugar o nosso Mac Studio M5 Ultra com 256 GB. De momento, o aluguer por dias e semanas é grátis.
Fonte dos dados: Vše Smart: o Mac Studio M5 Ultra testado com 32 modelos de IA locais (Ludvík Eckerman, 5 de outubro de 2026, em checo).