PT
Quanta memória precisa um modelo de IA?
Escolha quanta memória tem o seu Mac e veja que modelos de linguagem abertos vão correr nele. Ou escolha um modelo e descubra quanta memória precisa.
Contamos com quantização de 4 bits, comum nos modelos locais, e contexto até cerca de 32 000 tokens: parâmetros × 4,5 bits ÷ 8, mais 10 % e 2 GB para o contexto e a execução. Por predefinição, o Mac dá à GPU cerca de 67 % da memória (até 36 GB) ou 75 % (acima de 36 GB); o limite pode ser aumentado. São estimativas: o uso real depende do software e do tamanho do contexto. No nosso Mac Studio com 256 GB e macOS 27.2.1, o limite da GPU é de 240 GB, e a calculadora usa esse valor para 256 GB.
Dados dos modelos: Google Gemma, Wikipedia: Qwen, Nemotron, Kimi, OpenRouter, ComputingForGeeks.
Como a calculadora estima a memória
Um modelo de linguagem precisa de memória para três coisas: os seus pesos, o contexto com que trabalha e a execução em si. A calculadora soma-os assim.
Pesos
Com quantização de 4 bits, cada parâmetro ocupa cerca de 4,5 bits, contando os fatores de escala, ou seja, cerca de 0,56 GB por mil milhões de parâmetros. Um modelo 70B precisa de cerca de 39 GB só para os pesos, e um modelo 120B de cerca de 66 GB.
Contexto e cache KV
Para cada token do contexto, o modelo guarda em memória chaves e valores: a chamada cache KV. O espaço que ocupa depende da arquitetura do modelo e cresce com o comprimento do contexto. A calculadora acrescenta 10 % e 2 GB aos pesos, o que na maioria dos modelos cobre um contexto até cerca de 32 000 tokens. Para contextos muito mais longos, conte com mais.
Porque é que um Mac não dá toda a memória ao modelo
No Apple Silicon, o CPU e a GPU partilham uma única memória unificada, e o macOS guarda uma parte para o sistema. Quanto a GPU pode usar por predefinição depende do Mac e da versão do macOS. No nosso Mac Studio com 256 GB e macOS 27.2.1, o Metal indica 240 GB, ou seja, tudo exceto 16 GB, e um modelo de 224 GB funcionou sem alterar nenhuma definição. Versões mais antigas do macOS e Mac mais pequenos costumavam permitir cerca de dois terços a três quartos, e para esses a calculadora mantém esta regra mais prudente. O limite pode ser aumentado (definição iogpu.wired_limit_mb), à custa de memória para o sistema e outras apps. Por isso a calculadora mostra à parte o estado «Com limite aumentado».
4, 8 ou 16 bits
A quantização de 8 bits precisa de cerca do dobro da memória da de 4 bits, e a de 16 bits (BF16) de cerca de quatro vezes mais. 4 bits é o compromisso habitual para uso local: na maioria dos modelos a perda de qualidade é pequena, e abaixo de 4 bits cresce mais depressa. Mais no nosso artigo sobre quanta memória precisa um modelo de linguagem.
Estimativa e medição
| Modelo | Estimativa da calculadora | Pico medido | Mac mais pequeno onde cabe |
|---|---|---|---|
| Qwen3 30B-A3B | 20,9 GB | 18,7 GB | 32 GB |
| Llama 3.3 70B | 45,7 GB | 43,3 GB | 64 GB |
| gpt-oss-120b | 74,4 GB | 64,5 GB | 128 GB |
Medido com mlx-lm 0.32.2 e um prompt de 8192 tokens num Mac Studio M5 Ultra, a 11 de novembro de 2026. O gpt-oss-120b usa o formato MXFP4, um pouco mais pequeno do que os 4,5 bits que a calculadora assume.
As estimativas são propositadamente prudentes: na nossa medição, os três modelos precisaram de um pouco menos. Se só precisa de um Mac grande durante algum tempo, compare alugar e comprar um Mac Studio M5 Ultra. Para o Qwen3.5 397B, a calculadora usa o nosso pico medido com um contexto de 32k (227,5 GB) em vez da estimativa; veja o nosso teste deste modelo.