Quanta VRAM é necessária para rodar um modelo de IA localmente
Resposta curta: um modelo de 8 bilhões de parâmetros em quantização de 4 bits precisa de cerca de 6 GB de VRAM com 8.192 tokens de contexto. O mesmo modelo em 16 bits precisa de cerca de 18 GB. O número que as pessoas costumam citar ("você precisa de 16 GB para IA local") é o pior caso, sem contexto algum.
Em vez de uma lista de modelos que teríamos de verificar sempre de novo, aqui está a aritmética. É a mesma fórmula que a nossa calculadora de VRAM usa, então você pode reproduzir cada linha abaixo.
Três coisas usam a sua VRAM
- Pesos. O modelo em si: parâmetros × bits por peso ÷ 8.
- Cache KV. A memória para as chaves e os valores de atenção da conversa até agora. Ela cresce com a janela de contexto que você permite e com o tamanho do modelo.
- Sobrecarga de execução. O motor, o contexto da GPU, os buffers de trabalho. Reservamos 0,8 GB.
weights_GB = params_B × bits ÷ 8
kv_GB ≈ (context ÷ 8192) × params_B × 0.15
total ≈ weights + kv + 0.8
A linha do KV é uma aproximação de propósito: o valor exato depende da arquitetura (quantas cabeças de atenção e camadas, quantas delas compartilham um cache). É o suficiente para decidir se um modelo cabe, e ela mostra o ponto importante abaixo.
Quanto custa cada tamanho de modelo (contexto de 8.192 tokens)
| Tamanho do modelo | Q8 | Q6 | Q5 | Q4_K_M | Q3 | 16-bit |
|---|---|---|---|---|---|---|
| 1B | 2.0 GB | 1.7 GB | 1.6 GB | 1.5 GB | 1.3 GB | 3.0 GB |
| 3B | 4.3 GB | 3.5 GB | 3.1 GB | 2.8 GB | 2.4 GB | 7.3 GB |
| 8B | 10.0 GB | 8.0 GB | 7.0 GB | 6.0 GB | 5.0 GB | 18.0 GB |
| 14B | 16.9 GB | 13.4 GB | 11.7 GB | 9.9 GB | 8.2 GB | 30.9 GB |
| 32B | 37.6 GB | 29.6 GB | 25.6 GB | 21.6 GB | 17.6 GB | 69.6 GB |
| 70B | 81.3 GB | 63.8 GB | 55.1 GB | 46.3 GB | 37.6 GB | 151.3 GB |
Duas coisas merecem atenção. Primeiro, a quantização é a maior alavanca que você tem: levar um modelo 8B de 16 bits para 4 bits o tira de 18 GB para 6 GB. Segundo, um arquivo Q4_K_M real é um pouco maior do que a aritmética sugere, porque a quantização armazena escalas e tensores de correção junto com os pesos; a calculadora fica na versão simples para que cada número continue reproduzível.
O contexto é o que surpreende as pessoas
Os pesos são fixos; o cache não é. Com um modelo 8B:
| Contexto | Cache KV | Total em Q4_K_M |
|---|---|---|
| 8,192 | 1.2 GB | 6.0 GB |
| 32,768 | 4.8 GB | 9.6 GB |
| 131,072 | 19.2 GB | 24.0 GB |
Então o mesmo modelo que cabe com folga em uma placa de 8 GB com contexto de 8k precisa de uma placa de 24 GB com 128k. Se um modelo "de repente não cabe", o controle de contexto costuma ser o motivo. Baixar o contexto permitido, ou ativar a quantização do cache KV no seu motor, muitas vezes já basta — ao custo de lembrar menos da conversa.
O que cabe nos tamanhos de placa mais comuns
Usando a regra da própria calculadora (cabe com folga abaixo de 85 % da placa, apertado até 100 %):
| VRAM | Com folga com contexto de 8k | Muito para a placa |
|---|---|---|
| 8 GB | 8B em Q4/Q5, ou um 3B em 16-bit | 8B em Q8, 14B em Q4 |
| 12 GB | 8B em Q8, 14B em Q4 | 14B em Q6, 32B em Q4 |
| 16 GB | 14B em Q5/Q6 | 8B em 16-bit, 32B em Q4 |
| 24 GB | 32B em Q4, 14B em Q8 | 14B em 16-bit, 70B em Q4 |
| 48 GB | 70B em Q4 | 70B em Q8 |
Estas são estimativas, não garantias. Um modelo que compartilha um único cache entre várias cabeças de atenção pode usar muito menos do que a heurística sugere, e a geração de imagens tem um perfil de memória próprio e diferente.
Se não couber
- Quantização menor. Q4_K_M é o ponto de equilíbrio habitual; Q3 compra um pouco mais de espaço e perde qualidade.
- Contexto mais curto. É a correção mais barata que existe, e muitas vezes invisível no chat normal.
- Descarregamento parcial. Rode parte do modelo na CPU ou na RAM do sistema: funciona, é mais lento, e o veredito da calculadora não cobre isso.
- Não rode você mesmo. Se você só precisa de uma resposta, um modelo hospedado em um nível gratuito sai mais barato que uma placa de vídeo nova — é para isso que serve a nossa Busca em várias IAs, e Ofertas e níveis gratuitos lista os planos gratuitos que conseguimos verificar.
Perguntas frequentes
8 GB de VRAM bastam para IA local?
Sim, para modelos de 7B a 8B em 4 bits ou 5 bits e um contexto normal, e para modelos menores em precisão maior. Não basta para um modelo 14B em 4 bits, que precisa de cerca de 9,9 GB.
Preciso de uma placa de vídeo dedicada?
Não. Modelos rodam em CPU e memória do sistema também, só que muito mais devagar. A fórmula acima trata da memória da GPU porque é a restrição que as pessoas encontram primeiro.
Por que meu uso real difere da estimativa?
Porque o motor também mantém buffers, o cache KV pode ser armazenado em uma precisão diferente, o tamanho do lote importa e outros aplicativos estão usando a GPU ao mesmo tempo. Trate a estimativa como uma resposta de sim ou não e depois meça no seu próprio setup.
De onde vêm esses números?
Da fórmula no topo da página, avaliada em 8.192 tokens de contexto. São aritmética, não medições: você pode reproduzir qualquer linha na calculadora informando o tamanho, a quantização e o contexto.
Experimente a sua própria configuração
A calculadora leva cinco segundos: tamanho do modelo, quantização, contexto e a sua placa, e ela diz se cabe e quanta folga você tem.
- Calculadora de hardware para IA local — a estimativa para a sua máquina.
- Ranking de IA — os projetos e modelos que as pessoas realmente baixam, com contagens reais de estrelas e downloads.
- Melhores ferramentas de IA gratuitas — 28 projetos open source e 8 planos gratuitos, com licenças e estrelas.
Leia também
- Comandos do Ollama para IA local — os comandos que você vai usar de verdade.
- Quantização GGUF explicada — o que Q4_K_M, Q5_K_M e Q8_0 significam e como escolher uma.
Fórmula, tamanhos de quantização e a regra de conforto de 85 % como usada pela nossa calculadora, verificada em 18 de outubro de 2026. Tudo nas tabelas é calculado a partir dessa fórmula com 8.192 tokens de contexto.