FreeLLMGPUs › NVIDIA
Melhores modelos de IA grátis para a RTX 4060 Ti 16 GB
RTX 4060 Ti 16 GB: 16 GB de memória de vídeo, 288 GB/s. Estes são os modelos grátis que ela roda, classificados pelos votos da Arena, com a velocidade que você pode esperar.
Simule a sua configuração · Veja o preço na Amazon ↗ · Compare todas as GPUs
Modelos maiores com a ajuda de 64 GB de RAM do sistema
Parte do modelo fica na memória do sistema, que é muito mais lenta que a memória de vídeo.
| Modelo | Pontuação Arena | Tamanho | Arquivo de 4 bits | Tokens/s |
|---|---|---|---|---|
| Gemma 4 31B |
1443 | 31.3 B | 20 GB | 6.9 |
| Qwen3.8-27B alibaba |
1441 | 27.8 B | 18 GB | 10 |
| Gemma 4 26B A4B google · MoE, 4 B ativos |
1434 | 25.8 B | 17 GB | 59 |
| Qwen3.5-27B alibaba |
1409 | 27.8 B | 18 GB | 10 |
| gemma-3-27b-it |
1358 | 27.4 B | 18 GB | 10.0 |
Modelos pequenos populares
Modelos pequenos oficiais ainda sem votos na Arena, ordenados por downloads no Hugging Face (popularidade, não qualidade).
| Modelo | Downloads/mês | Tamanho | Arquivo de 4 bits | Tokens/s |
|---|---|---|---|---|
| Qwen3-0.6B Qwen |
28.6M | 0.8 B | 1.7 GB | 136 |
| Qwen3-4B Qwen |
11.7M | 4 B | 3.6 GB | 58 |
| Qwen3-8B Qwen |
8.8M | 8.2 B | 6.2 GB | 35 |
| Qwen3-14B Qwen |
8.7M | 14.8 B | 10 GB | 21 |
| Qwen3.5-4B Qwen |
7.8M | 4.7 B | 4.0 GB | 67 |
| Qwen3.5-9B Qwen |
7.3M | 9.7 B | 7.1 GB | 35 |
Estimativas com 4 bits (Q4_K_M) e contexto de 8K, calibradas em 44 testes reais com llama.cpp (erro típico de cerca de ±10%). Tokens por segundo: cerca de 10 é a velocidade de leitura. Como Associada da Amazon, o FreeLLMArena ganha com compras qualificadas; os links não alteram os rankings.
Perguntas
Qual é o melhor modelo de IA grátis para a RTX 4060 Ti 16 GB?
Nenhum modelo votado cabe inteiro em 16 GB com 4 bits. Modelos pequenos sem votos na Arena cabem, e os maiores rodam com a ajuda da RAM do sistema, mais devagar.
Que tamanho de modelo a RTX 4060 Ti 16 GB consegue rodar?
Cerca de 23 bilhões de parâmetros para um modelo denso com 4 bits e contexto de 8K, totalmente na GPU. Modelos de mistura de especialistas podem ser maiores e, com 64 GB de RAM do sistema, modelos ainda maiores rodam, só que mais devagar.
A RTX 4060 Ti 16 GB é boa para LLMs locais?
Ela tem 16 GB de memória e 288 GB/s de largura de banda. A memória decide quais modelos cabem; a largura de banda decide a rapidez com que escrevem. Com 16 GB, roda modelos de até cerca de 20 B inteiramente na GPU; modelos de 27 a 32 B precisam da ajuda da RAM do sistema.
Placas parecidas
- RTX 5080 16 GB · 960 GB/s
- RTX 5070 Ti 16 GB · 896 GB/s
- RTX 4080 Super 16 GB · 736 GB/s
- RTX 4070 Ti Super 16 GB · 672 GB/s
- RX 9070 / 9070 XT 16 GB · 640 GB/s
- RX 7800 XT 16 GB · 624 GB/s
Compartilhe esta página:XLinkedInRedditWhatsApp
Viu um número errado ou um link quebrado? Informe um erro