Vote na Free Arena

GPUs › NVIDIA

Melhores modelos de IA grátis para a RTX 4070 Ti Super

RTX 4070 Ti Super: 16 GB de memória de vídeo, 672 GB/s. Estes são os modelos grátis que ela roda, classificados pelos votos da Arena, com a velocidade que você pode esperar.

Simule a sua configuração · Veja o preço na Amazon ↗ · Compare todas as GPUs

Melhor modelo votado, com ajuda de RAMGemma 4 31BArena 1443 · ~9.5 tokens/s com 64 GB de RAM
Maior modelo denso~23 Bcom 4 bits, contexto de 8K, totalmente na GPU
Memória16 GB672 GB/s de largura de banda
Com duas placasGemma 4 31B32 GB · ~23 tokens/s

Modelos maiores com a ajuda de 64 GB de RAM do sistema

Parte do modelo fica na memória do sistema, que é muito mais lenta que a memória de vídeo.

ModeloPontuação ArenaTamanhoArquivo de 4 bitsTokens/s
Gemma 4 31B
google
144331.3 B20 GB9.5
Qwen3.8-27B
alibaba
144127.8 B18 GB18
Gemma 4 26B A4B
google · MoE, 4 B ativos
143425.8 B17 GB102
Qwen3.5-27B
alibaba
140927.8 B18 GB18
gemma-3-27b-it
google
135827.4 B18 GB16

Modelos pequenos populares

Modelos pequenos oficiais ainda sem votos na Arena, ordenados por downloads no Hugging Face (popularidade, não qualidade).

ModeloDownloads/mêsTamanhoArquivo de 4 bitsTokens/s
Qwen3-0.6B
Qwen
28.6M0.8 B1.7 GB269
Qwen3-4B
Qwen
11.7M4 B3.6 GB126
Qwen3-8B
Qwen
8.8M8.2 B6.2 GB78
Qwen3-14B
Qwen
8.7M14.8 B10 GB48
Qwen3.5-4B
Qwen
7.8M4.7 B4.0 GB144
Qwen3.5-9B
Qwen
7.3M9.7 B7.1 GB79

Estimativas com 4 bits (Q4_K_M) e contexto de 8K, calibradas em 44 testes reais com llama.cpp (erro típico de cerca de ±10%). Tokens por segundo: cerca de 10 é a velocidade de leitura. Como Associada da Amazon, o FreeLLMArena ganha com compras qualificadas; os links não alteram os rankings.

Perguntas

Qual é o melhor modelo de IA grátis para a RTX 4070 Ti Super?

Nenhum modelo votado cabe inteiro em 16 GB com 4 bits. Modelos pequenos sem votos na Arena cabem, e os maiores rodam com a ajuda da RAM do sistema, mais devagar.

Que tamanho de modelo a RTX 4070 Ti Super consegue rodar?

Cerca de 23 bilhões de parâmetros para um modelo denso com 4 bits e contexto de 8K, totalmente na GPU. Modelos de mistura de especialistas podem ser maiores e, com 64 GB de RAM do sistema, modelos ainda maiores rodam, só que mais devagar.

A RTX 4070 Ti Super é boa para LLMs locais?

Ela tem 16 GB de memória e 672 GB/s de largura de banda. A memória decide quais modelos cabem; a largura de banda decide a rapidez com que escrevem. Com 16 GB, roda modelos de até cerca de 20 B inteiramente na GPU; modelos de 27 a 32 B precisam da ajuda da RAM do sistema.

Placas parecidas

Compartilhe esta página:XLinkedInRedditWhatsApp