FreeLLMGPUs › Data center
Melhores modelos de IA grátis para a H200
H200: 141 GB de memória de vídeo, 4800 GB/s. Estes são os modelos grátis que ela roda, classificados pelos votos da Arena, com a velocidade que você pode esperar.
Modelos votados que cabem inteiros na GPU
| Modelo | Pontuação Arena | Tamanho | Arquivo de 4 bits | Tokens/s |
|---|---|---|---|---|
| Gemma 4 31B |
1443 | 31.3 B | 20 GB | 150 |
| Qwen3.8-27B alibaba |
1441 | 27.8 B | 18 GB | 177 |
| Gemma 4 26B A4B google · MoE, 4 B ativos |
1434 | 25.8 B | 17 GB | 278 |
| Qwen3.5-122B-A10B alibaba · MoE, 10 B ativos |
1417 | 125.1 B | 77 GB | 224 |
| Qwen3.5-27B alibaba |
1409 | 27.8 B | 18 GB | 177 |
| GLM-4.6V zai · MoE, 14.3 B ativos |
1376 | 107.7 B | 66 GB | 181 |
| gemma-3-27b-it |
1358 | 27.4 B | 18 GB | 174 |
| GLM-4.5V zai · MoE, 14.3 B ativos |
1333 | 107.7 B | 66 GB | 181 |
Modelos maiores com a ajuda de 64 GB de RAM do sistema
Parte do modelo fica na memória do sistema, que é muito mais lenta que a memória de vídeo.
| Modelo | Pontuação Arena | Tamanho | Arquivo de 4 bits | Tokens/s |
|---|---|---|---|---|
| MiMo-V2.6-Flash xiaomi · MoE, 17.4 B ativos |
1455 | 310.8 B | 190 GB | 25 |
| Hy3 tencent · MoE, 24.4 B ativos |
1438 | 298.8 B | 182 GB | 19 |
| DeepSeek-V4-Flash (High) deepseek · MoE, 20.4 B ativos |
1432 | 290.9 B | 177 GB | 26 |
| MiMo-V2.5 xiaomi · MoE, 17.4 B ativos |
1428 | 310.8 B | 190 GB | 25 |
| Qwen3-VL-235B-A22B-Instruct alibaba · MoE, 22 B ativos |
1420 | 235.7 B | 144 GB | 87 |
| qwen3-235b-a22b-instruct-2507 alibaba · MoE, 22 B ativos |
1419 | 235.1 B | 144 GB | 90 |
Modelos pequenos populares
Modelos pequenos oficiais ainda sem votos na Arena, ordenados por downloads no Hugging Face (popularidade, não qualidade).
| Modelo | Downloads/mês | Tamanho | Arquivo de 4 bits | Tokens/s |
|---|---|---|---|---|
| Qwen3-0.6B Qwen |
28.6M | 0.8 B | 1.7 GB | 724 |
| Qwen3-4B Qwen |
11.7M | 4 B | 3.6 GB | 508 |
| Qwen3-8B Qwen |
8.8M | 8.2 B | 6.2 GB | 377 |
| Qwen3-14B Qwen |
8.7M | 14.8 B | 10 GB | 266 |
| Qwen3.5-4B Qwen |
7.8M | 4.7 B | 4.0 GB | 546 |
| Qwen3.5-9B Qwen |
7.3M | 9.7 B | 7.1 GB | 379 |
Estimativas com 4 bits (Q4_K_M) e contexto de 8K, calibradas em 44 testes reais com llama.cpp (erro típico de cerca de ±10%). Tokens por segundo: cerca de 10 é a velocidade de leitura.
Perguntas
Qual é o melhor modelo de IA grátis para a H200?
Gemma 4 31B (pontuação Arena 1443) é o modelo aberto mais votado que cabe inteiro em 141 GB de memória de vídeo com 4 bits, escrevendo cerca de 150 tokens por segundo.
Que tamanho de modelo a H200 consegue rodar?
Cerca de 218 bilhões de parâmetros para um modelo denso com 4 bits e contexto de 8K, totalmente na GPU. Modelos de mistura de especialistas podem ser maiores e, com 64 GB de RAM do sistema, modelos ainda maiores rodam, só que mais devagar.
A H200 é boa para LLMs locais?
Ela tem 141 GB de memória e 4800 GB/s de largura de banda. A memória decide quais modelos cabem; a largura de banda decide a rapidez com que escrevem. Com 24 GB ou mais, roda modelos de 27 a 32 B, o ponto ideal de qualidade para uso doméstico.
Placas parecidas
- Mac M4 Max 128 GB 128 GB · 546 GB/s
- NVIDIA DGX Spark 128 GB 128 GB · 273 GB/s
- Ryzen AI Max+ 395 128 GB 128 GB · 256 GB/s
- RTX PRO 6000 Blackwell 96 GB · 1792 GB/s
- H100 SXM 80 GB · 3350 GB/s
- A100 80 GB 80 GB · 2039 GB/s
Compartilhe esta página:XLinkedInRedditWhatsApp
Viu um número errado ou um link quebrado? Informe um erro