FreeLLMGPU › Centro de datos
Mejores modelos de IA gratis para la H200
H200: 141 GB de memoria de vídeo, 4800 GB/s. Estos son los modelos gratis que ejecuta, ordenados por votos de Arena, con la velocidad que puedes esperar.
Modelos votados que caben enteros en la GPU
| Modelo | Puntuación de Arena | Tamaño | Archivo a 4 bits | Tokens/s |
|---|---|---|---|---|
| Gemma 4 31B |
1443 | 31.3 B | 20 GB | 150 |
| Qwen3.8-27B alibaba |
1441 | 27.8 B | 18 GB | 177 |
| Gemma 4 26B A4B google · MoE, 4 B activos |
1434 | 25.8 B | 17 GB | 278 |
| Qwen3.5-122B-A10B alibaba · MoE, 10 B activos |
1417 | 125.1 B | 77 GB | 224 |
| Qwen3.5-27B alibaba |
1409 | 27.8 B | 18 GB | 177 |
| GLM-4.6V zai · MoE, 14.3 B activos |
1376 | 107.7 B | 66 GB | 181 |
| gemma-3-27b-it |
1358 | 27.4 B | 18 GB | 174 |
| GLM-4.5V zai · MoE, 14.3 B activos |
1333 | 107.7 B | 66 GB | 181 |
Modelos más grandes con ayuda de 64 GB de RAM del sistema
Parte del modelo se queda en la memoria del sistema, que es mucho más lenta que la memoria de vídeo.
| Modelo | Puntuación de Arena | Tamaño | Archivo a 4 bits | Tokens/s |
|---|---|---|---|---|
| MiMo-V2.6-Flash xiaomi · MoE, 17.4 B activos |
1455 | 310.8 B | 190 GB | 25 |
| Hy3 tencent · MoE, 24.4 B activos |
1438 | 298.8 B | 182 GB | 19 |
| DeepSeek-V4-Flash (High) deepseek · MoE, 20.4 B activos |
1432 | 290.9 B | 177 GB | 26 |
| MiMo-V2.5 xiaomi · MoE, 17.4 B activos |
1428 | 310.8 B | 190 GB | 25 |
| Qwen3-VL-235B-A22B-Instruct alibaba · MoE, 22 B activos |
1420 | 235.7 B | 144 GB | 87 |
| qwen3-235b-a22b-instruct-2507 alibaba · MoE, 22 B activos |
1419 | 235.1 B | 144 GB | 90 |
Modelos pequeños populares
Modelos pequeños oficiales aún sin votos en Arena, ordenados por descargas en Hugging Face (popularidad, no calidad).
| Modelo | Descargas/mes | Tamaño | Archivo a 4 bits | Tokens/s |
|---|---|---|---|---|
| Qwen3-0.6B Qwen |
28.6M | 0.8 B | 1.7 GB | 724 |
| Qwen3-4B Qwen |
11.7M | 4 B | 3.6 GB | 508 |
| Qwen3-8B Qwen |
8.8M | 8.2 B | 6.2 GB | 377 |
| Qwen3-14B Qwen |
8.7M | 14.8 B | 10 GB | 266 |
| Qwen3.5-4B Qwen |
7.8M | 4.7 B | 4.0 GB | 546 |
| Qwen3.5-9B Qwen |
7.3M | 9.7 B | 7.1 GB | 379 |
Estimaciones a 4 bits (Q4_K_M) con un contexto de 8K, calibradas con 44 pruebas reales de llama.cpp (error típico de unos ±10 %). Tokens por segundo: unos 10 equivalen a la velocidad de lectura.
Preguntas
¿Cuál es el mejor modelo de IA gratis para la H200?
Gemma 4 31B (puntuación de Arena 1443) es el modelo abierto mejor votado que cabe entero en 141 GB de memoria de vídeo a 4 bits, y escribe unos 150 tokens por segundo.
¿Qué tamaño de modelo puede ejecutar la H200?
Unos 218 mil millones de parámetros en un modelo denso a 4 bits con un contexto de 8K, entero en la GPU. Los modelos de mezcla de expertos pueden ser más grandes, y con 64 GB de RAM del sistema se ejecutan modelos aún mayores, aunque más despacio.
¿Es buena la H200 para LLM locales?
Tiene 141 GB de memoria y 4800 GB/s de ancho de banda. La memoria decide qué modelos caben; el ancho de banda, a qué velocidad escriben. Con 24 GB o más ejecuta modelos de 27–32 B, el punto ideal de calidad para uso doméstico.
Tarjetas similares
- Mac M4 Max 128 GB 128 GB · 546 GB/s
- NVIDIA DGX Spark 128 GB 128 GB · 273 GB/s
- Ryzen AI Max+ 395 128 GB 128 GB · 256 GB/s
- RTX PRO 6000 Blackwell 96 GB · 1792 GB/s
- H100 SXM 80 GB · 3350 GB/s
- A100 80 GB 80 GB · 2039 GB/s
Comparte esta página:XLinkedInRedditWhatsApp
¿Has visto un número incorrecto o un enlace roto? Avísanos del error