FreeLLMGPU › Estación de trabajo
Mejores modelos de IA gratis para la RTX 6000 Ada
RTX 6000 Ada: 48 GB de memoria de vídeo, 960 GB/s. Estos son los modelos gratis que ejecuta, ordenados por votos de Arena, con la velocidad que puedes esperar.
Simula tu configuración · Consulta el precio en Amazon ↗ · Compara todas las GPU
Modelos votados que caben enteros en la GPU
| Modelo | Puntuación de Arena | Tamaño | Archivo a 4 bits | Tokens/s |
|---|---|---|---|---|
| Gemma 4 31B |
1443 | 31.3 B | 20 GB | 34 |
| Qwen3.8-27B alibaba |
1441 | 27.8 B | 18 GB | 41 |
| Gemma 4 26B A4B google · MoE, 4 B activos |
1434 | 25.8 B | 17 GB | 148 |
| Qwen3.5-27B alibaba |
1409 | 27.8 B | 18 GB | 41 |
| gemma-3-27b-it |
1358 | 27.4 B | 18 GB | 40 |
Modelos más grandes con ayuda de 64 GB de RAM del sistema
Parte del modelo se queda en la memoria del sistema, que es mucho más lenta que la memoria de vídeo.
| Modelo | Puntuación de Arena | Tamaño | Archivo a 4 bits | Tokens/s |
|---|---|---|---|---|
| Qwen3.5-122B-A10B alibaba · MoE, 10 B activos |
1417 | 125.1 B | 77 GB | 26 |
| GLM-4.6V zai · MoE, 14.3 B activos |
1376 | 107.7 B | 66 GB | 21 |
| GLM-4.5V zai · MoE, 14.3 B activos |
1333 | 107.7 B | 66 GB | 21 |
Modelos pequeños populares
Modelos pequeños oficiales aún sin votos en Arena, ordenados por descargas en Hugging Face (popularidad, no calidad).
| Modelo | Descargas/mes | Tamaño | Archivo a 4 bits | Tokens/s |
|---|---|---|---|---|
| Qwen3-0.6B Qwen |
28.6M | 0.8 B | 1.7 GB | 345 |
| Qwen3-4B Qwen |
11.7M | 4 B | 3.6 GB | 171 |
| Qwen3-8B Qwen |
8.8M | 8.2 B | 6.2 GB | 108 |
| Qwen3-14B Qwen |
8.7M | 14.8 B | 10 GB | 68 |
| Qwen3.5-4B Qwen |
7.8M | 4.7 B | 4.0 GB | 194 |
| Qwen3.5-9B Qwen |
7.3M | 9.7 B | 7.1 GB | 109 |
Estimaciones a 4 bits (Q4_K_M) con un contexto de 8K, calibradas con 44 pruebas reales de llama.cpp (error típico de unos ±10 %). Tokens por segundo: unos 10 equivalen a la velocidad de lectura. Como afiliados de Amazon, FreeLLMArena obtiene ingresos por las compras que cumplen los requisitos; los enlaces no cambian las clasificaciones.
Preguntas
¿Cuál es el mejor modelo de IA gratis para la RTX 6000 Ada?
Gemma 4 31B (puntuación de Arena 1443) es el modelo abierto mejor votado que cabe entero en 48 GB de memoria de vídeo a 4 bits, y escribe unos 34 tokens por segundo.
¿Qué tamaño de modelo puede ejecutar la RTX 6000 Ada?
Unos 73 mil millones de parámetros en un modelo denso a 4 bits con un contexto de 8K, entero en la GPU. Los modelos de mezcla de expertos pueden ser más grandes, y con 64 GB de RAM del sistema se ejecutan modelos aún mayores, aunque más despacio.
¿Es buena la RTX 6000 Ada para LLM locales?
Tiene 48 GB de memoria y 960 GB/s de ancho de banda. La memoria decide qué modelos caben; el ancho de banda, a qué velocidad escriben. Con 24 GB o más ejecuta modelos de 27–32 B, el punto ideal de calidad para uso doméstico.
Tarjetas similares
- RTX A6000 48 GB · 768 GB/s
- RTX 5090 32 GB · 1792 GB/s
- Mac mini M4 Pro 64 GB 64 GB · 273 GB/s
- RTX 3090 Ti 24 GB · 1008 GB/s
- RTX 4090 24 GB · 1008 GB/s
- RX 7900 XTX 24 GB · 960 GB/s
Comparte esta página:XLinkedInRedditWhatsApp
¿Has visto un número incorrecto o un enlace roto? Avísanos del error