FreeLLMGPU › NVIDIA
Mejores modelos de IA gratis para la RTX 4060
RTX 4060: 8 GB de memoria de vídeo, 272 GB/s. Estos son los modelos gratis que ejecuta, ordenados por votos de Arena, con la velocidad que puedes esperar.
Simula tu configuración · Consulta el precio en Amazon ↗ · Compara todas las GPU
Modelos más grandes con ayuda de 64 GB de RAM del sistema
Parte del modelo se queda en la memoria del sistema, que es mucho más lenta que la memoria de vídeo.
| Modelo | Puntuación de Arena | Tamaño | Archivo a 4 bits | Tokens/s |
|---|---|---|---|---|
| Gemma 4 31B |
1443 | 31.3 B | 20 GB | 4.7 |
| Qwen3.8-27B alibaba |
1441 | 27.8 B | 18 GB | 6.0 |
| Gemma 4 26B A4B google · MoE, 4 B activos |
1434 | 25.8 B | 17 GB | 36 |
| Qwen3.5-27B alibaba |
1409 | 27.8 B | 18 GB | 6.0 |
| gemma-3-27b-it |
1358 | 27.4 B | 18 GB | 5.9 |
Modelos pequeños populares
Modelos pequeños oficiales aún sin votos en Arena, ordenados por descargas en Hugging Face (popularidad, no calidad).
| Modelo | Descargas/mes | Tamaño | Archivo a 4 bits | Tokens/s |
|---|---|---|---|---|
| Qwen3-0.6B Qwen |
28.6M | 0.8 B | 1.7 GB | 130 |
| Qwen3-4B Qwen |
11.7M | 4 B | 3.6 GB | 55 |
| Qwen3-8B Qwen |
8.8M | 8.2 B | 6.2 GB | 33 |
| Qwen3.5-4B Qwen |
7.8M | 4.7 B | 4.0 GB | 64 |
| Qwen3.5-9B Qwen |
7.3M | 9.7 B | 7.1 GB | 33 |
| NVIDIA-Nemotron-3-Nano-4B-BF16 nvidia |
1.7M | 4 B | 3.6 GB | 52 |
Estimaciones a 4 bits (Q4_K_M) con un contexto de 8K, calibradas con 44 pruebas reales de llama.cpp (error típico de unos ±10 %). Tokens por segundo: unos 10 equivalen a la velocidad de lectura. Como afiliados de Amazon, FreeLLMArena obtiene ingresos por las compras que cumplen los requisitos; los enlaces no cambian las clasificaciones.
Preguntas
¿Cuál es el mejor modelo de IA gratis para la RTX 4060?
Ningún modelo votado cabe entero en 8 GB a 4 bits. Los modelos pequeños sin votos en Arena sí caben, y los más grandes funcionan con ayuda de la RAM del sistema, pero más despacio.
¿Qué tamaño de modelo puede ejecutar la RTX 4060?
Unos 10 mil millones de parámetros en un modelo denso a 4 bits con un contexto de 8K, entero en la GPU. Los modelos de mezcla de expertos pueden ser más grandes, y con 64 GB de RAM del sistema se ejecutan modelos aún mayores, aunque más despacio.
¿Es buena la RTX 4060 para LLM locales?
Tiene 8 GB de memoria y 272 GB/s de ancho de banda. La memoria decide qué modelos caben; el ancho de banda, a qué velocidad escriben. Con menos de 16 GB ejecuta bien los modelos pequeños; los más grandes necesitan RAM del sistema y van lentos.
Tarjetas similares
- RTX 5060 8 GB · 448 GB/s
- RX 7600 8 GB · 288 GB/s
- RTX 3080 10 GB 10 GB · 760 GB/s
- RTX 5070 12 GB · 672 GB/s
- RTX 4070 / 4070 Super 12 GB · 504 GB/s
- Arc B580 12 GB · 456 GB/s
Comparte esta página:XLinkedInRedditWhatsApp
¿Has visto un número incorrecto o un enlace roto? Avísanos del error