FreeLLMGPU › NVIDIA
Mejores modelos de IA gratis para la RTX 4060 Ti 16 GB
RTX 4060 Ti 16 GB: 16 GB de memoria de vídeo, 288 GB/s. Estos son los modelos gratis que ejecuta, ordenados por votos de Arena, con la velocidad que puedes esperar.
Simula tu configuración · Consulta el precio en Amazon ↗ · Compara todas las GPU
Modelos más grandes con ayuda de 64 GB de RAM del sistema
Parte del modelo se queda en la memoria del sistema, que es mucho más lenta que la memoria de vídeo.
| Modelo | Puntuación de Arena | Tamaño | Archivo a 4 bits | Tokens/s |
|---|---|---|---|---|
| Gemma 4 31B |
1443 | 31.3 B | 20 GB | 6.9 |
| Qwen3.8-27B alibaba |
1441 | 27.8 B | 18 GB | 10 |
| Gemma 4 26B A4B google · MoE, 4 B activos |
1434 | 25.8 B | 17 GB | 59 |
| Qwen3.5-27B alibaba |
1409 | 27.8 B | 18 GB | 10 |
| gemma-3-27b-it |
1358 | 27.4 B | 18 GB | 10.0 |
Modelos pequeños populares
Modelos pequeños oficiales aún sin votos en Arena, ordenados por descargas en Hugging Face (popularidad, no calidad).
| Modelo | Descargas/mes | Tamaño | Archivo a 4 bits | Tokens/s |
|---|---|---|---|---|
| Qwen3-0.6B Qwen |
28.6M | 0.8 B | 1.7 GB | 136 |
| Qwen3-4B Qwen |
11.7M | 4 B | 3.6 GB | 58 |
| Qwen3-8B Qwen |
8.8M | 8.2 B | 6.2 GB | 35 |
| Qwen3-14B Qwen |
8.7M | 14.8 B | 10 GB | 21 |
| Qwen3.5-4B Qwen |
7.8M | 4.7 B | 4.0 GB | 67 |
| Qwen3.5-9B Qwen |
7.3M | 9.7 B | 7.1 GB | 35 |
Estimaciones a 4 bits (Q4_K_M) con un contexto de 8K, calibradas con 44 pruebas reales de llama.cpp (error típico de unos ±10 %). Tokens por segundo: unos 10 equivalen a la velocidad de lectura. Como afiliados de Amazon, FreeLLMArena obtiene ingresos por las compras que cumplen los requisitos; los enlaces no cambian las clasificaciones.
Preguntas
¿Cuál es el mejor modelo de IA gratis para la RTX 4060 Ti 16 GB?
Ningún modelo votado cabe entero en 16 GB a 4 bits. Los modelos pequeños sin votos en Arena sí caben, y los más grandes funcionan con ayuda de la RAM del sistema, pero más despacio.
¿Qué tamaño de modelo puede ejecutar la RTX 4060 Ti 16 GB?
Unos 23 mil millones de parámetros en un modelo denso a 4 bits con un contexto de 8K, entero en la GPU. Los modelos de mezcla de expertos pueden ser más grandes, y con 64 GB de RAM del sistema se ejecutan modelos aún mayores, aunque más despacio.
¿Es buena la RTX 4060 Ti 16 GB para LLM locales?
Tiene 16 GB de memoria y 288 GB/s de ancho de banda. La memoria decide qué modelos caben; el ancho de banda, a qué velocidad escriben. Con 16 GB ejecuta modelos de hasta unos 20 B enteros en la GPU; los modelos de 27–32 B necesitan ayuda de la RAM del sistema.
Tarjetas similares
- RTX 5080 16 GB · 960 GB/s
- RTX 5070 Ti 16 GB · 896 GB/s
- RTX 4080 Super 16 GB · 736 GB/s
- RTX 4070 Ti Super 16 GB · 672 GB/s
- RX 9070 / 9070 XT 16 GB · 640 GB/s
- RX 7800 XT 16 GB · 624 GB/s
Comparte esta página:XLinkedInRedditWhatsApp
¿Has visto un número incorrecto o un enlace roto? Avísanos del error