FreeLLMGPU › NVIDIA
Mejores modelos de IA gratis para la RTX 3060 12 GB
RTX 3060 12 GB: 12 GB de memoria de vídeo, 360 GB/s. Estos son los modelos gratis que ejecuta, ordenados por votos de Arena, con la velocidad que puedes esperar.
Simula tu configuración · Consulta el precio en Amazon ↗ · Compara todas las GPU
Modelos más grandes con ayuda de 64 GB de RAM del sistema
Parte del modelo se queda en la memoria del sistema, que es mucho más lenta que la memoria de vídeo.
| Modelo | Puntuación de Arena | Tamaño | Archivo a 4 bits | Tokens/s |
|---|---|---|---|---|
| Gemma 4 31B |
1443 | 31.3 B | 20 GB | 5.9 |
| Qwen3.8-27B alibaba |
1441 | 27.8 B | 18 GB | 8.4 |
| Gemma 4 26B A4B google · MoE, 4 B activos |
1434 | 25.8 B | 17 GB | 49 |
| Qwen3.5-27B alibaba |
1409 | 27.8 B | 18 GB | 8.4 |
| gemma-3-27b-it |
1358 | 27.4 B | 18 GB | 8.0 |
Modelos pequeños populares
Modelos pequeños oficiales aún sin votos en Arena, ordenados por descargas en Hugging Face (popularidad, no calidad).
| Modelo | Descargas/mes | Tamaño | Archivo a 4 bits | Tokens/s |
|---|---|---|---|---|
| Qwen3-0.6B Qwen |
28.6M | 0.8 B | 1.7 GB | 165 |
| Qwen3-4B Qwen |
11.7M | 4 B | 3.6 GB | 72 |
| Qwen3-8B Qwen |
8.8M | 8.2 B | 6.2 GB | 43 |
| Qwen3-14B Qwen |
8.7M | 14.8 B | 10 GB | 27 |
| Qwen3.5-4B Qwen |
7.8M | 4.7 B | 4.0 GB | 83 |
| Qwen3.5-9B Qwen |
7.3M | 9.7 B | 7.1 GB | 44 |
Estimaciones a 4 bits (Q4_K_M) con un contexto de 8K, calibradas con 44 pruebas reales de llama.cpp (error típico de unos ±10 %). Tokens por segundo: unos 10 equivalen a la velocidad de lectura. Como afiliados de Amazon, FreeLLMArena obtiene ingresos por las compras que cumplen los requisitos; los enlaces no cambian las clasificaciones.
Preguntas
¿Cuál es el mejor modelo de IA gratis para la RTX 3060 12 GB?
Ningún modelo votado cabe entero en 12 GB a 4 bits. Los modelos pequeños sin votos en Arena sí caben, y los más grandes funcionan con ayuda de la RAM del sistema, pero más despacio.
¿Qué tamaño de modelo puede ejecutar la RTX 3060 12 GB?
Unos 16 mil millones de parámetros en un modelo denso a 4 bits con un contexto de 8K, entero en la GPU. Los modelos de mezcla de expertos pueden ser más grandes, y con 64 GB de RAM del sistema se ejecutan modelos aún mayores, aunque más despacio.
¿Es buena la RTX 3060 12 GB para LLM locales?
Tiene 12 GB de memoria y 360 GB/s de ancho de banda. La memoria decide qué modelos caben; el ancho de banda, a qué velocidad escriben. Con menos de 16 GB ejecuta bien los modelos pequeños; los más grandes necesitan RAM del sistema y van lentos.
Tarjetas similares
- RTX 5070 12 GB · 672 GB/s
- RTX 4070 / 4070 Super 12 GB · 504 GB/s
- Arc B580 12 GB · 456 GB/s
- RX 7700 XT 12 GB · 432 GB/s
- RTX 3080 10 GB 10 GB · 760 GB/s
- RTX 5080 16 GB · 960 GB/s
Comparte esta página:XLinkedInRedditWhatsApp
¿Has visto un número incorrecto o un enlace roto? Avísanos del error