FreeLLMGPU › NVIDIA
Mejores modelos de IA gratis para la RTX 3090
RTX 3090: 24 GB de memoria de vídeo, 936 GB/s. Estos son los modelos gratis que ejecuta, ordenados por votos de Arena, con la velocidad que puedes esperar.
Simula tu configuración · Consulta el precio en Amazon ↗ · Compara todas las GPU
Modelos votados que caben enteros en la GPU
| Modelo | Puntuación de Arena | Tamaño | Archivo a 4 bits | Tokens/s |
|---|---|---|---|---|
| Gemma 4 31B |
1443 | 31.3 B | 20 GB | 33 |
| Qwen3.8-27B alibaba |
1441 | 27.8 B | 18 GB | 40 |
| Gemma 4 26B A4B google · MoE, 4 B activos |
1434 | 25.8 B | 17 GB | 146 |
| Qwen3.5-27B alibaba |
1409 | 27.8 B | 18 GB | 40 |
| gemma-3-27b-it |
1358 | 27.4 B | 18 GB | 39 |
Modelos más grandes con ayuda de 64 GB de RAM del sistema
Parte del modelo se queda en la memoria del sistema, que es mucho más lenta que la memoria de vídeo.
Modelos pequeños populares
Modelos pequeños oficiales aún sin votos en Arena, ordenados por descargas en Hugging Face (popularidad, no calidad).
| Modelo | Descargas/mes | Tamaño | Archivo a 4 bits | Tokens/s |
|---|---|---|---|---|
| Qwen3-0.6B Qwen |
28.6M | 0.8 B | 1.7 GB | 339 |
| Qwen3-4B Qwen |
11.7M | 4 B | 3.6 GB | 167 |
| Qwen3-8B Qwen |
8.8M | 8.2 B | 6.2 GB | 106 |
| Qwen3-14B Qwen |
8.7M | 14.8 B | 10 GB | 66 |
| Qwen3.5-4B Qwen |
7.8M | 4.7 B | 4.0 GB | 190 |
| Qwen3.5-9B Qwen |
7.3M | 9.7 B | 7.1 GB | 106 |
Estimaciones a 4 bits (Q4_K_M) con un contexto de 8K, calibradas con 44 pruebas reales de llama.cpp (error típico de unos ±10 %). Tokens por segundo: unos 10 equivalen a la velocidad de lectura. Como afiliados de Amazon, FreeLLMArena obtiene ingresos por las compras que cumplen los requisitos; los enlaces no cambian las clasificaciones.
Preguntas
¿Cuál es el mejor modelo de IA gratis para la RTX 3090?
Gemma 4 31B (puntuación de Arena 1443) es el modelo abierto mejor votado que cabe entero en 24 GB de memoria de vídeo a 4 bits, y escribe unos 33 tokens por segundo.
¿Qué tamaño de modelo puede ejecutar la RTX 3090?
Unos 35 mil millones de parámetros en un modelo denso a 4 bits con un contexto de 8K, entero en la GPU. Los modelos de mezcla de expertos pueden ser más grandes, y con 64 GB de RAM del sistema se ejecutan modelos aún mayores, aunque más despacio.
¿Es buena la RTX 3090 para LLM locales?
Tiene 24 GB de memoria y 936 GB/s de ancho de banda. La memoria decide qué modelos caben; el ancho de banda, a qué velocidad escriben. Con 24 GB o más ejecuta modelos de 27–32 B, el punto ideal de calidad para uso doméstico.
Tarjetas similares
- RTX 3090 Ti 24 GB · 1008 GB/s
- RTX 4090 24 GB · 1008 GB/s
- RX 7900 XTX 24 GB · 960 GB/s
- RX 7900 XT 20 GB · 800 GB/s
- RTX 5090 32 GB · 1792 GB/s
- RTX 5080 16 GB · 960 GB/s
Comparte esta página:XLinkedInRedditWhatsApp
¿Has visto un número incorrecto o un enlace roto? Avísanos del error