Vota en Free Arena

GPU › AMD

Mejores modelos de IA gratis para la RX 9070 / 9070 XT

RX 9070 / 9070 XT: 16 GB de memoria de vídeo, 640 GB/s. Estos son los modelos gratis que ejecuta, ordenados por votos de Arena, con la velocidad que puedes esperar.

Simula tu configuración · Consulta el precio en Amazon ↗ · Compara todas las GPU

Mejor modelo votado, con ayuda de la RAMGemma 4 31BArena 1443 · ~9.4 tokens/s con 64 GB de RAM
Mayor modelo denso~23 Ba 4 bits, contexto de 8K, entero en la GPU
Memoria16 GB640 GB/s de ancho de banda
Con dos tarjetasGemma 4 31B32 GB · ~22 tokens/s

Modelos más grandes con ayuda de 64 GB de RAM del sistema

Parte del modelo se queda en la memoria del sistema, que es mucho más lenta que la memoria de vídeo.

ModeloPuntuación de ArenaTamañoArchivo a 4 bitsTokens/s
Gemma 4 31B
google
144331.3 B20 GB9.4
Qwen3.8-27B
alibaba
144127.8 B18 GB17
Gemma 4 26B A4B
google · MoE, 4 B activos
143425.8 B17 GB99
Qwen3.5-27B
alibaba
140927.8 B18 GB17
gemma-3-27b-it
google
135827.4 B18 GB16

Modelos pequeños populares

Modelos pequeños oficiales aún sin votos en Arena, ordenados por descargas en Hugging Face (popularidad, no calidad).

ModeloDescargas/mesTamañoArchivo a 4 bitsTokens/s
Qwen3-0.6B
Qwen
28.6M0.8 B1.7 GB260
Qwen3-4B
Qwen
11.7M4 B3.6 GB121
Qwen3-8B
Qwen
8.8M8.2 B6.2 GB75
Qwen3-14B
Qwen
8.7M14.8 B10 GB46
Qwen3.5-4B
Qwen
7.8M4.7 B4.0 GB138
Qwen3.5-9B
Qwen
7.3M9.7 B7.1 GB75

Estimaciones a 4 bits (Q4_K_M) con un contexto de 8K, calibradas con 44 pruebas reales de llama.cpp (error típico de unos ±10 %). Tokens por segundo: unos 10 equivalen a la velocidad de lectura. Como afiliados de Amazon, FreeLLMArena obtiene ingresos por las compras que cumplen los requisitos; los enlaces no cambian las clasificaciones.

Preguntas

¿Cuál es el mejor modelo de IA gratis para la RX 9070 / 9070 XT?

Ningún modelo votado cabe entero en 16 GB a 4 bits. Los modelos pequeños sin votos en Arena sí caben, y los más grandes funcionan con ayuda de la RAM del sistema, pero más despacio.

¿Qué tamaño de modelo puede ejecutar la RX 9070 / 9070 XT?

Unos 23 mil millones de parámetros en un modelo denso a 4 bits con un contexto de 8K, entero en la GPU. Los modelos de mezcla de expertos pueden ser más grandes, y con 64 GB de RAM del sistema se ejecutan modelos aún mayores, aunque más despacio.

¿Es buena la RX 9070 / 9070 XT para LLM locales?

Tiene 16 GB de memoria y 640 GB/s de ancho de banda. La memoria decide qué modelos caben; el ancho de banda, a qué velocidad escriben. Con 16 GB ejecuta modelos de hasta unos 20 B enteros en la GPU; los modelos de 27–32 B necesitan ayuda de la RAM del sistema.

Tarjetas similares

Comparte esta página:XLinkedInRedditWhatsApp