Vota en Free Arena

GPU › Intel

Mejores modelos de IA gratis para la Arc B580

Arc B580: 12 GB de memoria de vídeo, 456 GB/s. Estos son los modelos gratis que ejecuta, ordenados por votos de Arena, con la velocidad que puedes esperar.

Simula tu configuración · Consulta el precio en Amazon ↗ · Compara todas las GPU

Mejor modelo votado, con ayuda de la RAMGemma 4 31BArena 1443 · ~6.3 tokens/s con 64 GB de RAM
Mayor modelo denso~16 Ba 4 bits, contexto de 8K, entero en la GPU
Memoria12 GB456 GB/s de ancho de banda
Con dos tarjetasGemma 4 31B24 GB · ~16 tokens/s

Modelos más grandes con ayuda de 64 GB de RAM del sistema

Parte del modelo se queda en la memoria del sistema, que es mucho más lenta que la memoria de vídeo.

ModeloPuntuación de ArenaTamañoArchivo a 4 bitsTokens/s
Gemma 4 31B
google
144331.3 B20 GB6.3
Qwen3.8-27B
alibaba
144127.8 B18 GB9.0
Gemma 4 26B A4B
google · MoE, 4 B activos
143425.8 B17 GB53
Qwen3.5-27B
alibaba
140927.8 B18 GB9.0
gemma-3-27b-it
google
135827.4 B18 GB8.6

Modelos pequeños populares

Modelos pequeños oficiales aún sin votos en Arena, ordenados por descargas en Hugging Face (popularidad, no calidad).

ModeloDescargas/mesTamañoArchivo a 4 bitsTokens/s
Qwen3-0.6B
Qwen
28.6M0.8 B1.7 GB200
Qwen3-4B
Qwen
11.7M4 B3.6 GB89
Qwen3-8B
Qwen
8.8M8.2 B6.2 GB54
Qwen3-14B
Qwen
8.7M14.8 B10 GB33
Qwen3.5-4B
Qwen
7.8M4.7 B4.0 GB102
Qwen3.5-9B
Qwen
7.3M9.7 B7.1 GB55

Estimaciones a 4 bits (Q4_K_M) con un contexto de 8K, calibradas con 44 pruebas reales de llama.cpp (error típico de unos ±10 %). Tokens por segundo: unos 10 equivalen a la velocidad de lectura. Como afiliados de Amazon, FreeLLMArena obtiene ingresos por las compras que cumplen los requisitos; los enlaces no cambian las clasificaciones.

Preguntas

¿Cuál es el mejor modelo de IA gratis para la Arc B580?

Ningún modelo votado cabe entero en 12 GB a 4 bits. Los modelos pequeños sin votos en Arena sí caben, y los más grandes funcionan con ayuda de la RAM del sistema, pero más despacio.

¿Qué tamaño de modelo puede ejecutar la Arc B580?

Unos 16 mil millones de parámetros en un modelo denso a 4 bits con un contexto de 8K, entero en la GPU. Los modelos de mezcla de expertos pueden ser más grandes, y con 64 GB de RAM del sistema se ejecutan modelos aún mayores, aunque más despacio.

¿Es buena la Arc B580 para LLM locales?

Tiene 12 GB de memoria y 456 GB/s de ancho de banda. La memoria decide qué modelos caben; el ancho de banda, a qué velocidad escriben. Con menos de 16 GB ejecuta bien los modelos pequeños; los más grandes necesitan RAM del sistema y van lentos.

Tarjetas similares

Comparte esta página:XLinkedInRedditWhatsApp