Vota en Free Arena

GPU › Mini PC

Mejores modelos de IA gratis para la NVIDIA DGX Spark 128 GB

NVIDIA DGX Spark 128 GB: 128 GB de memoria compartida (unos 96 GB utilizables por la GPU), 273 GB/s. Estos son los modelos gratis que ejecuta, ordenados por votos de Arena, con la velocidad que puedes esperar.

Simula tu configuración · Consulta el precio en Amazon ↗ · Compara todas las GPU

Mejor modelo votado que cabeGemma 4 31BArena 1443 · ~10.0 tokens/s
Mayor modelo denso~148 Ba 4 bits, contexto de 8K, entero en la GPU
Memoria128 GB273 GB/s de ancho de banda

Modelos votados que caben enteros en la GPU

ModeloPuntuación de ArenaTamañoArchivo a 4 bitsTokens/s
Gemma 4 31B
google
144331.3 B20 GB10.0
Qwen3.8-27B
alibaba
144127.8 B18 GB12
Gemma 4 26B A4B
google · MoE, 4 B activos
143425.8 B17 GB60
Qwen3.5-122B-A10B
alibaba · MoE, 10 B activos
1417125.1 B77 GB31
Qwen3.5-27B
alibaba
140927.8 B18 GB12
GLM-4.6V
zai · MoE, 14.3 B activos
1376107.7 B66 GB20
gemma-3-27b-it
google
135827.4 B18 GB12
GLM-4.5V
zai · MoE, 14.3 B activos
1333107.7 B66 GB20

Modelos pequeños populares

Modelos pequeños oficiales aún sin votos en Arena, ordenados por descargas en Hugging Face (popularidad, no calidad).

ModeloDescargas/mesTamañoArchivo a 4 bitsTokens/s
Qwen3-0.6B
Qwen
28.6M0.8 B1.7 GB130
Qwen3-4B
Qwen
11.7M4 B3.6 GB55
Qwen3-8B
Qwen
8.8M8.2 B6.2 GB33
Qwen3-14B
Qwen
8.7M14.8 B10 GB20
Qwen3.5-4B
Qwen
7.8M4.7 B4.0 GB64
Qwen3.5-9B
Qwen
7.3M9.7 B7.1 GB33

Estimaciones a 4 bits (Q4_K_M) con un contexto de 8K, calibradas con 44 pruebas reales de llama.cpp (error típico de unos ±10 %). Tokens por segundo: unos 10 equivalen a la velocidad de lectura. Como afiliados de Amazon, FreeLLMArena obtiene ingresos por las compras que cumplen los requisitos; los enlaces no cambian las clasificaciones.

Preguntas

¿Cuál es el mejor modelo de IA gratis para la NVIDIA DGX Spark 128 GB?

Gemma 4 31B (puntuación de Arena 1443) es el modelo abierto mejor votado que cabe entero en los ~96 GB de memoria compartida que puede usar la GPU a 4 bits, y escribe unos 10.0 tokens por segundo.

¿Qué tamaño de modelo puede ejecutar la NVIDIA DGX Spark 128 GB?

Unos 148 mil millones de parámetros en un modelo denso a 4 bits con un contexto de 8K, entero en la GPU. Los modelos de mezcla de expertos pueden ser más grandes, y con 64 GB de RAM del sistema se ejecutan modelos aún mayores, aunque más despacio.

¿Es buena la NVIDIA DGX Spark 128 GB para LLM locales?

Tiene 128 GB de memoria y 273 GB/s de ancho de banda. La memoria decide qué modelos caben; el ancho de banda, a qué velocidad escriben. Con 24 GB o más ejecuta modelos de 27–32 B, el punto ideal de calidad para uso doméstico.

Tarjetas similares

Comparte esta página:XLinkedInRedditWhatsApp