Vota en Free Arena

GPU › Apple

Mejores modelos de IA gratis para la Mac M4 Max 128 GB

Mac M4 Max 128 GB: 128 GB de memoria compartida (unos 96 GB utilizables por la GPU), 546 GB/s. Estos son los modelos gratis que ejecuta, ordenados por votos de Arena, con la velocidad que puedes esperar.

Simula tu configuración · Consulta el precio en Amazon ↗ · Compara todas las GPU

Mejor modelo votado que cabeGemma 4 31BArena 1443 · ~19 tokens/s
Mayor modelo denso~148 Ba 4 bits, contexto de 8K, entero en la GPU
Memoria128 GB546 GB/s de ancho de banda

Modelos votados que caben enteros en la GPU

ModeloPuntuación de ArenaTamañoArchivo a 4 bitsTokens/s
Gemma 4 31B
google
144331.3 B20 GB19
Qwen3.8-27B
alibaba
144127.8 B18 GB23
Gemma 4 26B A4B
google · MoE, 4 B activos
143425.8 B17 GB74
Qwen3.5-122B-A10B
alibaba · MoE, 10 B activos
1417125.1 B77 GB47
Qwen3.5-27B
alibaba
140927.8 B18 GB23
GLM-4.6V
zai · MoE, 14.3 B activos
1376107.7 B66 GB33
gemma-3-27b-it
google
135827.4 B18 GB22
GLM-4.5V
zai · MoE, 14.3 B activos
1333107.7 B66 GB33

Modelos pequeños populares

Modelos pequeños oficiales aún sin votos en Arena, ordenados por descargas en Hugging Face (popularidad, no calidad).

ModeloDescargas/mesTamañoArchivo a 4 bitsTokens/s
Qwen3-0.6B
Qwen
28.6M0.8 B1.7 GB146
Qwen3-4B
Qwen
11.7M4 B3.6 GB83
Qwen3-8B
Qwen
8.8M8.2 B6.2 GB56
Qwen3-14B
Qwen
8.7M14.8 B10 GB36
Qwen3.5-4B
Qwen
7.8M4.7 B4.0 GB92
Qwen3.5-9B
Qwen
7.3M9.7 B7.1 GB56

Estimaciones a 4 bits (Q4_K_M) con un contexto de 8K, calibradas con 44 pruebas reales de llama.cpp (error típico de unos ±10 %). Tokens por segundo: unos 10 equivalen a la velocidad de lectura. Como afiliados de Amazon, FreeLLMArena obtiene ingresos por las compras que cumplen los requisitos; los enlaces no cambian las clasificaciones.

Preguntas

¿Cuál es el mejor modelo de IA gratis para la Mac M4 Max 128 GB?

Gemma 4 31B (puntuación de Arena 1443) es el modelo abierto mejor votado que cabe entero en los ~96 GB de memoria compartida que puede usar la GPU a 4 bits, y escribe unos 19 tokens por segundo.

¿Qué tamaño de modelo puede ejecutar la Mac M4 Max 128 GB?

Unos 148 mil millones de parámetros en un modelo denso a 4 bits con un contexto de 8K, entero en la GPU. Los modelos de mezcla de expertos pueden ser más grandes, y con 64 GB de RAM del sistema se ejecutan modelos aún mayores, aunque más despacio.

¿Es buena la Mac M4 Max 128 GB para LLM locales?

Tiene 128 GB de memoria y 546 GB/s de ancho de banda. La memoria decide qué modelos caben; el ancho de banda, a qué velocidad escriben. Con 24 GB o más ejecuta modelos de 27–32 B, el punto ideal de calidad para uso doméstico.

Tarjetas similares

Comparte esta página:XLinkedInRedditWhatsApp