FreeLLMPC con IA Nuevo
Los equipos pensados para IA comparten un gran bloque de memoria rápida entre el procesador y el chip gráfico, así que pueden alojar modelos mucho más grandes que una tarjeta gráfica. Son silenciosos y pequeños, pero más lentos que una tarjeta gráfica grande con los modelos que caben en ella. Estimaciones de nuestro simulador.
Qué tan rápido escriben
Tokens por segundo, estimados. Azul: PC con IA y memoria unificada. Naranja: un PC de sobremesa con tarjeta gráfica, para comparar.
Qué muestra · Cómo leerlo
Qué muestra. Velocidad estimada con Qwen3.8-27B, un modelo denso de 27 B parámetros, a 4 bits con contexto de 8K. El PC de sobremesa tiene una RTX 5090 y 64 GB de RAM.
Cómo leerlo. Barra más larga, más rápido. El ancho de banda de la memoria decide la velocidad: cada palabra lee todo el modelo de la memoria. Los PC con IA ganan en tamaño; las tarjetas gráficas ganan en velocidad cuando el modelo cabe.
Apple Mac Studio con M3 Ultra
macOS: LM Studio, Ollama, llama.cpp y MLX funcionan todos en la GPU de Apple. Con Qwen3.8-27B (un modelo denso de 27 B) escribe unos 33 tokens por segundo. Todos los modelos que ejecuta →
- Mac Studio M3 UltraSobremesaAmazon ↗
Apple M4 Max: Mac Studio y MacBook Pro
macOS: LM Studio, Ollama, llama.cpp y MLX funcionan todos en la GPU de Apple. Con Qwen3.8-27B (un modelo denso de 27 B) escribe unos 23 tokens por segundo. Todos los modelos que ejecuta →
NVIDIA DGX Spark y otros equipos GB10
Linux con la pila NVIDIA CUDA: Ollama, llama.cpp, vLLM y la mayoría de las herramientas de IA funcionan como en una tarjeta gráfica NVIDIA. Con Qwen3.8-27B (un modelo denso de 27 B) escribe unos 12 tokens por segundo. Todos los modelos que ejecuta →
Mini PC y portátiles AMD Ryzen AI Max+ 395
Windows o Linux: LM Studio, Ollama y llama.cpp funcionan en la GPU Radeon integrada (Vulkan o ROCm). Con Qwen3.8-27B (un modelo denso de 27 B) escribe unos 11 tokens por segundo. Todos los modelos que ejecuta →
Apple Mac mini con M4 Pro
macOS: LM Studio, Ollama, llama.cpp y MLX funcionan todos en la GPU de Apple. Con Qwen3.8-27B (un modelo denso de 27 B) escribe unos 12 tokens por segundo. Todos los modelos que ejecuta →
- Mac mini M4 ProMini PCAmazon ↗
Como comparación: un PC de sobremesa con una RTX 5090
32 GB en la tarjeta gráfica, 1792 GB/s, más 64 GB de RAM del sistema. Mejor modelo gratis a velocidad de lectura: Gemma 4 31B
Todos los modelos que ejecuta la RTX 5090 → · Todas las tarjetas gráficas · Cuánta RAM hace falta
Cómo elegir
La memoria decide qué cabe
Un modelo a 4 bits necesita unos 0.6 GB por cada mil millones de parámetros, más el contexto. Con memoria unificada, unas tres cuartas partes pueden ir al modelo: 128 GB alojan modelos de unos 150 mil millones de parámetros, 512 GB incluso otros más grandes.
El ancho de banda decide la velocidad
Cada palabra que escribe el modelo lee todos sus pesos activos. Más GB/s, respuestas más rápidas. Los modelos de mezcla de expertos solo leen una parte de sus pesos, así que van rápido incluso en los PC con IA grandes.
Apple, NVIDIA o AMD
Los Mac son silenciosos y fáciles de configurar. Los equipos GB10, como el DGX Spark, usan el software de NVIDIA para el que están hechas la mayoría de las herramientas de IA. Los mini PC Ryzen AI Max+ 395 son la forma más barata de llegar a 128 GB y funcionan con Windows o Linux.
¿O una tarjeta gráfica?
Si los modelos que quieres caben en 24 a 32 GB, un equipo de sobremesa con una tarjeta gráfica grande es más rápido. Elige un PC con IA cuando quieras modelos que necesitan 64 GB o más. Compara en el simulador Ejecútalo en casa.
Enlaces de afiliado: como afiliados de Amazon, FreeLLMArena gana con las compras que cumplen los requisitos hechas a través de los enlaces «Amazon ↗». Los enlaces no cambian el orden, las cifras ni las estimaciones de esta página, y el precio es el mismo para ti. Las velocidades son estimaciones de nuestro simulador, calibradas con ejecuciones reales de llama.cpp.
Comparte esta página:XLinkedInRedditWhatsApp
¿Has visto un número incorrecto o un enlace roto? Avísanos del error