FreeLLMPCs de IA Novo
Os computadores feitos para IA compartilham um grande bloco de memória rápida entre o processador e o chip gráfico, por isso comportam modelos bem maiores que uma placa de vídeo. São silenciosos e pequenos, mas mais lentos que uma placa de vídeo grande nos modelos que cabem nela. Estimativas do nosso simulador.
A que velocidade eles escrevem
Tokens por segundo, estimados. Azul: PCs de IA com memória unificada. Laranja: um PC de mesa com placa de vídeo, para comparar.
O que isto mostra · Como ler
O que mostra. Velocidade estimada no Qwen3.8-27B, um modelo denso com 27 B de parâmetros, com 4 bits e contexto de 8K. O PC de mesa tem uma RTX 5090 e 64 GB de RAM.
Como ler. Barra mais longa, mais rápido. A largura de banda da memória decide a velocidade: cada palavra lê o modelo inteiro da memória. Os PCs de IA ganham em tamanho; as placas de vídeo ganham em velocidade quando o modelo cabe.
Apple Mac Studio com M3 Ultra
macOS: LM Studio, Ollama, llama.cpp e MLX rodam todos na GPU da Apple. Com o Qwen3.8-27B (um modelo denso de 27 B), ele escreve cerca de 33 tokens por segundo. Todos os modelos que ele roda →
- Mac Studio M3 UltraDesktopAmazon ↗
Apple M4 Max: Mac Studio e MacBook Pro
macOS: LM Studio, Ollama, llama.cpp e MLX rodam todos na GPU da Apple. Com o Qwen3.8-27B (um modelo denso de 27 B), ele escreve cerca de 23 tokens por segundo. Todos os modelos que ele roda →
NVIDIA DGX Spark e outras máquinas GB10
Linux com a pilha NVIDIA CUDA: Ollama, llama.cpp, vLLM e a maioria das ferramentas de IA funcionam como em uma placa de vídeo NVIDIA. Com o Qwen3.8-27B (um modelo denso de 27 B), ele escreve cerca de 12 tokens por segundo. Todos os modelos que ele roda →
Mini PCs e notebooks AMD Ryzen AI Max+ 395
Windows ou Linux: LM Studio, Ollama e llama.cpp rodam na GPU Radeon integrada (Vulkan ou ROCm). Com o Qwen3.8-27B (um modelo denso de 27 B), ele escreve cerca de 11 tokens por segundo. Todos os modelos que ele roda →
Apple Mac mini com M4 Pro
macOS: LM Studio, Ollama, llama.cpp e MLX rodam todos na GPU da Apple. Com o Qwen3.8-27B (um modelo denso de 27 B), ele escreve cerca de 12 tokens por segundo. Todos os modelos que ele roda →
- Mac mini M4 ProMini PCAmazon ↗
Para comparar: um PC de mesa com uma RTX 5090
32 GB na placa de vídeo, 1792 GB/s, mais 64 GB de RAM do sistema. Melhor modelo grátis na velocidade de leitura: Gemma 4 31B
Todos os modelos que a RTX 5090 roda → · Todas as placas de vídeo · Quanta RAM
Como escolher
A memória decide o que cabe
Um modelo com 4 bits precisa de cerca de 0.6 GB por bilhão de parâmetros, mais o contexto. Com memória unificada, cerca de três quartos dela podem ir para o modelo: 128 GB comportam modelos de cerca de 150 bilhões de parâmetros, 512 GB comportam modelos ainda maiores.
A largura de banda decide a velocidade
Cada palavra que o modelo escreve lê todos os seus pesos ativos. Mais GB/s, respostas mais rápidas. Os modelos de mistura de especialistas leem só uma parte dos pesos, então rodam rápido até em PCs de IA grandes.
Apple, NVIDIA ou AMD
Os Macs são silenciosos e simples de configurar. As máquinas GB10, como o DGX Spark, rodam o software NVIDIA para o qual a maioria das ferramentas de IA é feita. Os mini PCs Ryzen AI Max+ 395 são o jeito mais barato de chegar a 128 GB e rodam Windows ou Linux.
Ou uma placa de vídeo?
Se os modelos que você quer cabem em 24 a 32 GB, um desktop com uma placa de vídeo grande é mais rápido. Escolha um PC de IA quando quiser modelos que precisam de 64 GB ou mais. Compare no simulador Rode em casa.
Links de afiliado: como Associada da Amazon, o FreeLLMArena ganha com compras qualificadas feitas pelos links “Amazon ↗”. Os links não alteram a ordem, os números nem as estimativas desta página, e o preço é o mesmo para você. As velocidades são estimativas do nosso simulador, calibradas em execuções reais do llama.cpp.
Compartilhe esta página:XLinkedInRedditWhatsApp
Viu um número errado ou um link quebrado? Informe um erro