FreeLLMPC IA Nouveau
Les ordinateurs conçus pour l'IA partagent une grande réserve de mémoire rapide entre le processeur et la puce graphique ; ils peuvent donc contenir des modèles bien plus gros qu'une carte graphique. Ils sont silencieux et compacts, mais plus lents qu'une grosse carte graphique sur les modèles qui y tiennent. Estimations de notre simulateur.
Quelle est leur vitesse d'écriture
Tokens par seconde, estimés. Bleu : PC IA à mémoire unifiée. Orange : un PC de bureau avec carte graphique, pour comparer.
Ce que cela montre · Comment le lire
Ce que cela montre. Vitesse estimée sur Qwen3.8-27B, un modèle dense de 27 B paramètres, en 4 bits avec un contexte de 8K. Le PC de bureau a une RTX 5090 et 64 GB de RAM.
Comment le lire. Barre plus longue, plus rapide. La bande passante mémoire décide de la vitesse : chaque mot lit tout le modèle en mémoire. Les PC IA gagnent sur la taille, les cartes graphiques gagnent sur la vitesse quand le modèle tient.
Apple Mac Studio avec M3 Ultra
macOS : LM Studio, Ollama, llama.cpp et MLX tournent tous sur le GPU d'Apple. Avec Qwen3.8-27B (un modèle dense de 27 B), il écrit environ 33 tokens par seconde. Tous les modèles qu'il fait tourner →
- Mac Studio M3 UltraOrdinateur de bureauAmazon ↗
Apple M4 Max : Mac Studio et MacBook Pro
macOS : LM Studio, Ollama, llama.cpp et MLX tournent tous sur le GPU d'Apple. Avec Qwen3.8-27B (un modèle dense de 27 B), il écrit environ 23 tokens par seconde. Tous les modèles qu'il fait tourner →
NVIDIA DGX Spark et autres machines GB10
Linux avec la pile NVIDIA CUDA : Ollama, llama.cpp, vLLM et la plupart des outils d'IA fonctionnent comme sur une carte graphique NVIDIA. Avec Qwen3.8-27B (un modèle dense de 27 B), il écrit environ 12 tokens par seconde. Tous les modèles qu'il fait tourner →
Mini PC et portables AMD Ryzen AI Max+ 395
Windows ou Linux : LM Studio, Ollama et llama.cpp tournent sur le GPU Radeon intégré (Vulkan ou ROCm). Avec Qwen3.8-27B (un modèle dense de 27 B), il écrit environ 11 tokens par seconde. Tous les modèles qu'il fait tourner →
Apple Mac mini avec M4 Pro
macOS : LM Studio, Ollama, llama.cpp et MLX tournent tous sur le GPU d'Apple. Avec Qwen3.8-27B (un modèle dense de 27 B), il écrit environ 12 tokens par seconde. Tous les modèles qu'il fait tourner →
- Mac mini M4 ProMini PCAmazon ↗
Pour comparer : un PC de bureau avec une RTX 5090
32 GB sur la carte graphique, 1792 GB/s, plus 64 GB de RAM système. Meilleur modèle gratuit à vitesse de lecture : Gemma 4 31B
Tous les modèles que la RTX 5090 fait tourner → · Toutes les cartes graphiques · Combien de RAM
Comment choisir
La mémoire décide de ce qui tient
Un modèle en 4 bits demande environ 0.6 GB par milliard de paramètres, plus le contexte. Avec la mémoire unifiée, environ les trois quarts peuvent aller au modèle : 128 GB contiennent des modèles d'environ 150 milliards de paramètres, 512 GB des modèles encore plus gros.
La bande passante décide de la vitesse
Chaque mot écrit par le modèle lit tous ses poids actifs. Plus de GB/s, des réponses plus rapides. Les modèles à mélange d'experts ne lisent qu'une partie de leurs poids ; ils tournent donc vite même sur de gros PC IA.
Apple, NVIDIA ou AMD
Les Mac sont silencieux et simples à installer. Les machines GB10 comme le DGX Spark font tourner le logiciel NVIDIA pour lequel la plupart des outils d'IA sont conçus. Les mini PC Ryzen AI Max+ 395 sont le moyen le moins cher d'atteindre 128 GB, sous Windows ou Linux.
Ou une carte graphique ?
Si les modèles que vous voulez tiennent dans 24 à 32 GB, un PC de bureau avec une grosse carte graphique est plus rapide. Choisissez un PC IA si vous voulez des modèles qui demandent 64 GB ou plus. Comparez dans le simulateur En local.
Liens d'affiliation : en tant que Partenaire Amazon, FreeLLMArena réalise un bénéfice sur les achats remplissant les conditions requises effectués via les liens « Amazon ↗ ». Les liens ne modifient ni l'ordre, ni les chiffres, ni les estimations de cette page, et le prix est le même pour vous. Les vitesses sont des estimations de notre simulateur, calibrées sur de vraies exécutions de llama.cpp.
Partager cette page :XLinkedInRedditWhatsApp
Un chiffre erroné ou un lien cassé ? Signalez une erreur