FreeLLMGPU › Apple
Meilleurs modèles d'IA gratuits pour Mac Studio M3 Ultra 512 GB
Mac Studio M3 Ultra 512 GB : 512 GB de mémoire partagée (environ 384 GB utilisables par le GPU), 819 GB/s. Voici les modèles gratuits qu'il fait tourner, classés par votes Arena, avec la vitesse à laquelle vous pouvez vous attendre.
Simulez votre configuration · Voir le prix sur Amazon ↗ · Comparer tous les GPU
Modèles votés qui tiennent entièrement sur le GPU
| Modèle | Score Arena | Taille | Fichier 4 bits | Tokens/s |
|---|---|---|---|---|
| GLM-5.3-Flash zai · MoE, 25.4 B actifs |
1471 | 321.3 B | 196 GB | 33 |
| MiMo-V2.6-Flash xiaomi · MoE, 17.4 B actifs |
1455 | 310.8 B | 190 GB | 43 |
| nvidia-nemotron-3-ultra-550b-a55b-nvfp4 nvidia · MoE, 55 B actifs |
1445 | 560.5 B | 341 GB | 17 |
| Gemma 4 31B |
1443 | 31.3 B | 20 GB | 27 |
| Qwen3.8-27B alibaba |
1441 | 27.8 B | 18 GB | 33 |
| GLM-4.6 zai · MoE, 37.6 B actifs |
1440 | 356.8 B | 217 GB | 21 |
| Hy3 tencent · MoE, 24.4 B actifs |
1438 | 298.8 B | 182 GB | 30 |
| Qwen3.5-397B-A17B alibaba · MoE, 17 B actifs |
1438 | 403.4 B | 246 GB | 43 |
| GLM-4.7 zai · MoE, 39.1 B actifs |
1435 | 358.3 B | 218 GB | 21 |
| Gemma 4 26B A4B google · MoE, 4 B actifs |
1434 | 25.8 B | 17 GB | 90 |
| MiniMax-M3 minimax · MoE, 26.8 B actifs |
1433 | 427 B | 260 GB | 30 |
| DeepSeek-V4-Flash (High) deepseek · MoE, 20.4 B actifs |
1432 | 290.9 B | 177 GB | 37 |
| glm-4.5 zai · MoE, 39.1 B actifs |
1430 | 358.3 B | 218 GB | 21 |
| MiMo-V2.5 xiaomi · MoE, 17.4 B actifs |
1428 | 310.8 B | 190 GB | 43 |
| longcat-flash-chat meituan · MoE, 33.4 B actifs |
1423 | 561.9 B | 342 GB | 26 |
Petits modèles populaires
Petits modèles officiels sans vote Arena pour l'instant, classés par nombre de téléchargements sur Hugging Face (popularité, pas qualité).
| Modèle | Téléchargements/mois | Taille | Fichier 4 bits | Tokens/s |
|---|---|---|---|---|
| Qwen3-0.6B Qwen |
28.6M | 0.8 B | 1.7 GB | 175 |
| Qwen3-4B Qwen |
11.7M | 4 B | 3.6 GB | 109 |
| Qwen3-8B Qwen |
8.8M | 8.2 B | 6.2 GB | 76 |
| Qwen3-14B Qwen |
8.7M | 14.8 B | 10 GB | 51 |
| Qwen3.5-4B Qwen |
7.8M | 4.7 B | 4.0 GB | 119 |
| Qwen3.5-9B Qwen |
7.3M | 9.7 B | 7.1 GB | 76 |
Estimations en 4 bits (Q4_K_M) avec un contexte de 8K, calibrées sur 44 tests llama.cpp réels (erreur typique d'environ ±10 %). Tokens par seconde : environ 10 correspond à la vitesse de lecture. En tant que Partenaire Amazon, FreeLLMArena réalise un bénéfice sur les achats remplissant les conditions requises ; les liens ne modifient pas les classements.
Questions
Quel est le meilleur modèle d'IA gratuit pour Mac Studio M3 Ultra 512 GB ?
GLM-5.3-Flash (score Arena 1471) est le modèle ouvert le mieux voté qui tient entièrement dans les ~384 GB de mémoire partagée que le GPU peut utiliser en 4 bits, avec environ 33 tokens par seconde.
Quelle taille de modèle peut-on faire tourner sur Mac Studio M3 Ultra 512 GB ?
Environ 599 milliards de paramètres pour un modèle dense en 4 bits avec un contexte de 8K, entièrement sur le GPU. Les modèles à mélange d'experts peuvent être plus gros, et avec 64 GB de RAM système, des modèles encore plus grands tournent, mais plus lentement.
Mac Studio M3 Ultra 512 GB convient-il aux LLM locaux ?
Il dispose de 512 GB de mémoire et de 819 GB/s de bande passante. La mémoire détermine quels modèles tiennent ; la bande passante détermine leur vitesse d'écriture. Avec 24 GB ou plus, il fait tourner des modèles de 27–32 B, le meilleur compromis de qualité pour un usage à domicile.
Cartes similaires
- H200 141 GB · 4800 GB/s
- Mac M4 Max 128 GB 128 GB · 546 GB/s
- NVIDIA DGX Spark 128 GB 128 GB · 273 GB/s
- Ryzen AI Max+ 395 128 GB 128 GB · 256 GB/s
- RTX PRO 6000 Blackwell 96 GB · 1792 GB/s
- H100 SXM 80 GB · 3350 GB/s
Partager cette page :XLinkedInRedditWhatsApp
Un chiffre erroné ou un lien cassé ? Signalez une erreur