FreeLLMRAM pour l'IA locale Nouveau
Quand un modèle ne tient pas dans votre carte graphique, le reste va dans la RAM système. Avec 32 GB, même une carte de 12 GB fait tourner l'un des meilleurs modèles de chat gratuits à bonne vitesse. Au-delà de 64 GB, le chat ne s'améliore qu'avec des modèles géants qui écrivent lentement. Estimations de notre simulateur.
La vitesse de la RAM compte : une carte de 12 GB plus de la RAM
Tokens par seconde, estimés. Bleu : DDR5. Orange : DDR4. La note sur chaque barre indique le modèle.
Ce que cela montre · Comment le lire
Ce que cela montre. Vitesse estimée du meilleur modèle de chat gratuit qui écrit à la vitesse de lecture sur un RTX 3060 12 GB avec chaque kit de RAM de bureau (Gemma 4 26B A4B, un modèle à mélange d'experts qui ne tient pas seul dans 12 GB).
Comment le lire. Barre plus longue, plus rapide. Les barres DDR5 sont plus longues que les DDR4 parce que la partie du modèle en RAM est lue plus vite. Les kits à quatre modules tournent à moins de MT/s ; ils sont donc un peu plus lents que les kits à deux modules.
Chaque kit : ce qu'il permet de faire tourner
| Kit de RAM | Type | Vitesse | Bande passante | Meilleur modèle gratuit à la vitesse de lecture, avec RTX 3060 12 GB | Meilleur modèle gratuit à la vitesse de lecture, avec RTX 4090 | Acheter |
|---|---|---|---|---|---|---|
| Pas de RAM en plus la carte seule | — | — | — | Aucun modèle classé ne tient | Gemma 4 31B 1443 Arena · 36 tok/s · entièrement sur le GPU | |
| 32 GB 2 × 16 GB · Bureau |
DDR4 | 3200 MT/s | 51 GB/s | Gemma 4 26B A4B 1434 Arena · 35 tok/s · GPU + RAM Plus gros mais lent : Gemma 4 31B, 1443 Arena, 3.6 tok/s | Gemma 4 31B 1443 Arena · 36 tok/s · entièrement sur le GPU |
Amazon ↗ |
| 64 GB 2 × 32 GB · Bureau |
DDR4 | 3200 MT/s | 51 GB/s | Gemma 4 26B A4B 1434 Arena · 35 tok/s · GPU + RAM Plus gros mais lent : Gemma 4 31B, 1443 Arena, 3.6 tok/s | Gemma 4 31B 1443 Arena · 36 tok/s · entièrement sur le GPU |
Amazon ↗ |
| 128 GB 4 × 32 GB · Bureau 4 modules : vérifiez que votre carte mère accepte 128 GB |
DDR4 | 3200 MT/s | 51 GB/s | Gemma 4 26B A4B 1434 Arena · 35 tok/s · GPU + RAM Plus gros mais lent : Gemma 4 31B, 1443 Arena, 3.6 tok/s | Gemma 4 31B 1443 Arena · 36 tok/s · entièrement sur le GPU |
Amazon ↗ |
| 32 GB 2 × 16 GB · Bureau |
DDR5 | 6000 MT/s | 96 GB/s | Gemma 4 26B A4B 1434 Arena · 49 tok/s · GPU + RAM Plus gros mais lent : Gemma 4 31B, 1443 Arena, 5.9 tok/s | Gemma 4 31B 1443 Arena · 36 tok/s · entièrement sur le GPU |
Amazon ↗ |
| 64 GB 2 × 32 GB · Bureau |
DDR5 | 6000 MT/s | 96 GB/s | Gemma 4 26B A4B 1434 Arena · 49 tok/s · GPU + RAM Plus gros mais lent : Gemma 4 31B, 1443 Arena, 5.9 tok/s | Gemma 4 31B 1443 Arena · 36 tok/s · entièrement sur le GPU |
Amazon ↗ |
| 96 GB 2 × 48 GB · Bureau |
DDR5 | 6000 MT/s | 96 GB/s | Gemma 4 26B A4B 1434 Arena · 49 tok/s · GPU + RAM Plus gros mais lent : Gemma 4 31B, 1443 Arena, 5.9 tok/s | Gemma 4 31B 1443 Arena · 36 tok/s · entièrement sur le GPU |
Amazon ↗ |
| 128 GB 2 × 64 GB · Bureau |
DDR5 | 5600 MT/s | 90 GB/s | Gemma 4 26B A4B 1434 Arena · 48 tok/s · GPU + RAM Plus gros mais lent : Gemma 4 31B, 1443 Arena, 5.6 tok/s | Gemma 4 31B 1443 Arena · 36 tok/s · entièrement sur le GPU |
Amazon ↗ |
| 192 GB 4 × 48 GB · Bureau 4 modules : la plupart des cartes mères domestiques les font tourner à 5200 ou moins |
DDR5 | 5200 MT/s | 83 GB/s | Gemma 4 26B A4B 1434 Arena · 46 tok/s · GPU + RAM Plus gros mais lent : Gemma 4 31B, 1443 Arena, 5.3 tok/s | Gemma 4 31B 1443 Arena · 36 tok/s · entièrement sur le GPU |
Amazon ↗ |
| 256 GB 4 × 64 GB · Bureau 4 modules : nécessite une carte mère récente qui accepte 256 GB |
DDR5 | 4800 MT/s | 77 GB/s | Gemma 4 26B A4B 1434 Arena · 44 tok/s · GPU + RAM Plus gros mais lent : GLM-5.3-Flash, 1471 Arena, 4.1 tok/s | Gemma 4 31B 1443 Arena · 36 tok/s · entièrement sur le GPU Plus gros mais lent : GLM-5.3-Flash, 1471 Arena, 4.4 tok/s |
Amazon ↗ |
| 32 GB 2 × 16 GB SO-DIMM · Portable / mini-PC |
DDR5 | 5600 MT/s | 90 GB/s | Gemma 4 26B A4B 1434 Arena · 48 tok/s · GPU + RAM Plus gros mais lent : Gemma 4 31B, 1443 Arena, 5.6 tok/s | Gemma 4 31B 1443 Arena · 36 tok/s · entièrement sur le GPU |
Amazon ↗ |
| 64 GB 2 × 32 GB SO-DIMM · Portable / mini-PC |
DDR5 | 5600 MT/s | 90 GB/s | Gemma 4 26B A4B 1434 Arena · 48 tok/s · GPU + RAM Plus gros mais lent : Gemma 4 31B, 1443 Arena, 5.6 tok/s | Gemma 4 31B 1443 Arena · 36 tok/s · entièrement sur le GPU |
Amazon ↗ |
| 96 GB 2 × 48 GB SO-DIMM · Portable / mini-PC |
DDR5 | 5600 MT/s | 90 GB/s | Gemma 4 26B A4B 1434 Arena · 48 tok/s · GPU + RAM Plus gros mais lent : Gemma 4 31B, 1443 Arena, 5.6 tok/s | Gemma 4 31B 1443 Arena · 36 tok/s · entièrement sur le GPU |
Amazon ↗ |
Meilleur modèle gratuit à la vitesse de lecture : le modèle de chat gratuit le mieux voté sur Arena qui tient dans la carte plus 80 % de la RAM, en 4 bits avec un contexte de 8K, et qui écrit au moins 10 tokens par seconde. « Plus gros mais lent » : un modèle mieux voté qui tient aussi mais écrit plus lentement. Vitesse : tokens par seconde estimés par notre simulateur, calibré sur 44 exécutions llama.cpp réelles. Bande passante : MT/s × 8 octets × 2 canaux.
Liens d'affiliation : en tant que Partenaire Amazon, FreeLLMArena réalise un bénéfice sur les achats remplissant les conditions requises effectués via les liens « Amazon ↗ ». Les liens ne modifient ni l'ordre, ni les chiffres, ni les estimations de cette page, et le prix est le même pour vous.
Comment la RAM système aide
La taille décide de ce qui tient
Un modèle en 4 bits demande environ 0.6 GB par milliard de paramètres, plus le contexte. Si votre carte a 24 GB et que le modèle demande 60 GB, les 36 GB restants doivent tenir dans la RAM. Nous ne comptons que 80 % de la RAM comme utilisable, parce que le système et vos applications ont besoin du reste.
La vitesse décide si c'est utilisable
Chaque mot que le modèle écrit lit tous ses poids actifs. La partie en RAM est lue à la vitesse de la RAM : une DDR5-6000 en double canal donne environ 96 GB/s, contre environ 1,000 GB/s sur une RTX 4090. Plus une grande partie du modèle est en RAM, plus il écrit lentement.
Les modèles à mélange d'experts adorent la RAM
Les modèles MoE (par exemple Qwen3-30B-A3B) n'utilisent que quelques milliards de paramètres pour chaque mot. Ils peuvent résider surtout en RAM et écrire quand même vite, c'est pourquoi un gros kit de RAM avec une carte de milieu de gamme peut faire tourner des modèles étonnamment gros.
Deux modules, pas quatre
Les PC domestiques ont deux canaux mémoire. Deux gros modules tournent en général à pleine vitesse ; quatre modules tournent souvent plus lentement, et certaines cartes mères limitent le total. Consultez la liste de mémoires compatibles de votre carte mère avant d'acheter.
Vous voulez votre configuration exacte ? Utilisez le simulateur En local : choisissez votre carte, votre RAM et un modèle. Vous choisissez d'abord une carte ? Voyez GPU pour l'IA locale.
Partager cette page :XLinkedInRedditWhatsApp
Un chiffre erroné ou un lien cassé ? Signalez une erreur