FreeLLMRAM per l'AI in locale Novità
Quando un modello non sta nella scheda video, il resto va nella RAM di sistema. Con 32 GB, anche una scheda da 12 GB fa girare uno dei migliori modelli di chat gratis a una buona velocità. Oltre 64 GB, la chat migliora solo con modelli giganti che scrivono lentamente. Stime dal nostro simulatore.
La velocità della RAM conta: una scheda da 12 GB più la RAM
Token al secondo, stimati. Blu: DDR5. Arancione: DDR4. La nota su ogni barra indica il modello.
Cosa mostra · Come leggerlo
Cosa mostra. La velocità stimata del miglior modello di chat gratis che scrive a velocità di lettura su una RTX 3060 12 GB più ciascun kit di RAM desktop (Gemma 4 26B A4B, un modello mixture-of-experts che da solo non sta in 12 GB).
Come leggerlo. Barra più lunga, più veloce. Le barre DDR5 sono più lunghe di quelle DDR4 perché la parte del modello in RAM viene letta più in fretta. I kit da quattro moduli vanno a MT/s più bassi, quindi sono un po' più lenti di quelli da due moduli.
Ogni kit: cosa ti permette di usare
| Kit RAM | Tipo | Velocità | Banda | Miglior modello gratis a velocità di lettura, con RTX 3060 12 GB | Miglior modello gratis a velocità di lettura, con RTX 4090 | Acquista |
|---|---|---|---|---|---|---|
| Nessuna RAM in più solo la scheda | — | — | — | Nessun modello in classifica ci sta | Gemma 4 31B 1443 Arena · 36 tok/s · interamente sulla GPU | |
| 32 GB 2 × 16 GB · Desktop |
DDR4 | 3200 MT/s | 51 GB/s | Gemma 4 26B A4B 1434 Arena · 35 tok/s · GPU + RAM Più grande ma lento: Gemma 4 31B, 1443 Arena, 3.6 tok/s | Gemma 4 31B 1443 Arena · 36 tok/s · interamente sulla GPU |
Amazon ↗ |
| 64 GB 2 × 32 GB · Desktop |
DDR4 | 3200 MT/s | 51 GB/s | Gemma 4 26B A4B 1434 Arena · 35 tok/s · GPU + RAM Più grande ma lento: Gemma 4 31B, 1443 Arena, 3.6 tok/s | Gemma 4 31B 1443 Arena · 36 tok/s · interamente sulla GPU |
Amazon ↗ |
| 128 GB 4 × 32 GB · Desktop 4 moduli: controlla che la tua scheda madre supporti 128 GB |
DDR4 | 3200 MT/s | 51 GB/s | Gemma 4 26B A4B 1434 Arena · 35 tok/s · GPU + RAM Più grande ma lento: Gemma 4 31B, 1443 Arena, 3.6 tok/s | Gemma 4 31B 1443 Arena · 36 tok/s · interamente sulla GPU |
Amazon ↗ |
| 32 GB 2 × 16 GB · Desktop |
DDR5 | 6000 MT/s | 96 GB/s | Gemma 4 26B A4B 1434 Arena · 49 tok/s · GPU + RAM Più grande ma lento: Gemma 4 31B, 1443 Arena, 5.9 tok/s | Gemma 4 31B 1443 Arena · 36 tok/s · interamente sulla GPU |
Amazon ↗ |
| 64 GB 2 × 32 GB · Desktop |
DDR5 | 6000 MT/s | 96 GB/s | Gemma 4 26B A4B 1434 Arena · 49 tok/s · GPU + RAM Più grande ma lento: Gemma 4 31B, 1443 Arena, 5.9 tok/s | Gemma 4 31B 1443 Arena · 36 tok/s · interamente sulla GPU |
Amazon ↗ |
| 96 GB 2 × 48 GB · Desktop |
DDR5 | 6000 MT/s | 96 GB/s | Gemma 4 26B A4B 1434 Arena · 49 tok/s · GPU + RAM Più grande ma lento: Gemma 4 31B, 1443 Arena, 5.9 tok/s | Gemma 4 31B 1443 Arena · 36 tok/s · interamente sulla GPU |
Amazon ↗ |
| 128 GB 2 × 64 GB · Desktop |
DDR5 | 5600 MT/s | 90 GB/s | Gemma 4 26B A4B 1434 Arena · 48 tok/s · GPU + RAM Più grande ma lento: Gemma 4 31B, 1443 Arena, 5.6 tok/s | Gemma 4 31B 1443 Arena · 36 tok/s · interamente sulla GPU |
Amazon ↗ |
| 192 GB 4 × 48 GB · Desktop 4 moduli: la maggior parte delle schede madri di casa li fa andare a 5200 o meno |
DDR5 | 5200 MT/s | 83 GB/s | Gemma 4 26B A4B 1434 Arena · 46 tok/s · GPU + RAM Più grande ma lento: Gemma 4 31B, 1443 Arena, 5.3 tok/s | Gemma 4 31B 1443 Arena · 36 tok/s · interamente sulla GPU |
Amazon ↗ |
| 256 GB 4 × 64 GB · Desktop 4 moduli: serve una scheda madre recente che supporti 256 GB |
DDR5 | 4800 MT/s | 77 GB/s | Gemma 4 26B A4B 1434 Arena · 44 tok/s · GPU + RAM Più grande ma lento: GLM-5.3-Flash, 1471 Arena, 4.1 tok/s | Gemma 4 31B 1443 Arena · 36 tok/s · interamente sulla GPU Più grande ma lento: GLM-5.3-Flash, 1471 Arena, 4.4 tok/s |
Amazon ↗ |
| 32 GB 2 × 16 GB SO-DIMM · Portatile / mini PC |
DDR5 | 5600 MT/s | 90 GB/s | Gemma 4 26B A4B 1434 Arena · 48 tok/s · GPU + RAM Più grande ma lento: Gemma 4 31B, 1443 Arena, 5.6 tok/s | Gemma 4 31B 1443 Arena · 36 tok/s · interamente sulla GPU |
Amazon ↗ |
| 64 GB 2 × 32 GB SO-DIMM · Portatile / mini PC |
DDR5 | 5600 MT/s | 90 GB/s | Gemma 4 26B A4B 1434 Arena · 48 tok/s · GPU + RAM Più grande ma lento: Gemma 4 31B, 1443 Arena, 5.6 tok/s | Gemma 4 31B 1443 Arena · 36 tok/s · interamente sulla GPU |
Amazon ↗ |
| 96 GB 2 × 48 GB SO-DIMM · Portatile / mini PC |
DDR5 | 5600 MT/s | 90 GB/s | Gemma 4 26B A4B 1434 Arena · 48 tok/s · GPU + RAM Più grande ma lento: Gemma 4 31B, 1443 Arena, 5.6 tok/s | Gemma 4 31B 1443 Arena · 36 tok/s · interamente sulla GPU |
Amazon ↗ |
Miglior modello gratis a velocità di lettura: il modello di chat gratis più votato su Arena che sta nella scheda più il 80% della RAM, a 4 bit con contesto da 8K, e che scrive almeno 10 token al secondo. «Più grande ma lento»: un modello più votato che ci sta comunque ma scrive più lentamente. Velocità: token al secondo stimati dal nostro simulatore, calibrato su 44 esecuzioni reali con llama.cpp. Banda: MT/s × 8 byte × 2 canali.
Link di affiliazione: come affiliati Amazon, FreeLLMArena guadagna dagli acquisti idonei fatti tramite i link «Amazon ↗». I link non cambiano l'ordine, i numeri o le stime di questa pagina, e il prezzo per te è lo stesso.
Come aiuta la RAM di sistema
La dimensione decide cosa ci sta
Un modello a 4 bit richiede circa 0.6 GB per miliardo di parametri, più il contesto. Se la tua scheda ha 24 GB e il modello ne richiede 60, gli altri 36 GB devono stare nella RAM. Contiamo come utilizzabile solo il 80% della RAM, perché il sistema e le tue app hanno bisogno del resto.
La velocità decide se è utilizzabile
Ogni parola che il modello scrive legge tutti i suoi pesi attivi. La parte in RAM viene letta alla velocità della RAM: una DDR5-6000 dual-channel dà circa 96 GB/s, contro circa 1,000 GB/s di una RTX 4090. Quindi più il modello sta in RAM, più lentamente scrive.
I modelli mixture-of-experts amano la RAM
I modelli MoE (per esempio Qwen3-30B-A3B) usano solo qualche miliardo di parametri per ogni parola. Possono stare per lo più in RAM e scrivere comunque veloci, ed è per questo che un grosso kit RAM più una scheda di fascia media può far girare modelli sorprendentemente grandi.
Due moduli, non quattro
I PC di casa hanno due canali di memoria. Due moduli grandi di solito vanno a piena velocità; quattro moduli spesso vanno più lenti, e alcune schede madri limitano il totale. Controlla l'elenco delle memorie supportate dalla tua scheda madre prima di comprare.
Vuoi la tua configurazione esatta? Usa il simulatore «Usalo a casa»: scegli la tua scheda, la tua RAM e un modello. Stai ancora scegliendo la scheda? Guarda le GPU per l'AI in locale.
Condividi questa pagina:XLinkedInRedditWhatsApp
Hai visto un numero sbagliato o un link rotto? Segnala un errore