FreeLLMGPU › NVIDIA
I migliori modelli AI gratis per RTX 4070 / 4070 Super
RTX 4070 / 4070 Super: 12 GB di memoria video, 504 GB/s. Questi sono i modelli gratis che riesce a usare, in ordine di voti su Arena, con la velocità che puoi aspettarti.
Simula la tua configurazione · Controlla il prezzo su Amazon ↗ · Confronta tutte le GPU
Modelli più grandi con l'aiuto di 64 GB di RAM di sistema
Una parte del modello resta nella memoria di sistema, che è molto più lenta della memoria video.
| Modello | Punteggio Arena | Dimensione | File a 4 bit | Token/s |
|---|---|---|---|---|
| Gemma 4 31B |
1443 | 31.3 B | 20 GB | 6.4 |
| Qwen3.8-27B alibaba |
1441 | 27.8 B | 18 GB | 9.3 |
| Gemma 4 26B A4B google · MoE, 4 B attivi |
1434 | 25.8 B | 17 GB | 55 |
| Qwen3.5-27B alibaba |
1409 | 27.8 B | 18 GB | 9.3 |
| gemma-3-27b-it |
1358 | 27.4 B | 18 GB | 8.9 |
Modelli piccoli diffusi
Modelli piccoli ufficiali senza ancora voti su Arena, in ordine di download su Hugging Face (conta la popolarità, non la qualità).
| Modello | Download al mese | Dimensione | File a 4 bit | Token/s |
|---|---|---|---|---|
| Qwen3-0.6B Qwen |
28.6M | 0.8 B | 1.7 GB | 216 |
| Qwen3-4B Qwen |
11.7M | 4 B | 3.6 GB | 98 |
| Qwen3-8B Qwen |
8.8M | 8.2 B | 6.2 GB | 60 |
| Qwen3-14B Qwen |
8.7M | 14.8 B | 10 GB | 37 |
| Qwen3.5-4B Qwen |
7.8M | 4.7 B | 4.0 GB | 112 |
| Qwen3.5-9B Qwen |
7.3M | 9.7 B | 7.1 GB | 60 |
Stime a 4 bit (Q4_K_M) con contesto da 8K, calibrate su 44 test reali con llama.cpp (errore tipico di circa ±10%). Token al secondo: circa 10 è la velocità di lettura. Come affiliati Amazon, FreeLLMArena guadagna dagli acquisti idonei; i link non cambiano le classifiche.
Domande
Qual è il miglior modello AI gratis per RTX 4070 / 4070 Super?
Nessun modello votato entra interamente in 12 GB a 4 bit. Ci entrano i modelli piccoli senza voti su Arena, mentre quelli più grandi girano con l'aiuto della RAM di sistema, più lentamente.
Che dimensione di modello regge RTX 4070 / 4070 Super?
Circa 16 miliardi di parametri per un modello denso a 4 bit con contesto da 8K, tutto sulla GPU. I modelli mixture-of-experts possono essere più grandi e, con 64 GB di RAM di sistema, girano anche modelli più grossi, ma più lentamente.
RTX 4070 / 4070 Super va bene per gli LLM in locale?
Ha 12 GB di memoria e 504 GB/s di banda. La memoria decide quali modelli ci stanno; la banda decide quanto velocemente scrivono. Con meno di 16 GB fa girare bene i modelli piccoli; quelli più grandi hanno bisogno della RAM di sistema e diventano lenti.
Schede simili
- RTX 5070 12 GB · 672 GB/s
- Arc B580 12 GB · 456 GB/s
- RX 7700 XT 12 GB · 432 GB/s
- RTX 3060 12 GB 12 GB · 360 GB/s
- RTX 3080 10 GB 10 GB · 760 GB/s
- RTX 5080 16 GB · 960 GB/s
Condividi questa pagina:XLinkedInRedditWhatsApp
Hai visto un numero sbagliato o un link rotto? Segnala un errore