FreeLLMGPU › AMD
I migliori modelli AI gratis per RX 9070 / 9070 XT
RX 9070 / 9070 XT: 16 GB di memoria video, 640 GB/s. Questi sono i modelli gratis che riesce a usare, in ordine di voti su Arena, con la velocità che puoi aspettarti.
Simula la tua configurazione · Controlla il prezzo su Amazon ↗ · Confronta tutte le GPU
Modelli più grandi con l'aiuto di 64 GB di RAM di sistema
Una parte del modello resta nella memoria di sistema, che è molto più lenta della memoria video.
| Modello | Punteggio Arena | Dimensione | File a 4 bit | Token/s |
|---|---|---|---|---|
| Gemma 4 31B |
1443 | 31.3 B | 20 GB | 9.4 |
| Qwen3.8-27B alibaba |
1441 | 27.8 B | 18 GB | 17 |
| Gemma 4 26B A4B google · MoE, 4 B attivi |
1434 | 25.8 B | 17 GB | 99 |
| Qwen3.5-27B alibaba |
1409 | 27.8 B | 18 GB | 17 |
| gemma-3-27b-it |
1358 | 27.4 B | 18 GB | 16 |
Modelli piccoli diffusi
Modelli piccoli ufficiali senza ancora voti su Arena, in ordine di download su Hugging Face (conta la popolarità, non la qualità).
| Modello | Download al mese | Dimensione | File a 4 bit | Token/s |
|---|---|---|---|---|
| Qwen3-0.6B Qwen |
28.6M | 0.8 B | 1.7 GB | 260 |
| Qwen3-4B Qwen |
11.7M | 4 B | 3.6 GB | 121 |
| Qwen3-8B Qwen |
8.8M | 8.2 B | 6.2 GB | 75 |
| Qwen3-14B Qwen |
8.7M | 14.8 B | 10 GB | 46 |
| Qwen3.5-4B Qwen |
7.8M | 4.7 B | 4.0 GB | 138 |
| Qwen3.5-9B Qwen |
7.3M | 9.7 B | 7.1 GB | 75 |
Stime a 4 bit (Q4_K_M) con contesto da 8K, calibrate su 44 test reali con llama.cpp (errore tipico di circa ±10%). Token al secondo: circa 10 è la velocità di lettura. Come affiliati Amazon, FreeLLMArena guadagna dagli acquisti idonei; i link non cambiano le classifiche.
Domande
Qual è il miglior modello AI gratis per RX 9070 / 9070 XT?
Nessun modello votato entra interamente in 16 GB a 4 bit. Ci entrano i modelli piccoli senza voti su Arena, mentre quelli più grandi girano con l'aiuto della RAM di sistema, più lentamente.
Che dimensione di modello regge RX 9070 / 9070 XT?
Circa 23 miliardi di parametri per un modello denso a 4 bit con contesto da 8K, tutto sulla GPU. I modelli mixture-of-experts possono essere più grandi e, con 64 GB di RAM di sistema, girano anche modelli più grossi, ma più lentamente.
RX 9070 / 9070 XT va bene per gli LLM in locale?
Ha 16 GB di memoria e 640 GB/s di banda. La memoria decide quali modelli ci stanno; la banda decide quanto velocemente scrivono. Con 16 GB fa girare interamente sulla GPU modelli fino a circa 20 B; i modelli da 27–32 B hanno bisogno della RAM di sistema.
Schede simili
- RTX 5080 16 GB · 960 GB/s
- RTX 5070 Ti 16 GB · 896 GB/s
- RTX 4080 Super 16 GB · 736 GB/s
- RTX 4070 Ti Super 16 GB · 672 GB/s
- RX 7800 XT 16 GB · 624 GB/s
- RTX 5060 Ti 16 GB 16 GB · 448 GB/s
Condividi questa pagina:XLinkedInRedditWhatsApp
Hai visto un numero sbagliato o un link rotto? Segnala un errore