Vota in Free Arena

GPU › AMD

I migliori modelli AI gratis per RX 7900 XTX

RX 7900 XTX: 24 GB di memoria video, 960 GB/s. Questi sono i modelli gratis che riesce a usare, in ordine di voti su Arena, con la velocità che puoi aspettarti.

Simula la tua configurazione · Controlla il prezzo su Amazon ↗ · Confronta tutte le GPU

Miglior modello votato che ci staGemma 4 31BArena 1443 · ~34 token/s
Modello denso più grande~35 Ba 4 bit, contesto da 8K, tutto sulla GPU
Memoria24 GB960 GB/s di banda

Modelli votati che stanno interamente sulla GPU

ModelloPunteggio ArenaDimensioneFile a 4 bitToken/s
Gemma 4 31B
google
144331.3 B20 GB34
Qwen3.8-27B
alibaba
144127.8 B18 GB41
Gemma 4 26B A4B
google · MoE, 4 B attivi
143425.8 B17 GB148
Qwen3.5-27B
alibaba
140927.8 B18 GB41
gemma-3-27b-it
google
135827.4 B18 GB40

Modelli più grandi con l'aiuto di 64 GB di RAM di sistema

Una parte del modello resta nella memoria di sistema, che è molto più lenta della memoria video.

ModelloPunteggio ArenaDimensioneFile a 4 bitToken/s
GLM-4.6V
zai · MoE, 14.3 B attivi
1376107.7 B66 GB12
GLM-4.5V
zai · MoE, 14.3 B attivi
1333107.7 B66 GB12

Modelli piccoli diffusi

Modelli piccoli ufficiali senza ancora voti su Arena, in ordine di download su Hugging Face (conta la popolarità, non la qualità).

ModelloDownload al meseDimensioneFile a 4 bitToken/s
Qwen3-0.6B
Qwen
28.6M0.8 B1.7 GB345
Qwen3-4B
Qwen
11.7M4 B3.6 GB171
Qwen3-8B
Qwen
8.8M8.2 B6.2 GB108
Qwen3-14B
Qwen
8.7M14.8 B10 GB68
Qwen3.5-4B
Qwen
7.8M4.7 B4.0 GB194
Qwen3.5-9B
Qwen
7.3M9.7 B7.1 GB109

Stime a 4 bit (Q4_K_M) con contesto da 8K, calibrate su 44 test reali con llama.cpp (errore tipico di circa ±10%). Token al secondo: circa 10 è la velocità di lettura. Come affiliati Amazon, FreeLLMArena guadagna dagli acquisti idonei; i link non cambiano le classifiche.

Domande

Qual è il miglior modello AI gratis per RX 7900 XTX?

Gemma 4 31B (punteggio Arena 1443) è il modello aperto più votato che entra interamente in 24 GB di memoria video a 4 bit, e scrive circa 34 token al secondo.

Che dimensione di modello regge RX 7900 XTX?

Circa 35 miliardi di parametri per un modello denso a 4 bit con contesto da 8K, tutto sulla GPU. I modelli mixture-of-experts possono essere più grandi e, con 64 GB di RAM di sistema, girano anche modelli più grossi, ma più lentamente.

RX 7900 XTX va bene per gli LLM in locale?

Ha 24 GB di memoria e 960 GB/s di banda. La memoria decide quali modelli ci stanno; la banda decide quanto velocemente scrivono. Con 24 GB o più usa modelli da 27–32 B, il punto ideale di qualità per l'uso a casa.

Schede simili

Condividi questa pagina:XLinkedInRedditWhatsApp