Voter dans Free Arena

GPU › AMD

Meilleurs modèles d'IA gratuits pour RX 7900 XTX

RX 7900 XTX : 24 GB de mémoire vidéo, 960 GB/s. Voici les modèles gratuits qu'il fait tourner, classés par votes Arena, avec la vitesse à laquelle vous pouvez vous attendre.

Simulez votre configuration · Voir le prix sur Amazon ↗ · Comparer tous les GPU

Meilleur modèle voté qui tientGemma 4 31BArena 1443 · ~34 tokens/s
Plus gros modèle dense~35 Ben 4 bits, contexte de 8K, entièrement sur le GPU
Mémoire24 GB960 GB/s de bande passante

Modèles votés qui tiennent entièrement sur le GPU

ModèleScore ArenaTailleFichier 4 bitsTokens/s
Gemma 4 31B
google
144331.3 B20 GB34
Qwen3.8-27B
alibaba
144127.8 B18 GB41
Gemma 4 26B A4B
google · MoE, 4 B actifs
143425.8 B17 GB148
Qwen3.5-27B
alibaba
140927.8 B18 GB41
gemma-3-27b-it
google
135827.4 B18 GB40

Des modèles plus gros grâce à 64 GB de RAM système

Une partie du modèle réside dans la mémoire système, bien plus lente que la mémoire vidéo.

ModèleScore ArenaTailleFichier 4 bitsTokens/s
GLM-4.6V
zai · MoE, 14.3 B actifs
1376107.7 B66 GB12
GLM-4.5V
zai · MoE, 14.3 B actifs
1333107.7 B66 GB12

Petits modèles populaires

Petits modèles officiels sans vote Arena pour l'instant, classés par nombre de téléchargements sur Hugging Face (popularité, pas qualité).

ModèleTéléchargements/moisTailleFichier 4 bitsTokens/s
Qwen3-0.6B
Qwen
28.6M0.8 B1.7 GB345
Qwen3-4B
Qwen
11.7M4 B3.6 GB171
Qwen3-8B
Qwen
8.8M8.2 B6.2 GB108
Qwen3-14B
Qwen
8.7M14.8 B10 GB68
Qwen3.5-4B
Qwen
7.8M4.7 B4.0 GB194
Qwen3.5-9B
Qwen
7.3M9.7 B7.1 GB109

Estimations en 4 bits (Q4_K_M) avec un contexte de 8K, calibrées sur 44 tests llama.cpp réels (erreur typique d'environ ±10 %). Tokens par seconde : environ 10 correspond à la vitesse de lecture. En tant que Partenaire Amazon, FreeLLMArena réalise un bénéfice sur les achats remplissant les conditions requises ; les liens ne modifient pas les classements.

Questions

Quel est le meilleur modèle d'IA gratuit pour RX 7900 XTX ?

Gemma 4 31B (score Arena 1443) est le modèle ouvert le mieux voté qui tient entièrement dans 24 GB de mémoire vidéo en 4 bits, avec environ 34 tokens par seconde.

Quelle taille de modèle peut-on faire tourner sur RX 7900 XTX ?

Environ 35 milliards de paramètres pour un modèle dense en 4 bits avec un contexte de 8K, entièrement sur le GPU. Les modèles à mélange d'experts peuvent être plus gros, et avec 64 GB de RAM système, des modèles encore plus grands tournent, mais plus lentement.

RX 7900 XTX convient-il aux LLM locaux ?

Il dispose de 24 GB de mémoire et de 960 GB/s de bande passante. La mémoire détermine quels modèles tiennent ; la bande passante détermine leur vitesse d'écriture. Avec 24 GB ou plus, il fait tourner des modèles de 27–32 B, le meilleur compromis de qualité pour un usage à domicile.

Cartes similaires

Partager cette page :XLinkedInRedditWhatsApp