Voter dans Free Arena

GPU › AMD

Meilleurs modèles d'IA gratuits pour RX 7900 XT

RX 7900 XT : 20 GB de mémoire vidéo, 800 GB/s. Voici les modèles gratuits qu'il fait tourner, classés par votes Arena, avec la vitesse à laquelle vous pouvez vous attendre.

Simulez votre configuration · Voir le prix sur Amazon ↗ · Comparer tous les GPU

Meilleur modèle voté qui tientQwen3.8-27BArena 1441 · ~35 tokens/s
Plus gros modèle dense~29 Ben 4 bits, contexte de 8K, entièrement sur le GPU
Mémoire20 GB800 GB/s de bande passante
Avec deux cartesGemma 4 31B40 GB · ~28 tokens/s

Modèles votés qui tiennent entièrement sur le GPU

ModèleScore ArenaTailleFichier 4 bitsTokens/s
Qwen3.8-27B
alibaba
144127.8 B18 GB35
Gemma 4 26B A4B
google · MoE, 4 B actifs
143425.8 B17 GB132
Qwen3.5-27B
alibaba
140927.8 B18 GB35
gemma-3-27b-it
google
135827.4 B18 GB34

Des modèles plus gros grâce à 64 GB de RAM système

Une partie du modèle réside dans la mémoire système, bien plus lente que la mémoire vidéo.

ModèleScore ArenaTailleFichier 4 bitsTokens/s
Gemma 4 31B
google
144331.3 B20 GB18
GLM-4.6V
zai · MoE, 14.3 B actifs
1376107.7 B66 GB11
GLM-4.5V
zai · MoE, 14.3 B actifs
1333107.7 B66 GB11

Petits modèles populaires

Petits modèles officiels sans vote Arena pour l'instant, classés par nombre de téléchargements sur Hugging Face (popularité, pas qualité).

ModèleTéléchargements/moisTailleFichier 4 bitsTokens/s
Qwen3-0.6B
Qwen
28.6M0.8 B1.7 GB305
Qwen3-4B
Qwen
11.7M4 B3.6 GB147
Qwen3-8B
Qwen
8.8M8.2 B6.2 GB92
Qwen3-14B
Qwen
8.7M14.8 B10 GB57
Qwen3.5-4B
Qwen
7.8M4.7 B4.0 GB167
Qwen3.5-9B
Qwen
7.3M9.7 B7.1 GB92

Estimations en 4 bits (Q4_K_M) avec un contexte de 8K, calibrées sur 44 tests llama.cpp réels (erreur typique d'environ ±10 %). Tokens par seconde : environ 10 correspond à la vitesse de lecture. En tant que Partenaire Amazon, FreeLLMArena réalise un bénéfice sur les achats remplissant les conditions requises ; les liens ne modifient pas les classements.

Questions

Quel est le meilleur modèle d'IA gratuit pour RX 7900 XT ?

Qwen3.8-27B (score Arena 1441) est le modèle ouvert le mieux voté qui tient entièrement dans 20 GB de mémoire vidéo en 4 bits, avec environ 35 tokens par seconde.

Quelle taille de modèle peut-on faire tourner sur RX 7900 XT ?

Environ 29 milliards de paramètres pour un modèle dense en 4 bits avec un contexte de 8K, entièrement sur le GPU. Les modèles à mélange d'experts peuvent être plus gros, et avec 64 GB de RAM système, des modèles encore plus grands tournent, mais plus lentement.

RX 7900 XT convient-il aux LLM locaux ?

Il dispose de 20 GB de mémoire et de 800 GB/s de bande passante. La mémoire détermine quels modèles tiennent ; la bande passante détermine leur vitesse d'écriture. Avec 16 GB, il fait tourner des modèles jusqu'à environ 20 B entièrement sur le GPU ; les modèles de 27–32 B ont besoin de l'aide de la RAM système.

Cartes similaires

Partager cette page :XLinkedInRedditWhatsApp