Tous les modèles › alibaba
Qwen2.5-VL-32B-Instruct
alibaba · licence Apache 2.0 · sur Arena depuis le 19 oct. 2026
Où l'utiliser gratuitement
- Le chat du laboratoire : chat.qwen.ai (gratuit avec limites quotidiennes)
- Téléchargez-le et lancez-le chez vous : poids officiels · fichiers GGUF pour Ollama et LM Studio
Scores Arena
| Arena | Score | Rang | Votes |
|---|---|---|---|
| Vision | 1152 | n°119 sur 167 | 1K |
Rang parmi tous les modèles, payants inclus. Source : jeu de données du classement Arena.
Vitesse sur du matériel courant
| Matériel | Mémoire GPU | Ça tient ? | Vitesse |
|---|---|---|---|
| RTX 3060 12 GB | 12 GB | GPU + 64 GB de RAM | 3.7 tok/s |
| RTX 4060 Ti 16 GB | 16 GB | GPU + 64 GB de RAM | 4.1 tok/s |
| RTX 3090 | 24 GB | GPU + 64 GB de RAM | 9.6 tok/s |
| RTX 4090 | 24 GB | GPU + 64 GB de RAM | 9.8 tok/s |
| RTX 5090 | 32 GB | Tient dans le GPU | 46 tok/s |
| RX 7900 XTX | 24 GB | GPU + 64 GB de RAM | 9.6 tok/s |
| 2 × RTX 3090 | 48 GB | Tient dans le GPU | 24 tok/s |
| 4 × RTX 3090 | 96 GB | Tient dans le GPU | 23 tok/s |
| Mac M4 Max 128 GB | 96 GB | Tient dans le GPU | 14 tok/s |
| Ryzen AI Max+ 395 128 GB | 96 GB | Tient dans le GPU | 6.9 tok/s |
| 8 × H100 SXM | 640 GB | Tient dans le GPU | 69 tok/s |
Estimation en 4 bits avec un contexte de 32K et 64 GB de DDR5 pour le déchargement. Vitesse ≈ bande passante mémoire × 78 % ÷ données lues par token, plus un coût fixe par token, calibrée sur 44 tests llama.cpp réels ; erreur typique d'environ ±10 %. Comparer tous les GPU.
Mémoire GPU nécessaire
| Niveau | Contexte de 8K | Contexte de 32K | Qualité vs original |
|---|---|---|---|
| Q3_K_M | 19 GB | 26 GB | +6.7% perte sensible |
| Q4_K_M | 23 GB | 29 GB | +1.8% faible perte |
| Q5_K_M | 27 GB | 33 GB | +0.6% quasi sans perte |
| Q6_K | 30 GB | 37 GB | +0.2% quasi sans perte |
| Q8_0 | 38 GB | 45 GB | ≈ 0% identique à l'original |
| F16 | 70 GB | 76 GB | ≈ 0% identique à l'original |
Poids + cache de contexte (d'après l'architecture du modèle) + runtime. Qualité : hausse de perplexity par rapport au modèle complet, d'après les tests llama.cpp, ajustée selon la taille du modèle. Simulez votre propre configuration.
Modèles gratuits similaires en Vision
- GLM-4.5V 1154 · 107.7 B
- Mistral Small 3.2 (2506) 1142
- Llama 4 Maverick 17B 128E Instruct 1142
- GLM-4.6V 1164 · 107.7 B
- Gemma 3 27B IT 1165
- Mistral Small 3.1 24B Instruct (2503) 1136
Partager cette page :XLinkedInRedditWhatsApp
Un chiffre erroné ou un lien cassé ? Signalez une erreur