Voter dans Free Arena

Tous les modèles › alibaba

Qwen3.5-27B

alibaba · licence Apache 2.0 · sur Arena depuis le 26 févr. 2026

Chat du laboratoire Télécharger
Score Arena1409n°142 sur 416 en Chat, modèles payants inclus
Taille27.8 Bparamètres
Téléchargement en 4 bits17 GBpoids seuls, Q4_K_M
Contexte max.256Ktokens, d'après la configuration du modèle

Où l'utiliser gratuitement

Scores Arena

ArenaScoreRangVotes
Chat1409n°142 sur 41629K
Code1358n°114 sur 1488K
Vision1241n°72 sur 16730K

Rang parmi tous les modèles, payants inclus. Source : jeu de données du classement Arena.

Vitesse sur du matériel courant

MatérielMémoire GPUÇa tient ?Vitesse
RTX 3060 12 GB12 GBGPU + 64 GB de RAM7.1 tok/s
RTX 4060 Ti 16 GB16 GBGPU + 64 GB de RAM8.6 tok/s
RTX 309024 GBTient dans le GPU37 tok/s
RTX 409024 GBTient dans le GPU40 tok/s
RTX 509032 GBTient dans le GPU69 tok/s
RX 7900 XTX24 GBTient dans le GPU38 tok/s
2 × RTX 309048 GBTient dans le GPU36 tok/s
4 × RTX 309096 GBTient dans le GPU34 tok/s
Mac M4 Max 128 GB96 GBTient dans le GPU21 tok/s
Ryzen AI Max+ 395 128 GB96 GBTient dans le GPU10 tok/s
8 × H100 SXM640 GBTient dans le GPU100 tok/s

Estimation en 4 bits avec un contexte de 32K et 64 GB de DDR5 pour le déchargement. Vitesse ≈ bande passante mémoire × 78 % ÷ données lues par token, plus un coût fixe par token, calibrée sur 44 tests llama.cpp réels ; erreur typique d'environ ±10 %. Comparer tous les GPU.

Mémoire GPU nécessaire

NiveauContexte de 8KContexte de 32KContexte de 128KQualité vs original
Q3_K_M15 GB17 GB23 GB+7.2% perte sensible
Q4_K_M18 GB20 GB26 GB+1.9% faible perte
Q5_K_M21 GB23 GB29 GB+0.6% très faible perte
Q6_K24 GB26 GB32 GB+0.2% quasi sans perte
Q8_031 GB32 GB39 GB≈ 0% identique à l'original
F1657 GB58 GB65 GB≈ 0% identique à l'original

Poids + cache de contexte (d'après l'architecture du modèle) + runtime. Qualité : hausse de perplexity par rapport au modèle complet, d'après les tests llama.cpp, ajustée selon la taille du modèle. Simulez votre propre configuration.

Score Chat au fil du temps

Qwen3.5-27B 1409Meilleur modèle payant

Score Arena du 17 avr. 2026 au 15 oct. 2026.

Score Code au fil du temps

Qwen3.5-27B 1358Meilleur modèle payant

Score Arena du 20 avr. 2026 au 19 oct. 2026.

Partager cette page :XLinkedInRedditWhatsApp