Voter dans Free Arena

Tous les modèles › google

gemma-3-27b-it

google · licence Gemma · sur Arena depuis le 11 mars 2025

Chat du laboratoire Télécharger
Score Arena1358n°199 sur 416 en Chat, modèles payants inclus
Taille27.4 Bparamètres
Téléchargement en 4 bits17 GBpoids seuls, Q4_K_M
Contexte max.128Ktokens, d'après la configuration du modèle

Où l'utiliser gratuitement

Scores Arena

ArenaScoreRangVotes
Chat1358n°199 sur 41647K

Rang parmi tous les modèles, payants inclus. Source : jeu de données du classement Arena.

Vitesse sur du matériel courant

MatérielMémoire GPUÇa tient ?Vitesse
RTX 3060 12 GB12 GBGPU + 64 GB de RAM6.5 tok/s
RTX 4060 Ti 16 GB16 GBGPU + 64 GB de RAM7.7 tok/s
RTX 309024 GBTient dans le GPU35 tok/s
RTX 409024 GBTient dans le GPU38 tok/s
RTX 509032 GBTient dans le GPU65 tok/s
RX 7900 XTX24 GBTient dans le GPU36 tok/s
2 × RTX 309048 GBTient dans le GPU34 tok/s
4 × RTX 309096 GBTient dans le GPU32 tok/s
Mac M4 Max 128 GB96 GBTient dans le GPU20 tok/s
Ryzen AI Max+ 395 128 GB96 GBTient dans le GPU9.9 tok/s
8 × H100 SXM640 GBTient dans le GPU96 tok/s

Estimation en 4 bits avec un contexte de 32K et 64 GB de DDR5 pour le déchargement. Vitesse ≈ bande passante mémoire × 78 % ÷ données lues par token, plus un coût fixe par token, calibrée sur 44 tests llama.cpp réels ; erreur typique d'environ ±10 %. Comparer tous les GPU.

Mémoire GPU nécessaire

NiveauContexte de 8KContexte de 32KContexte de 128KQualité vs original
Q3_K_M15 GB18 GB27 GB+7.2% perte sensible
Q4_K_M18 GB21 GB29 GB+1.9% faible perte
Q5_K_M21 GB23 GB32 GB+0.6% très faible perte
Q6_K24 GB26 GB35 GB+0.2% quasi sans perte
Q8_031 GB33 GB42 GB≈ 0% identique à l'original
F1657 GB59 GB68 GB≈ 0% identique à l'original

Poids + cache de contexte (d'après l'architecture du modèle) + runtime. Qualité : hausse de perplexity par rapport au modèle complet, d'après les tests llama.cpp, ajustée selon la taille du modèle. Simulez votre propre configuration.

Score Chat au fil du temps

gemma-3-27b-it 1358Meilleur modèle payant

Score Arena du 17 avr. 2026 au 15 oct. 2026.

Modèles gratuits similaires en Chat

Partager cette page :XLinkedInRedditWhatsApp