FreeLLMTous les modèles › google
Gemma 3 4B IT
google · licence Gemma · sur Arena depuis le 5 mai 2025
Où l'utiliser gratuitement
- Le chat du laboratoire : aistudio.google.com (gratuit avec limites quotidiennes)
- Exécutez-le en une seule commande avec whichllm (gratuit, open source) :
uvx whichllm@latest plan "gemma-3-4b-it"indique le GPU requis,uvx whichllm@latest run "gemma-3-4b-it gguf"le télécharge et lance une discussion - Téléchargez-le et lancez-le chez vous : poids officiels · fichiers GGUF pour Ollama et LM Studio
Scores Arena
| Arena | Score | Rang | Votes |
|---|---|---|---|
| Chat | 1303 | n°287 sur 419 | 4K |
Rang parmi tous les modèles, payants inclus. Source : jeu de données du classement Arena.
Vitesse sur du matériel courant
| Matériel | Mémoire GPU | Ça tient ? | Vitesse |
|---|---|---|---|
| RTX 3060 12 GB | 12 GB | Tient dans le GPU | 74 tok/s |
| RTX 4060 Ti 16 GB | 16 GB | Tient dans le GPU | 60 tok/s |
| RTX 3090 | 24 GB | Tient dans le GPU | 171 tok/s |
| RTX 4090 | 24 GB | Tient dans le GPU | 182 tok/s |
| RTX 5090 | 32 GB | Tient dans le GPU | 284 tok/s |
| RX 7900 XTX | 24 GB | Tient dans le GPU | 175 tok/s |
| 2 × RTX 3090 | 48 GB | Tient dans le GPU | 166 tok/s |
| 4 × RTX 3090 | 96 GB | Tient dans le GPU | 157 tok/s |
| Mac M4 Max 128 GB | 96 GB | Tient dans le GPU | 85 tok/s |
| Ryzen AI Max+ 395 128 GB | 96 GB | Tient dans le GPU | 54 tok/s |
| 8 × H100 SXM | 640 GB | Tient dans le GPU | 352 tok/s |
Estimation en 4 bits avec un contexte de 32K et 64 GB de DDR5 pour le déchargement. Vitesse ≈ bande passante mémoire × 78 % ÷ données lues par token, plus un coût fixe par token, calibrée sur 44 tests llama.cpp réels ; erreur typique d'environ ±10 %. Comparer tous les GPU.
Mémoire GPU nécessaire
| Niveau | Contexte de 8K | Contexte de 32K | Contexte de 128K | Qualité vs original |
|---|---|---|---|---|
| Q3_K_M | 3.1 GB | 3.7 GB | 6.1 GB | +10.5% perte sensible |
| Q4_K_M | 3.5 GB | 4.1 GB | 6.5 GB | +2.8% faible perte |
| Q5_K_M | 4.0 GB | 4.6 GB | 7.0 GB | +0.9% très faible perte |
| Q6_K | 4.4 GB | 5.0 GB | 7.5 GB | +0.3% quasi sans perte |
| Q8_0 | 5.5 GB | 6.1 GB | 8.5 GB | ≈ 0% identique à l'original |
| F16 | 9.5 GB | 10 GB | 13 GB | ≈ 0% identique à l'original |
Poids + cache de contexte (d'après l'architecture du modèle) + runtime. Qualité : hausse de perplexity par rapport au modèle complet, d'après les tests llama.cpp, ajustée selon la taille du modèle. Simulez votre propre configuration.
Score Chat au fil du temps
Score Arena du 29 avr. 2026 au 28 oct. 2026.
Modèles gratuits similaires en Chat
- Mistral Small 3.1 24B Instruct (2503) 1303
- Qwen2.5-72B-Instruct 1303 · 72.7 B
- Granite 4.1 8B 1304 · 8.8 B
- Olmo 3 32B Think 1306
- Mistral Large (2411) 1306
- Llama 3.1 Nemotron 70B Instruct 1299
Partager cette page :XLinkedInRedditWhatsApp
Un chiffre erroné ou un lien cassé ? Signalez une erreur