Tous les modèles › inclusionAI
Ling-3.1-flash
inclusionAI · sorti le 13 oct. 2026
Où l'utiliser gratuitement
- Téléchargez-le et lancez-le chez vous : poids officiels · fichiers GGUF pour Ollama et LM Studio
Nouveau : en attente de votes Arena
Sorti le 13 oct. 2026. Arena n'a pas encore voté pour ce modèle. Dès que ce sera le cas, le modèle rejoindra le classement automatiquement, en général la nuit suivante. D'ici là, vous pouvez déjà consulter ci-dessous sa taille, ses besoins en mémoire et sa vitesse.
Vitesse sur du matériel courant
| Matériel | Mémoire GPU | Ça tient ? | Vitesse |
|---|---|---|---|
| RTX 3060 12 GB | 12 GB | Ne tient pas | — |
| RTX 4060 Ti 16 GB | 16 GB | Ne tient pas | — |
| RTX 3090 | 24 GB | Ne tient pas | — |
| RTX 4090 | 24 GB | Ne tient pas | — |
| RTX 5090 | 32 GB | Ne tient pas | — |
| RX 7900 XTX | 24 GB | Ne tient pas | — |
| 2 × RTX 3090 | 48 GB | Ne tient pas | — |
| 4 × RTX 3090 | 96 GB | Ne tient pas | — |
| Mac M4 Max 128 GB | 96 GB | Ne tient pas | — |
| Ryzen AI Max+ 395 128 GB | 96 GB | Ne tient pas | — |
| 8 × H100 SXM | 640 GB | Tient dans le GPU | 72 tok/s |
Estimation en 4 bits avec un contexte de 32K et 64 GB de DDR5 pour le déchargement. Vitesse ≈ bande passante mémoire × 78 % ÷ données lues par token, plus un coût fixe par token, calibrée sur 44 tests llama.cpp réels ; erreur typique d'environ ±10 %. Comparer tous les GPU.
Mémoire GPU nécessaire
| Niveau | Contexte de 8K | Contexte de 32K | Contexte de 128K | Qualité vs original |
|---|---|---|---|---|
| Q3_K_M | 287 GB | 289 GB | 298 GB | +4.7% perte sensible |
| Q4_K_M | 348 GB | 350 GB | 358 GB | +1.2% très faible perte |
| Q5_K_M | 408 GB | 410 GB | 418 GB | +0.4% quasi sans perte |
| Q6_K | 470 GB | 472 GB | 481 GB | +0.2% quasi sans perte |
| Q8_0 | 609 GB | 611 GB | 619 GB | ≈ 0% identique à l'original |
| F16 | 1145 GB | 1148 GB | 1156 GB | ≈ 0% identique à l'original |
Poids + cache de contexte (d'après l'architecture du modèle) + runtime. Qualité : hausse de perplexity par rapport au modèle complet, d'après les tests llama.cpp, ajustée selon la taille du modèle. Simulez votre propre configuration.
Partager cette page :XLinkedInRedditWhatsApp
Un chiffre erroné ou un lien cassé ? Signalez une erreur