Tutti i modelli › inclusionAI
Ling-3.1-flash
inclusionAI · uscito il 13 ott 2026
Dove usarlo gratis
- Scaricalo e usalo a casa: pesi ufficiali · file GGUF per Ollama e LM Studio
Novità: in attesa dei voti su Arena
Uscito il 13 ott 2026. Arena non ha ancora votato questo modello. Appena lo farà, il modello entrerà in classifica in automatico, di solito la notte dopo. Nel frattempo puoi già vedere qui sotto dimensioni, memoria necessaria e velocità.
Velocità sull'hardware più diffuso
| Hardware | Memoria GPU | Ci sta? | Velocità |
|---|---|---|---|
| RTX 3060 12 GB | 12 GB | Non entra | — |
| RTX 4060 Ti 16 GB | 16 GB | Non entra | — |
| RTX 3090 | 24 GB | Non entra | — |
| RTX 4090 | 24 GB | Non entra | — |
| RTX 5090 | 32 GB | Non entra | — |
| RX 7900 XTX | 24 GB | Non entra | — |
| 2 × RTX 3090 | 48 GB | Non entra | — |
| 4 × RTX 3090 | 96 GB | Non entra | — |
| Mac M4 Max 128 GB | 96 GB | Non entra | — |
| Ryzen AI Max+ 395 128 GB | 96 GB | Non entra | — |
| 8 × H100 SXM | 640 GB | Entra nella GPU | 72 tok/s |
Stima a 4 bit con contesto da 32K e 64 GB di DDR5 per lo scarico in RAM. Velocità ≈ banda di memoria × 78% ÷ dati letti per token, più un costo fisso per token, calibrata su 44 test reali con llama.cpp; errore tipico di circa ±10%. Confronta tutte le GPU.
Memoria GPU necessaria
| Livello | Contesto da 8K | Contesto da 32K | Contesto da 128K | Qualità rispetto al modello completo |
|---|---|---|---|---|
| Q3_K_M | 287 GB | 289 GB | 298 GB | +4.7% perdita evidente |
| Q4_K_M | 348 GB | 350 GB | 358 GB | +1.2% perdita minima |
| Q5_K_M | 408 GB | 410 GB | 418 GB | +0.4% quasi senza perdita |
| Q6_K | 470 GB | 472 GB | 481 GB | +0.2% quasi senza perdita |
| Q8_0 | 609 GB | 611 GB | 619 GB | ≈ 0% uguale al completo |
| F16 | 1145 GB | 1148 GB | 1156 GB | ≈ 0% uguale al completo |
Pesi + cache del contesto (dall'architettura del modello) + runtime. Qualità: aumento di perplexity rispetto al modello completo, dai test con llama.cpp, scalato in base alla dimensione del modello. Simula la tua configurazione.
Condividi questa pagina:XLinkedInRedditWhatsApp
Hai visto un numero sbagliato o un link rotto? Segnala un errore