Vote na Free Arena

Todos os modelos › inclusionAI

Ling-3.0-flash-Sante

inclusionAI · lançado em 19 out. 2026

Download Novo · aguardando votos da Arena
Pontuação Arena—Ainda sem votos na Arena
Tamanho127.5 B8.6 B ativos por token (mistura de especialistas)
Download de 4 bits77 GBsó os pesos, Q4_K_M
Contexto máximo256Ktokens, segundo a configuração do modelo

Onde usar de graça

Novo: aguardando votos da Arena

Lançado em 19 out. 2026. A Arena ainda não votou neste modelo. Assim que votar, o modelo entra no ranking automaticamente, em geral na noite seguinte. Até lá, você já pode ver abaixo o tamanho, a memória necessária e a velocidade.

Velocidade em hardware popular

HardwareMemória da GPUCabe?Velocidade
RTX 3060 12 GB12 GBNão cabe—
RTX 4060 Ti 16 GB16 GBNão cabe—
RTX 309024 GBNão cabe—
RTX 409024 GBNão cabe—
RTX 509032 GBGPU + 64 GB de RAM21 tok/s
RX 7900 XTX24 GBNão cabe—
2 × RTX 309048 GBGPU + 64 GB de RAM26 tok/s
4 × RTX 309096 GBCabe na GPU76 tok/s
Mac M4 Max 128 GB96 GBCabe na GPU45 tok/s
Ryzen AI Max+ 395 128 GB96 GBCabe na GPU27 tok/s
8 × H100 SXM640 GBCabe na GPU153 tok/s

Estimativa com 4 bits e contexto de 32K, com 64 GB de DDR5 para offload. Velocidade ≈ largura de banda da memória × 78% ÷ dados lidos por token, mais um custo fixo por token, calibrada em 44 testes reais com llama.cpp; erro típico de cerca de ±10%. Compare todas as GPUs.

Memória de GPU necessária

NívelContexto de 8KContexto de 32KContexto de 128KQualidade vs. completo
Q3_K_M65 GB66 GB71 GB+4.7% perda perceptível
Q4_K_M78 GB79 GB84 GB+1.2% perda muito pequena
Q5_K_M92 GB93 GB98 GB+0.4% quase sem perda
Q6_K106 GB107 GB111 GB+0.2% quase sem perda
Q8_0136 GB138 GB142 GB≈ 0% igual ao completo
F16256 GB257 GB262 GB≈ 0% igual ao completo

Pesos + cache de contexto (a partir da arquitetura do modelo) + runtime. Qualidade: aumento em perplexity em relação ao modelo completo, com base em testes com llama.cpp, ajustado pelo tamanho do modelo. Simule a sua configuração.

Compartilhe esta página:XLinkedInRedditWhatsApp

Pressione / ou Ctrl+K para pesquisar de qualquer página.