granite-switch-4.1-8b

Onde usar de graça

• Baixe e rode em casa: pesos oficiais · arquivos GGUF para Ollama e LM Studio

Novo: aguardando votos da Arena

Lançado em 14 out. 2026. A Arena ainda não votou neste modelo. Assim que votar, o modelo entra no ranking automaticamente, em geral na noite seguinte. Até lá, você já pode ver abaixo o tamanho, a memória necessária e a velocidade.

Velocidade em hardware popular

Estimativa com 4 bits e contexto de 32K, com 64 GB de DDR5 para offload. Velocidade ≈ largura de banda da memória × 78% ÷ dados lidos por token, mais um custo fixo por token, calibrada em 44 testes reais com llama.cpp; erro típico de cerca de ±10%. Compare todas as GPUs.

Memória de GPU necessária

Pesos + cache de contexto (a partir da arquitetura do modelo) + runtime. Qualidade: aumento em perplexity em relação ao modelo completo, com base em testes com llama.cpp, ajustado pelo tamanho do modelo. Simule a sua configuração.