Vote na Free Arena

Todos os modelos › google

gemma-3-27b-it

google · licença Gemma · na Arena desde 11 mar. 2025

Chat do laboratório Download
Pontuação Arena1358#199 de 416 em Chat, modelos pagos incluídos
Tamanho27.4 Bparâmetros
Download de 4 bits17 GBsó os pesos, Q4_K_M
Contexto máximo128Ktokens, segundo a configuração do modelo

Onde usar de graça

Pontuações Arena

ArenaPontuaçãoPosiçãoVotos
Chat1358#199 de 41647K

Posição entre todos os modelos, inclusive os pagos. Fonte: conjunto de dados do ranking da Arena.

Velocidade em hardware popular

HardwareMemória da GPUCabe?Velocidade
RTX 3060 12 GB12 GBGPU + 64 GB de RAM6.5 tok/s
RTX 4060 Ti 16 GB16 GBGPU + 64 GB de RAM7.7 tok/s
RTX 309024 GBCabe na GPU35 tok/s
RTX 409024 GBCabe na GPU38 tok/s
RTX 509032 GBCabe na GPU65 tok/s
RX 7900 XTX24 GBCabe na GPU36 tok/s
2 × RTX 309048 GBCabe na GPU34 tok/s
4 × RTX 309096 GBCabe na GPU32 tok/s
Mac M4 Max 128 GB96 GBCabe na GPU20 tok/s
Ryzen AI Max+ 395 128 GB96 GBCabe na GPU9.9 tok/s
8 × H100 SXM640 GBCabe na GPU96 tok/s

Estimativa com 4 bits e contexto de 32K, com 64 GB de DDR5 para offload. Velocidade ≈ largura de banda da memória × 78% ÷ dados lidos por token, mais um custo fixo por token, calibrada em 44 testes reais com llama.cpp; erro típico de cerca de ±10%. Compare todas as GPUs.

Memória de GPU necessária

NívelContexto de 8KContexto de 32KContexto de 128KQualidade vs. completo
Q3_K_M15 GB18 GB27 GB+7.2% perda perceptível
Q4_K_M18 GB21 GB29 GB+1.9% perda pequena
Q5_K_M21 GB23 GB32 GB+0.6% perda muito pequena
Q6_K24 GB26 GB35 GB+0.2% quase sem perda
Q8_031 GB33 GB42 GB≈ 0% igual ao completo
F1657 GB59 GB68 GB≈ 0% igual ao completo

Pesos + cache de contexto (a partir da arquitetura do modelo) + runtime. Qualidade: aumento em perplexity em relação ao modelo completo, com base em testes com llama.cpp, ajustado pelo tamanho do modelo. Simule a sua configuração.

Pontuação de chat ao longo do tempo

gemma-3-27b-it 1358Melhor modelo pago

Pontuação Arena de 17 abr. 2026 a 15 out. 2026.

Compartilhe esta página:XLinkedInRedditWhatsApp