Vote na Free Arena

Todos os modelos › zai

GLM-4.6V

zai · licença MIT · na Arena desde 27 jan. 2026

Chat do laboratório Download
Pontuação Arena1376#178 de 416 em Chat, modelos pagos incluídos
Tamanho107.7 B14.3 B ativos por token (mistura de especialistas)
Download de 4 bits65 GBsó os pesos, Q4_K_M
Contexto máximo128Ktokens, segundo a configuração do modelo

Onde usar de graça

Pontuações Arena

ArenaPontuaçãoPosiçãoVotos
Chat1376#178 de 4163K
Visão1164#113 de 1672K

Posição entre todos os modelos, inclusive os pagos. Fonte: conjunto de dados do ranking da Arena.

Velocidade em hardware popular

HardwareMemória da GPUCabe?Velocidade
RTX 3060 12 GB12 GBNão cabe—
RTX 4060 Ti 16 GB16 GBNão cabe—
RTX 309024 GBGPU + 64 GB de RAM10 tok/s
RTX 409024 GBGPU + 64 GB de RAM10 tok/s
RTX 509032 GBGPU + 64 GB de RAM13 tok/s
RX 7900 XTX24 GBGPU + 64 GB de RAM10 tok/s
2 × RTX 309048 GBGPU + 64 GB de RAM16 tok/s
4 × RTX 309096 GBCabe na GPU40 tok/s
Mac M4 Max 128 GB96 GBCabe na GPU24 tok/s
Ryzen AI Max+ 395 128 GB96 GBCabe na GPU13 tok/s
8 × H100 SXM640 GBCabe na GPU97 tok/s

Estimativa com 4 bits e contexto de 32K, com 64 GB de DDR5 para offload. Velocidade ≈ largura de banda da memória × 78% ÷ dados lidos por token, mais um custo fixo por token, calibrada em 44 testes reais com llama.cpp; erro típico de cerca de ±10%. Compare todas as GPUs.

Memória de GPU necessária

NívelContexto de 8KContexto de 32KContexto de 128KQualidade vs. completo
Q3_K_M56 GB61 GB79 GB+4.7% perda perceptível
Q4_K_M67 GB72 GB91 GB+1.2% perda muito pequena
Q5_K_M79 GB83 GB102 GB+0.4% quase sem perda
Q6_K90 GB95 GB114 GB+0.2% quase sem perda
Q8_0117 GB121 GB140 GB≈ 0% igual ao completo
F16218 GB222 GB241 GB≈ 0% igual ao completo

Pesos + cache de contexto (a partir da arquitetura do modelo) + runtime. Qualidade: aumento em perplexity em relação ao modelo completo, com base em testes com llama.cpp, ajustado pelo tamanho do modelo. Simule a sua configuração.

Pontuação de chat ao longo do tempo

GLM-4.6V 1376Melhor modelo pago

Pontuação Arena de 17 abr. 2026 a 15 out. 2026.

Compartilhe esta página:XLinkedInRedditWhatsApp