Vote na Free Arena

Todos os modelos › zai

GLM-4.5V

zai · licença MIT · na Arena desde 14 ago. 2025

Chat do laboratório Download
Pontuação Arena1333#223 de 416 em Chat, modelos pagos incluídos
Tamanho107.7 B14.3 B ativos por token (mistura de especialistas)
Download de 4 bits65 GBsó os pesos, Q4_K_M
Contexto máximo64Ktokens, segundo a configuração do modelo

Onde usar de graça

Pontuações Arena

ArenaPontuaçãoPosiçãoVotos
Chat1333#223 de 4165K
Visão1154#118 de 1673K

Posição entre todos os modelos, inclusive os pagos. Fonte: conjunto de dados do ranking da Arena.

Velocidade em hardware popular

HardwareMemória da GPUCabe?Velocidade
RTX 3060 12 GB12 GBNão cabe—
RTX 4060 Ti 16 GB16 GBNão cabe—
RTX 309024 GBGPU + 64 GB de RAM10 tok/s
RTX 409024 GBGPU + 64 GB de RAM10 tok/s
RTX 509032 GBGPU + 64 GB de RAM13 tok/s
RX 7900 XTX24 GBGPU + 64 GB de RAM10 tok/s
2 × RTX 309048 GBGPU + 64 GB de RAM16 tok/s
4 × RTX 309096 GBCabe na GPU40 tok/s
Mac M4 Max 128 GB96 GBCabe na GPU24 tok/s
Ryzen AI Max+ 395 128 GB96 GBCabe na GPU13 tok/s
8 × H100 SXM640 GBCabe na GPU97 tok/s

Estimativa com 4 bits e contexto de 32K, com 64 GB de DDR5 para offload. Velocidade ≈ largura de banda da memória × 78% ÷ dados lidos por token, mais um custo fixo por token, calibrada em 44 testes reais com llama.cpp; erro típico de cerca de ±10%. Compare todas as GPUs.

Memória de GPU necessária

NívelContexto de 8KContexto de 32KQualidade vs. completo
Q3_K_M56 GB61 GB+4.7% perda perceptível
Q4_K_M67 GB72 GB+1.2% perda muito pequena
Q5_K_M79 GB83 GB+0.4% quase sem perda
Q6_K90 GB95 GB+0.2% quase sem perda
Q8_0117 GB121 GB≈ 0% igual ao completo
F16218 GB222 GB≈ 0% igual ao completo

Pesos + cache de contexto (a partir da arquitetura do modelo) + runtime. Qualidade: aumento em perplexity em relação ao modelo completo, com base em testes com llama.cpp, ajustado pelo tamanho do modelo. Simule a sua configuração.

Pontuação de chat ao longo do tempo

GLM-4.5V 1333Melhor modelo pago

Pontuação Arena de 17 abr. 2026 a 15 out. 2026.

Compartilhe esta página:XLinkedInRedditWhatsApp