Vote na Free Arena

Todos os modelos › alibaba

qwen3-235b-a22b-instruct-2507

alibaba · licença Apache 2.0 · na Arena desde 1 ago. 2025

Chat do laboratório Download
Pontuação Arena1419#119 de 416 em Chat, modelos pagos incluídos
Tamanho235.1 B22 B ativos por token (mistura de especialistas)
Download de 4 bits142 GBsó os pesos, Q4_K_M
Contexto máximo256Ktokens, segundo a configuração do modelo

Onde usar de graça

Pontuações Arena

ArenaPontuaçãoPosiçãoVotos
Chat1419#119 de 41698K

Posição entre todos os modelos, inclusive os pagos. Fonte: conjunto de dados do ranking da Arena.

Velocidade em hardware popular

HardwareMemória da GPUCabe?Velocidade
RTX 3060 12 GB12 GBNão cabe—
RTX 4060 Ti 16 GB16 GBNão cabe—
RTX 309024 GBNão cabe—
RTX 409024 GBNão cabe—
RTX 509032 GBNão cabe—
RX 7900 XTX24 GBNão cabe—
2 × RTX 309048 GBNão cabe—
4 × RTX 309096 GBNão cabe—
Mac M4 Max 128 GB96 GBNão cabe—
Ryzen AI Max+ 395 128 GB96 GBNão cabe—
8 × H100 SXM640 GBCabe na GPU80 tok/s

Estimativa com 4 bits e contexto de 32K, com 64 GB de DDR5 para offload. Velocidade ≈ largura de banda da memória × 78% ÷ dados lidos por token, mais um custo fixo por token, calibrada em 44 testes reais com llama.cpp; erro típico de cerca de ±10%. Compare todas as GPUs.

Memória de GPU necessária

NívelContexto de 8KContexto de 32KContexto de 128KQualidade vs. completo
Q3_K_M120 GB124 GB143 GB+4.7% perda perceptível
Q4_K_M145 GB149 GB168 GB+1.2% perda muito pequena
Q5_K_M169 GB174 GB193 GB+0.4% quase sem perda
Q6_K195 GB200 GB219 GB+0.2% quase sem perda
Q8_0252 GB257 GB276 GB≈ 0% igual ao completo
F16472 GB477 GB496 GB≈ 0% igual ao completo

Pesos + cache de contexto (a partir da arquitetura do modelo) + runtime. Qualidade: aumento em perplexity em relação ao modelo completo, com base em testes com llama.cpp, ajustado pelo tamanho do modelo. Simule a sua configuração.

Pontuação de chat ao longo do tempo

qwen3-235b-a22b-instruct-2507 1419Melhor modelo pago

Pontuação Arena de 17 abr. 2026 a 15 out. 2026.

Modelos grátis parecidos em Chat

Compartilhe esta página:XLinkedInRedditWhatsApp