Vote na Free Arena

Todos os modelos › nvidia

NVIDIA-Nemotron-3.5-Super-VL-120B-A12B-BF16

nvidia · lançado em 12 out. 2026

API grátis Chat do laboratório Download Novo · aguardando votos da Arena
Pontuação Arena—Ainda sem votos na Arena
Tamanho124.5 B12 B ativos por token (mistura de especialistas)
Download de 4 bits75 GBsó os pesos, Q4_K_M
Contexto máximo1024Ktokens, segundo a configuração do modelo

Onde usar de graça

Novo: aguardando votos da Arena

Lançado em 12 out. 2026. A Arena ainda não votou neste modelo. Assim que votar, o modelo entra no ranking automaticamente, em geral na noite seguinte. Até lá, você já pode ver abaixo o tamanho, a memória necessária e a velocidade, e testá-lo de graça.

Velocidade em hardware popular

HardwareMemória da GPUCabe?Velocidade
RTX 3060 12 GB12 GBNão cabe—
RTX 4060 Ti 16 GB16 GBNão cabe—
RTX 309024 GBNão cabe—
RTX 409024 GBNão cabe—
RTX 509032 GBGPU + 64 GB de RAM16 tok/s
RX 7900 XTX24 GBNão cabe—
2 × RTX 309048 GBGPU + 64 GB de RAM21 tok/s
4 × RTX 309096 GBCabe na GPU70 tok/s
Mac M4 Max 128 GB96 GBCabe na GPU41 tok/s
Ryzen AI Max+ 395 128 GB96 GBCabe na GPU25 tok/s
8 × H100 SXM640 GBCabe na GPU145 tok/s

Estimativa com 4 bits e contexto de 32K, com 64 GB de DDR5 para offload. Velocidade ≈ largura de banda da memória × 78% ÷ dados lidos por token, mais um custo fixo por token, calibrada em 44 testes reais com llama.cpp; erro típico de cerca de ±10%. Compare todas as GPUs.

Memória de GPU necessária

NívelContexto de 8KContexto de 32KContexto de 128KQualidade vs. completo
Q3_K_M63 GB63 GB64 GB+4.7% perda perceptível
Q4_K_M76 GB76 GB77 GB+1.2% perda muito pequena
Q5_K_M89 GB89 GB90 GB+0.4% quase sem perda
Q6_K103 GB103 GB104 GB+0.2% quase sem perda
Q8_0133 GB133 GB134 GB≈ 0% igual ao completo
F16250 GB250 GB251 GB≈ 0% igual ao completo

Pesos + cache de contexto (a partir da arquitetura do modelo) + runtime. Qualidade: aumento em perplexity em relação ao modelo completo, com base em testes com llama.cpp, ajustado pelo tamanho do modelo. Simule a sua configuração.

Compartilhe esta página:XLinkedInRedditWhatsApp