Vote na Free Arena

Todos os modelos › nvidia

NVIDIA-Nemotron-Labs-Dory1.0-4B-BF16

nvidia · lançado em 16 out. 2026

Chat do laboratório Download Novo · aguardando votos da Arena
Pontuação Arena—Ainda sem votos na Arena
Tamanho4 Bparâmetros
Download de 4 bits2.4 GBsó os pesos, Q4_K_M
Contexto máximo256Ktokens, segundo a configuração do modelo

Onde usar de graça

Novo: aguardando votos da Arena

Lançado em 16 out. 2026. A Arena ainda não votou neste modelo. Assim que votar, o modelo entra no ranking automaticamente, em geral na noite seguinte. Até lá, você já pode ver abaixo o tamanho, a memória necessária e a velocidade.

Velocidade em hardware popular

HardwareMemória da GPUCabe?Velocidade
RTX 3060 12 GB12 GBCabe na GPU70 tok/s
RTX 4060 Ti 16 GB16 GBCabe na GPU57 tok/s
RTX 309024 GBCabe na GPU163 tok/s
RTX 409024 GBCabe na GPU174 tok/s
RTX 509032 GBCabe na GPU272 tok/s
RX 7900 XTX24 GBCabe na GPU167 tok/s
2 × RTX 309048 GBCabe na GPU158 tok/s
4 × RTX 309096 GBCabe na GPU150 tok/s
Mac M4 Max 128 GB96 GBCabe na GPU81 tok/s
Ryzen AI Max+ 395 128 GB96 GBCabe na GPU51 tok/s
8 × H100 SXM640 GBCabe na GPU340 tok/s

Estimativa com 4 bits e contexto de 32K, com 64 GB de DDR5 para offload. Velocidade ≈ largura de banda da memória × 78% ÷ dados lidos por token, mais um custo fixo por token, calibrada em 44 testes reais com llama.cpp; erro típico de cerca de ±10%. Compare todas as GPUs.

Memória de GPU necessária

NívelContexto de 8KContexto de 32KContexto de 128KQualidade vs. completo
Q3_K_M3.0 GB3.9 GB7.5 GB+10.5% perda perceptível
Q4_K_M3.4 GB4.3 GB8.0 GB+2.8% perda pequena
Q5_K_M3.9 GB4.8 GB8.4 GB+0.9% perda muito pequena
Q6_K4.3 GB5.2 GB8.8 GB+0.3% quase sem perda
Q8_05.3 GB6.2 GB9.8 GB≈ 0% igual ao completo
F169.0 GB9.9 GB14 GB≈ 0% igual ao completo

Pesos + cache de contexto (a partir da arquitetura do modelo) + runtime. Qualidade: aumento em perplexity em relação ao modelo completo, com base em testes com llama.cpp, ajustado pelo tamanho do modelo. Simule a sua configuração.

Compartilhe esta página:XLinkedInRedditWhatsApp