FreeLLMTodos os modelos › openbmb
MiniCPM-V-4
openbmb · licença aberta · lançado em 12 jul. 2025
Onde usar de graça
- Execute em um comando com whichllm (gratuito, código aberto):
uvx whichllm@latest plan "MiniCPM-V-4"mostra a GPU que você precisa,uvx whichllm@latest run "MiniCPM-V-4 gguf"a baixa e inicia um chat - Baixe e rode em casa: pesos oficiais · arquivos GGUF para Ollama e LM Studio
Ainda sem votos na Arena
A Arena ainda não votou neste modelo. Ele aparece aqui por ser um modelo pequeno popular na página oficial do laboratório no Hugging Face (40K downloads por mês).
Velocidade em hardware popular
| Hardware | Memória da GPU | Cabe? | Velocidade |
|---|---|---|---|
| RTX 3060 12 GB | 12 GB | Cabe na GPU | 73 tok/s |
| RTX 4060 Ti 16 GB | 16 GB | Cabe na GPU | 59 tok/s |
| RTX 3090 | 24 GB | Cabe na GPU | 170 tok/s |
| RTX 4090 | 24 GB | Cabe na GPU | 181 tok/s |
| RTX 5090 | 32 GB | Cabe na GPU | 282 tok/s |
| RX 7900 XTX | 24 GB | Cabe na GPU | 174 tok/s |
| 2 × RTX 3090 | 48 GB | Cabe na GPU | 165 tok/s |
| 4 × RTX 3090 | 96 GB | Cabe na GPU | 156 tok/s |
| Mac M4 Max 128 GB | 96 GB | Cabe na GPU | 84 tok/s |
| Ryzen AI Max+ 395 128 GB | 96 GB | Cabe na GPU | 53 tok/s |
| 8 × H100 SXM | 640 GB | Cabe na GPU | 350 tok/s |
Estimativa com 4 bits e contexto de 32K, com 64 GB de DDR5 para offload. Velocidade ≈ largura de banda da memória × 78% ÷ dados lidos por token, mais um custo fixo por token, calibrada em 44 testes reais com llama.cpp; erro típico de cerca de ±10%. Compare todas as GPUs.
Memória de GPU necessária
| Nível | Contexto de 8K | Contexto de 32K | Qualidade vs. completo |
|---|---|---|---|
| Q3_K_M | 2.9 GB | 3.7 GB | +10.5% perda perceptível |
| Q4_K_M | 3.4 GB | 4.2 GB | +2.8% perda pequena |
| Q5_K_M | 3.8 GB | 4.6 GB | +0.9% perda muito pequena |
| Q6_K | 4.2 GB | 5.0 GB | +0.3% quase sem perda |
| Q8_0 | 5.2 GB | 6.0 GB | ≈ 0% igual ao completo |
| F16 | 9.1 GB | 9.9 GB | ≈ 0% igual ao completo |
Pesos + cache de contexto (a partir da arquitetura do modelo) + runtime. Qualidade: aumento em perplexity em relação ao modelo completo, com base em testes com llama.cpp, ajustado pelo tamanho do modelo. Simule a sua configuração.
Current alternatives
Compartilhe esta página:XLinkedInRedditWhatsApp
Viu um número errado ou um link quebrado? Informe um erro