FreeLLMTodos los modelos › tencent
Qwen3.8-27B-DSpine-b16
tencent · licencia abierta · lanzado el 7 nov 2026
Dónde usarlo gratis
- El chat del propio laboratorio: yuanbao.tencent.com (gratis con límites diarios)
- Ejecútalo en un solo comando con whichllm (gratis, código abierto):
uvx whichllm@latest plan "Qwen3.8-27B-DSpine-b16"muestra la GPU que necesitas,uvx whichllm@latest run "Qwen3.8-27B-DSpine-b16 gguf"la descarga y comienza un chat - Descárgalo y ejecútalo en casa: pesos oficiales · archivos GGUF para Ollama y LM Studio
Aún sin votos en Arena
Arena no ha votado este modelo. Aparece porque es un modelo pequeño popular en la página oficial de su laboratorio en Hugging Face (3K descargas al mes).
Velocidad en hardware popular
| Hardware | Memoria de GPU | ¿Cabe? | Velocidad |
|---|---|---|---|
| RTX 3060 12 GB | 12 GB | Cabe en la GPU | 169 tok/s |
| RTX 4060 Ti 16 GB | 16 GB | Cabe en la GPU | 140 tok/s |
| RTX 3090 | 24 GB | Cabe en la GPU | 346 tok/s |
| RTX 4090 | 24 GB | Cabe en la GPU | 363 tok/s |
| RTX 5090 | 32 GB | Cabe en la GPU | 503 tok/s |
| RX 7900 XTX | 24 GB | Cabe en la GPU | 352 tok/s |
| 2 × RTX 3090 | 48 GB | Cabe en la GPU | 336 tok/s |
| 4 × RTX 3090 | 96 GB | Cabe en la GPU | 317 tok/s |
| Mac M4 Max 128 GB | 96 GB | Cabe en la GPU | 148 tok/s |
| Ryzen AI Max+ 395 128 GB | 96 GB | Cabe en la GPU | 126 tok/s |
| 8 × H100 SXM | 640 GB | Cabe en la GPU | 541 tok/s |
Estimación a 4 bits con contexto de 32K y 64 GB de DDR5 para el volcado a RAM. Velocidad ≈ ancho de banda de memoria × 78 % ÷ datos leídos por token, más un coste fijo por token, calibrada con 44 pruebas reales de llama.cpp; error típico de unos ±10 %. Compara todas las GPU.
Memoria de GPU necesaria
| Nivel | Contexto de 8K | Contexto de 32K | Contexto de 128K | Calidad frente al modelo completo |
|---|---|---|---|---|
| Q3_K_M | 1.8 GB | 1.8 GB | 1.8 GB | +10.5 % pérdida notable |
| Q4_K_M | 2.0 GB | 2.0 GB | 2.0 GB | +2.8 % pérdida pequeña |
| Q5_K_M | 2.2 GB | 2.2 GB | 2.2 GB | +0.9 % pérdida muy pequeña |
| Q6_K | 2.4 GB | 2.4 GB | 2.4 GB | +0.3 % casi sin pérdida |
| Q8_0 | 2.9 GB | 2.9 GB | 2.9 GB | ≈ 0 % igual que el completo |
| F16 | 4.8 GB | 4.8 GB | 4.8 GB | ≈ 0 % igual que el completo |
Pesos + caché de contexto (según la arquitectura del modelo) + entorno de ejecución. Calidad: aumento de perplexity respecto al modelo completo, según pruebas de llama.cpp, ajustado al tamaño del modelo. Simula tu propia configuración.
Comparte esta página:XLinkedInRedditWhatsApp
¿Has visto un número incorrecto o un enlace roto? Avísanos del error