NVIDIA-Nemotron-3.5-Bolt-74B-A9B-BF16

Dónde usarlo gratis

• El chat del propio laboratorio: build.nvidia.com (gratis con límites diarios)
• Descárgalo y ejecútalo en casa: pesos oficiales · archivos GGUF para Ollama y LM Studio

Nuevo: esperando votos de Arena

Lanzado el 9 oct 2026. Arena aún no ha votado este modelo. En cuanto lo haga, el modelo pasará a la clasificación automáticamente, normalmente la noche siguiente. Mientras tanto, puedes consultar abajo su tamaño, la memoria que necesita y su velocidad.

Velocidad en hardware popular

Estimación a 4 bits con contexto de 32K y 64 GB de DDR5 para el volcado a RAM. Velocidad ≈ ancho de banda de memoria × 78 % ÷ datos leídos por token, más un coste fijo por token, calibrada con 44 pruebas reales de llama.cpp; error típico de unos ±10 %. Compara todas las GPU.

Memoria de GPU necesaria

Pesos + caché de contexto (según la arquitectura del modelo) + entorno de ejecución. Calidad: aumento de perplexity respecto al modelo completo, según pruebas de llama.cpp, ajustado al tamaño del modelo. Simula tu propia configuración.