NVIDIA-Nemotron-Labs-Dory1.0-4B-BF16: novedades, hardware necesario, cómo usarlo gratis

El modelo Dory de NVIDIA admite hasta 256 K tokens en un solo prompt. Te permite cambiar más cálculo por mayor precisión sin cambiar de modelo.

NVIDIA‑Nemotron‑Labs‑Dory1.0‑4B‑BF16 es un modelo de lenguaje de 4 mil millones de parámetros, publicado el 16 de octubre de 2026. Sigue una arquitectura en bucle con recurrencia latente, donde un bloque recurrente compartido se aplica varias veces entre las capas de entrada y de salida. El modelo funciona con precisión BF16 y admite un contexto de hasta 256 K tokens, apto para prompts muy largos. Tiene licencia OpenMDW 1.1, que permite el uso comercial y no comercial.

Según NVIDIA, Dory introduce el cálculo de inferencia elástico: un solo checkpoint puede ejecutarse con uno, dos o cuatro bucles, lo que permite equilibrar velocidad y precisión sobre la marcha. Los bucles dejan que el modelo piense más en el espacio latente, así que necesita generar menos tokens para resolver una tarea. La eficiencia de memoria se logra con la caché KV del último bucle, que conserva una sola caché por capa recurrente sea cual sea el número de bucles. El modelo se preentrenó primero en el formato NVFP4 de 4 bits de NVIDIA antes de continuar en BF16.

La ficha del modelo recoge varias puntuaciones de pruebas medidas por NVIDIA con un banco de pruebas coherente. Con dos bucles, Dory obtiene 59.5 en la prueba de programación SWE‑bench Verified, superando el 50.3 con un bucle. En Terminal‑Bench 2.1, cuatro bucles alcanzan 43, frente a 12.5 con un bucle. En razonamiento, la prueba GPQA Diamond da 69.19 con un solo bucle. El conocimiento general medido por AA‑Omniscience muestra una precisión de 10.03 con un bucle. Estas cifras ilustran cómo más bucles mejoran el rendimiento en tareas de agente y de programación.

El mayor punto fuerte de Dory es su contexto de 256 K tokens, que permite prompts o documentos muy extensos. Los bucles elásticos te dan un control fino: un bucle reduce el cálculo al mínimo, mientras que dos o cuatro bucles aumentan la precisión en tareas más difíciles. Sin embargo, el modelo está entrenado solo para inglés, así que el uso multilingüe es limitado. Más bucles también aumentan la latencia por token, así que las aplicaciones en tiempo real pueden preferir un solo bucle.

Si necesitas trabajar con documentos muy largos, o quieres experimentar con el cálculo de inferencia elástico, Dory es una buena opción. También es útil para quien crea asistentes de programación, porque las pruebas muestran un buen rendimiento en tareas de agente con dos o cuatro bucles. Como los pesos están disponibles libremente en Hugging Face, cualquiera puede descargar y ejecutar el modelo en local.

¿Qué necesitas para ejecutarlo en casa? A 4 bits ocupa unos 5 gigabytes de memoria. El equipo doméstico más pequeño que lo aloja por completo es un RTX 4060. Con un RTX 3060 12 GB y 32 gigabytes de RAM escribe unos 90 tokens por segundo. Con un RTX 4090 y 64 gigabytes de RAM escribe unos 217 tokens por segundo.

Todavía no hay una API gratuita. Los pesos son abiertos: puedes descargarlos de Hugging Face con otra licencia. Arena aún no lo ha clasificado: añadiremos la puntuación en cuanto lleguen los votos.

Compara NVIDIA Nemotron Labs Dory1.0 4B BF16 con todos los modelos gratis y comprueba qué puede ejecutar tu tarjeta gráfica, en FreeLLMArena.