NVIDIA-Nemotron-Labs-Dory1.0-4B-BF16 : nouveautés, matériel requis, comment l'utiliser gratuitement

Le modèle Dory de NVIDIA gère jusqu'à 256 K tokens dans un seul prompt. Il permet d'échanger du calcul supplémentaire contre plus de précision sans changer de modèle.

NVIDIA-Nemotron-Labs-Dory1.0-4B-BF16 est un modèle de langage de 4 milliards de paramètres publié le 16 octobre 2026. Il suit une architecture bouclée à récurrence latente, où un bloc récurrent partagé est appliqué à plusieurs reprises entre les couches d'entrée et de sortie. Le modèle tourne en précision BF16 et gère une longueur de contexte allant jusqu'à 256 K tokens, ce qui convient à des prompts très longs. Il est sous licence OpenMDW 1.1, qui autorise l'usage commercial comme non commercial.

Selon NVIDIA, Dory introduit un calcul d'inférence élastique : un même checkpoint peut tourner avec une, deux ou quatre boucles, ce qui permet d'équilibrer vitesse et précision à la volée. Le bouclage laisse le modèle réfléchir davantage dans l'espace latent ; il a donc besoin de moins de tokens générés pour résoudre une tâche. Un bouclage économe en mémoire est obtenu grâce au cache KV de la dernière boucle, qui ne garde qu'un cache par couche récurrente quel que soit le nombre de boucles. Le modèle a d'abord été pré-entraîné dans le format NVFP4 en 4 bits de NVIDIA avant de continuer en BF16.

La fiche du modèle liste plusieurs scores de benchmarks mesurés par NVIDIA avec un même harnais. Avec deux boucles, Dory obtient 59.5 au benchmark de code SWE-bench Verified, contre 50.3 avec une seule boucle. Sur Terminal-Bench 2.1, quatre boucles atteignent 43, contre 12.5 avec une boucle. En raisonnement, le test GPQA Diamond donne 69.19 avec une seule boucle. Les connaissances générales, mesurées par AA-Omniscience, montrent une précision de 10.03 avec une boucle. Ces chiffres montrent comment des boucles supplémentaires améliorent les performances sur les tâches d'agent et de code.

Le principal atout de Dory est son contexte de 256 K tokens, qui permet des prompts ou des documents très longs. Le bouclage élastique donne un contrôle fin : une boucle minimise le calcul, tandis que deux ou quatre boucles améliorent la précision sur les tâches plus difficiles. En revanche, le modèle n'est entraîné que pour l'anglais ; l'usage multilingue est donc limité. Ajouter des boucles augmente aussi la latence par token ; les applications en temps réel préféreront donc la boucle unique.

Si vous devez travailler avec de très longs documents, ou si vous voulez expérimenter le calcul d'inférence élastique, Dory est un bon choix. Il est aussi utile aux développeurs d'assistants de code, car les benchmarks montrent de bonnes performances sur les tâches d'agent avec deux ou quatre boucles. Comme les poids sont disponibles gratuitement sur Hugging Face, chacun peut télécharger et faire tourner le modèle en local.

Que faut-il pour le faire tourner chez vous ? En 4 bits, il prend environ 5 gigaoctets de mémoire. La plus petite machine personnelle qui le contient entièrement est RTX 4060. Sur RTX 3060 12 GB avec 32 gigaoctets de RAM, il écrit environ 90 tokens par seconde. Sur RTX 4090 avec 64 gigaoctets de RAM, il écrit environ 217 tokens par seconde.

Il n'existe pas encore d'API gratuite. Les poids sont ouverts : vous pouvez les télécharger sur Hugging Face sous une autre licence. Arena ne l'a pas encore classé : nous ajoutons le score dès que les votes arrivent.

Comparez NVIDIA Nemotron Labs Dory1.0 4B BF16 avec tous les modèles gratuits et voyez ce que votre propre GPU peut faire tourner, sur FreeLLMArena.