NVIDIA-Nemotron-Labs-Dory1.0-4B-BF16：新機能、必要なハードウェア、無料での動かし方

NVIDIAのDoryモデルは、1回のプロンプトで最大256 Kトークンを扱えます。モデルを入れ替えずに、追加の計算量と引き換えに精度を高められます。

NVIDIA-Nemotron-Labs-Dory1.0-4B-BF16は、2026年10月16日に公開された、パラメータ数4Bの言語モデルです。入力層と出力層の間で共有の再帰ブロックを繰り返し適用する、ループ型の潜在再帰アーキテクチャを採用しています。BF16精度で動き、最大256 Kトークンのコンテキスト長に対応するため、非常に長いプロンプトにも向いています。OpenMDW 1.1ライセンスで、商用・非商用のどちらでも使えます。

NVIDIAによると、Doryは「弾力的な推論計算」を導入しています。1つのチェックポイントを1回、2回、4回のループで実行でき、速度と精度をその場で調整できます。ループにより、モデルは潜在空間でより多く考えるため、課題を解くのに生成するトークンが少なくて済みます。最後のループのKVキャッシュによって、ループ数にかかわらず再帰層ごとに1つのキャッシュだけを保持し、メモリ効率の良いループを実現しています。モデルはまずNVIDIAの4ビットNVFP4形式で事前学習され、その後BF16で続けられました。

モデルカードには、NVIDIAが共通のハーネスで測定した複数のベンチマークスコアが載っています。ループ2回のDoryは、コーディングベンチマークのSWE-bench Verifiedで59.5を記録し、ループ1回の50.3を上回りました。Terminal-Bench 2.1では、ループ4回で43に達し、ループ1回の12.5を上回っています。推論のGPQA Diamondでは、ループ1回で69.19です。AA-Omniscienceで測った一般知識の正答率は、ループ1回で10.03です。これらの数字は、ループを増やすとエージェントやコーディングのタスクで性能が上がることを示しています。

Doryの最大の強みは256 Kトークンのコンテキストで、長大なプロンプトや文書を扱えます。弾力的なループにより細かく調整でき、ループ1回なら計算量が最小、2回か4回なら難しいタスクで精度が上がります。ただし、このモデルは英語のみで学習されているため、多言語での利用は限られます。ループを増やすとトークンあたりの遅延も増えるため、リアルタイムのアプリケーションではループ1回の設定が向いているでしょう。

非常に長い文書を扱う必要がある方や、弾力的な推論計算を試したい方には、Doryが向いています。ループ2回か4回のときにエージェントタスクで高い性能が出ることがベンチマークで示されているため、コーディングアシスタントを作る開発者にも役立ちます。重みはHugging Faceで無料公開されているので、誰でもダウンロードしてローカルで動かせます。

自宅で動かすには何が必要でしょうか。4ビットでは約5ギガバイトのメモリを使います。完全に収まる最小の家庭用マシンはRTX 4060です。RTX 3060 12 GBとRAM 32ギガバイトでは、毎秒約90トークンで書きます。RTX 4090とRAM 64ギガバイトでは、毎秒約217トークンで書きます。

無料のAPIはまだありません。重みは公開されており、別のライセンスでHugging Faceからダウンロードできます。Arenaではまだ順位がついていません。投票が集まり次第、スコアを追加します。

FreeLLMArenaで、NVIDIA Nemotron Labs Dory1.0 4B BF16をすべての無料モデルと比べ、お使いのGPUで動かせるものを確認できます。