Free Arenaで投票

すべてのモデル › nvidia

NVIDIA-Nemotron-3.5-Super-VL-120B-A12B-BF16

nvidia · 2026年10月12日公開

無料API ラボのチャット ダウンロード 新着・Arenaの投票待ち
Arenaスコア—Arenaではまだ投票されていません
サイズ124.5 B1トークンあたり12 Bがアクティブ(Mixture of Experts)
4ビットのダウンロード75 GB重みのみ、Q4_K_M
最大コンテキスト1024Kトークン、モデル設定より

無料で使える場所

新着:Arenaの投票待ち

2026年10月12日に公開。Arenaではまだこのモデルへの投票がありません。投票が入ると、通常は翌晩に自動でランキングに加わります。それまでも、サイズ、必要メモリ、速度は下記で確認でき、無料で試せます。

よく使われるハードウェアでの速度

ハードウェアGPUメモリ収まる?速度
RTX 3060 12 GB12 GB収まらない—
RTX 4060 Ti 16 GB16 GB収まらない—
RTX 309024 GB収まらない—
RTX 409024 GB収まらない—
RTX 509032 GBGPU+64 GBのRAM16 tok/s
RX 7900 XTX24 GB収まらない—
2 × RTX 309048 GBGPU+64 GBのRAM21 tok/s
4 × RTX 309096 GBGPUに収まる70 tok/s
Mac M4 Max 128 GB96 GBGPUに収まる41 tok/s
Ryzen AI Max+ 395 128 GB96 GBGPUに収まる25 tok/s
8 × H100 SXM640 GBGPUに収まる145 tok/s

4ビット、32Kコンテキスト、オフロード用にDDR5を64 GBとした推定値。速度 ≈ メモリ帯域 × 78% ÷ 1トークンあたりの読み込みデータ量に、トークンごとの固定コストを加えたもので、44件の実際の llama.cpp テストで補正しています。典型的な誤差は約±10%です。すべてのGPUを比較。

必要なGPUメモリ

レベル8Kコンテキスト32Kコンテキスト128Kコンテキストフル精度との品質比較
Q3_K_M63 GB63 GB64 GB+4.7% 目立つ劣化
Q4_K_M76 GB76 GB77 GB+1.2% ごくわずかな劣化
Q5_K_M89 GB89 GB90 GB+0.4% ほぼ劣化なし
Q6_K103 GB103 GB104 GB+0.2% ほぼ劣化なし
Q8_0133 GB133 GB134 GB≈ 0% フル精度と同等
F16250 GB250 GB251 GB≈ 0% フル精度と同等

重み+コンテキストキャッシュ(モデルのアーキテクチャから算出)+ランタイム。品質:フル精度モデルに対するperplexityの増加分で、llama.cpp のテストをもとにモデルサイズに合わせて換算しています。自分の環境をシミュレーション。

このページを共有:XLinkedInRedditWhatsApp

どのページでも / または Ctrl+K で検索できます。