Free Arenaで投票

GPU › ワークステーション

RTX PRO 6000 Blackwell向けの最高の無料AIモデル

RTX PRO 6000 Blackwell:ビデオメモリ96 GB、1792 GB/s。このカードで動く無料モデルを、Arenaの投票順に、期待できる速度とともに紹介します。

環境をシミュレーション · Amazonで価格を確認 ↗ · すべてのGPUを比較

収まる中で投票された最高のモデルGemma 4 31BArena 1443 · 約62トークン/秒
最大の密モデル約148 B4ビット、8Kコンテキスト、GPUに完全に載せた場合
メモリ96 GB帯域 1792 GB/s
2枚構成の場合MiMo-V2.6-Flash192 GB · 約92トークン/秒

GPUに完全に収まる、投票のあるモデル

モデルArenaスコアサイズ4ビットのファイルトークン/秒
Gemma 4 31B
google
144331.3 B20 GB62
Qwen3.8-27B
alibaba
144027.8 B18 GB74
Gemma 4 26B A4B
google · MoE、アクティブ 4 B
143425.8 B17 GB203
Qwen3.5-122B-A10B
alibaba · MoE、アクティブ 10 B
1417125.1 B77 GB137
Qwen3.5-27B
alibaba
140927.8 B18 GB74
GLM-4.6V
zai · MoE、アクティブ 14.3 B
1376107.7 B66 GB99
GLM-4.5V
zai · MoE、アクティブ 14.3 B
1333107.7 B66 GB99

システムRAM 64 GBの助けで動く、より大きなモデル

モデルの一部がシステムメモリに置かれます。ビデオメモリよりもずっと遅くなります。

モデルArenaスコアサイズ4ビットのファイルトークン/秒
Qwen3-VL-235B-A22B-Instruct
alibaba · MoE、アクティブ 22 B
1420235.7 B144 GB14
MiniMax-M2.7
minimax · MoE、アクティブ 11 B
1405228.7 B140 GB28
Qwen3-VL-235B-A22B-Thinking
alibaba · MoE、アクティブ 22 B
1400235.7 B144 GB14
MiniMax-M2.1 Preview
minimax · MoE、アクティブ 11 B
1392228.7 B140 GB28
MiniMax-M2.5
minimax · MoE、アクティブ 11 B
1359228.7 B140 GB28

人気の小型モデル

Arenaでまだ投票のない公式の小型モデルを、Hugging Faceのダウンロード数順に並べています(人気であって、品質ではありません)。

モデル月間ダウンロード数サイズ4ビットのファイルトークン/秒
Qwen3-0.6B
Qwen
28.2M0.8 B1.7 GB495
Qwen3-4B
Qwen
11.6M4 B3.6 GB278
Qwen3-14B
Qwen
9.0M14.8 B10 GB119
Qwen3-8B
Qwen
8.6M8.2 B6.2 GB185
Qwen3.5-4B
Qwen
7.8M4.7 B4.0 GB310
Qwen3.5-9B
Qwen
7.3M9.7 B7.1 GB185

4ビット(Q4_K_M)、8Kコンテキストでの推定値で、44件の実際の llama.cpp テストで補正しています(典型的な誤差は約±10%)。1秒あたりのトークン数:約10が読む速さの目安です。FreeLLMArena は Amazon アソシエイトとして適格販売により収入を得ています。リンクがランキングに影響することはありません。

質問

RTX PRO 6000 Blackwellで使える最高の無料AIモデルは?

Gemma 4 31B(Arenaスコア1443)は、4ビットで96 GBのビデオメモリに完全に収まる、最も投票を集めたオープンモデルで、毎秒約62トークンで出力します。

RTX PRO 6000 Blackwellではどれくらいの大きさのモデルが動きますか?

4ビット、8Kコンテキストで、GPUに完全に載せた場合、密モデルで約148 Bパラメータです。Mixture of Experts モデルはもっと大きくでき、システムRAMが64 GBあれば、遅くなりますがさらに大きなモデルも動きます。

RTX PRO 6000 BlackwellはローカルLLMに向いていますか?

メモリは96 GB、帯域は1792 GB/s。メモリで入るモデルが決まり、帯域で書く速さが決まります。24 GB以上あれば27~32 Bのモデルが動き、家庭用として品質面で最適なサイズです。

似たカード

このページを共有:XLinkedInRedditWhatsApp

どのページでも / または Ctrl+K で検索できます。