Free Arenaで投票

GPU › データセンター

H200向けの最高の無料AIモデル

H200:ビデオメモリ141 GB、4800 GB/s。このカードで動く無料モデルを、Arenaの投票順に、期待できる速度とともに紹介します。

環境をシミュレーション · すべてのGPUを比較

収まる中で投票された最高のモデルGemma 4 31BArena 1443 · 約150トークン/秒
最大の密モデル約218 B4ビット、8Kコンテキスト、GPUに完全に載せた場合
メモリ141 GB帯域 4800 GB/s
2枚構成の場合GLM-5.3-Flash282 GB · 約140トークン/秒

GPUに完全に収まる、投票のあるモデル

モデルArenaスコアサイズ4ビットのファイルトークン/秒
Gemma 4 31B
google
144331.3 B20 GB150
Qwen3.8-27B
alibaba
144027.8 B18 GB177
Gemma 4 26B A4B
google · MoE、アクティブ 4 B
143425.8 B17 GB278
Qwen3.5-122B-A10B
alibaba · MoE、アクティブ 10 B
1417125.1 B77 GB224
Qwen3.5-27B
alibaba
140927.8 B18 GB177
GLM-4.6V
zai · MoE、アクティブ 14.3 B
1376107.7 B66 GB181
GLM-4.5V
zai · MoE、アクティブ 14.3 B
1333107.7 B66 GB181

システムRAM 64 GBの助けで動く、より大きなモデル

モデルの一部がシステムメモリに置かれます。ビデオメモリよりもずっと遅くなります。

モデルArenaスコアサイズ4ビットのファイルトークン/秒
MiMo-V2.6-Flash
xiaomi · MoE、アクティブ 17.4 B
1453310.8 B190 GB25
Hy3
tencent · MoE、アクティブ 24.4 B
1438298.8 B182 GB19
DeepSeek-V4-Flash
deepseek · MoE、アクティブ 20.4 B
1432290.9 B177 GB26
MiMo-V2.5
xiaomi · MoE、アクティブ 17.4 B
1428310.8 B190 GB25
Qwen3-VL-235B-A22B-Instruct
alibaba · MoE、アクティブ 22 B
1420235.7 B144 GB87
MiMo-V2-Flash (Non-Thinking)
xiaomi · MoE、アクティブ 16.5 B
1411309.8 B189 GB26

人気の小型モデル

Arenaでまだ投票のない公式の小型モデルを、Hugging Faceのダウンロード数順に並べています(人気であって、品質ではありません)。

モデル月間ダウンロード数サイズ4ビットのファイルトークン/秒
Qwen3-0.6B
Qwen
28.2M0.8 B1.7 GB724
Qwen3-4B
Qwen
11.6M4 B3.6 GB508
Qwen3-14B
Qwen
9.0M14.8 B10 GB266
Qwen3-8B
Qwen
8.6M8.2 B6.2 GB377
Qwen3.5-4B
Qwen
7.8M4.7 B4.0 GB546
Qwen3.5-9B
Qwen
7.3M9.7 B7.1 GB379

4ビット(Q4_K_M)、8Kコンテキストでの推定値で、44件の実際の llama.cpp テストで補正しています(典型的な誤差は約±10%)。1秒あたりのトークン数:約10が読む速さの目安です。

質問

H200で使える最高の無料AIモデルは?

Gemma 4 31B(Arenaスコア1443)は、4ビットで141 GBのビデオメモリに完全に収まる、最も投票を集めたオープンモデルで、毎秒約150トークンで出力します。

H200ではどれくらいの大きさのモデルが動きますか?

4ビット、8Kコンテキストで、GPUに完全に載せた場合、密モデルで約218 Bパラメータです。Mixture of Experts モデルはもっと大きくでき、システムRAMが64 GBあれば、遅くなりますがさらに大きなモデルも動きます。

H200はローカルLLMに向いていますか?

メモリは141 GB、帯域は4800 GB/s。メモリで入るモデルが決まり、帯域で書く速さが決まります。24 GB以上あれば27~32 Bのモデルが動き、家庭用として品質面で最適なサイズです。

似たカード

このページを共有:XLinkedInRedditWhatsApp

どのページでも / または Ctrl+K で検索できます。