GPU › データセンター
H200向けの最高の無料AIモデル
H200:ビデオメモリ141 GB、4800 GB/s。このカードで動く無料モデルを、Arenaの投票順に、期待できる速度とともに紹介します。
収まる中で投票された最高のモデルGemma 4 31BArena 1443 · 約150トークン/秒
最大の密モデル約218 B4ビット、8Kコンテキスト、GPUに完全に載せた場合
メモリ141 GB帯域 4800 GB/s
2枚構成の場合GLM-5.3-Flash282 GB · 約140トークン/秒
GPUに完全に収まる、投票のあるモデル
| モデル | Arenaスコア | サイズ | 4ビットのファイル | トークン/秒 |
|---|---|---|---|---|
| Gemma 4 31B |
1443 | 31.3 B | 20 GB | 150 |
| Qwen3.8-27B alibaba |
1440 | 27.8 B | 18 GB | 177 |
| Gemma 4 26B A4B google · MoE、アクティブ 4 B |
1434 | 25.8 B | 17 GB | 278 |
| Qwen3.5-122B-A10B alibaba · MoE、アクティブ 10 B |
1417 | 125.1 B | 77 GB | 224 |
| Qwen3.5-27B alibaba |
1409 | 27.8 B | 18 GB | 177 |
| GLM-4.6V zai · MoE、アクティブ 14.3 B |
1376 | 107.7 B | 66 GB | 181 |
| GLM-4.5V zai · MoE、アクティブ 14.3 B |
1333 | 107.7 B | 66 GB | 181 |
システムRAM 64 GBの助けで動く、より大きなモデル
モデルの一部がシステムメモリに置かれます。ビデオメモリよりもずっと遅くなります。
| モデル | Arenaスコア | サイズ | 4ビットのファイル | トークン/秒 |
|---|---|---|---|---|
| MiMo-V2.6-Flash xiaomi · MoE、アクティブ 17.4 B |
1453 | 310.8 B | 190 GB | 25 |
| Hy3 tencent · MoE、アクティブ 24.4 B |
1438 | 298.8 B | 182 GB | 19 |
| DeepSeek-V4-Flash deepseek · MoE、アクティブ 20.4 B |
1432 | 290.9 B | 177 GB | 26 |
| MiMo-V2.5 xiaomi · MoE、アクティブ 17.4 B |
1428 | 310.8 B | 190 GB | 25 |
| Qwen3-VL-235B-A22B-Instruct alibaba · MoE、アクティブ 22 B |
1420 | 235.7 B | 144 GB | 87 |
| MiMo-V2-Flash (Non-Thinking) xiaomi · MoE、アクティブ 16.5 B |
1411 | 309.8 B | 189 GB | 26 |
人気の小型モデル
Arenaでまだ投票のない公式の小型モデルを、Hugging Faceのダウンロード数順に並べています(人気であって、品質ではありません)。
| モデル | 月間ダウンロード数 | サイズ | 4ビットのファイル | トークン/秒 |
|---|---|---|---|---|
| Qwen3-0.6B Qwen |
28.2M | 0.8 B | 1.7 GB | 724 |
| Qwen3-4B Qwen |
11.6M | 4 B | 3.6 GB | 508 |
| Qwen3-14B Qwen |
9.0M | 14.8 B | 10 GB | 266 |
| Qwen3-8B Qwen |
8.6M | 8.2 B | 6.2 GB | 377 |
| Qwen3.5-4B Qwen |
7.8M | 4.7 B | 4.0 GB | 546 |
| Qwen3.5-9B Qwen |
7.3M | 9.7 B | 7.1 GB | 379 |
4ビット(Q4_K_M)、8Kコンテキストでの推定値で、44件の実際の llama.cpp テストで補正しています(典型的な誤差は約±10%)。1秒あたりのトークン数:約10が読む速さの目安です。
質問
H200で使える最高の無料AIモデルは?
Gemma 4 31B(Arenaスコア1443)は、4ビットで141 GBのビデオメモリに完全に収まる、最も投票を集めたオープンモデルで、毎秒約150トークンで出力します。
H200ではどれくらいの大きさのモデルが動きますか?
4ビット、8Kコンテキストで、GPUに完全に載せた場合、密モデルで約218 Bパラメータです。Mixture of Experts モデルはもっと大きくでき、システムRAMが64 GBあれば、遅くなりますがさらに大きなモデルも動きます。
H200はローカルLLMに向いていますか?
メモリは141 GB、帯域は4800 GB/s。メモリで入るモデルが決まり、帯域で書く速さが決まります。24 GB以上あれば27~32 Bのモデルが動き、家庭用として品質面で最適なサイズです。
似たカード
- Mac M4 Max 128 GB 128 GB · 546 GB/s
- NVIDIA DGX Spark 128 GB 128 GB · 273 GB/s
- Ryzen AI Max+ 395 128 GB 128 GB · 256 GB/s
- RTX PRO 6000 Blackwell 96 GB · 1792 GB/s
- H100 SXM 80 GB · 3350 GB/s
- A100 80 GB 80 GB · 2039 GB/s
このページを共有:XLinkedInRedditWhatsApp
数字の誤りやリンク切れを見つけましたか?間違いを報告