Free Arenaで投票

GPU › NVIDIA

RTX 5090向けの最高の無料AIモデル

RTX 5090:ビデオメモリ32 GB、1792 GB/s。このカードで動く無料モデルを、Arenaの投票順に、期待できる速度とともに紹介します。

環境をシミュレーション · Amazonで価格を確認 ↗ · すべてのGPUを比較

収まる中で投票された最高のモデルGemma 4 31BArena 1443 · 約62トークン/秒
最大の密モデル約48 B4ビット、8Kコンテキスト、GPUに完全に載せた場合
メモリ32 GB帯域 1792 GB/s

GPUに完全に収まる、投票のあるモデル

モデルArenaスコアサイズ4ビットのファイルトークン/秒
Gemma 4 31B
google
144331.3 B20 GB62
Qwen3.8-27B
alibaba
144027.8 B18 GB74
Gemma 4 26B A4B
google · MoE、アクティブ 4 B
143425.8 B17 GB203
Qwen3.5-27B
alibaba
140927.8 B18 GB74

システムRAM 64 GBの助けで動く、より大きなモデル

モデルの一部がシステムメモリに置かれます。ビデオメモリよりもずっと遅くなります。

モデルArenaスコアサイズ4ビットのファイルトークン/秒
Qwen3.5-122B-A10B
alibaba · MoE、アクティブ 10 B
1417125.1 B77 GB20
GLM-4.6V
zai · MoE、アクティブ 14.3 B
1376107.7 B66 GB15
GLM-4.5V
zai · MoE、アクティブ 14.3 B
1333107.7 B66 GB15

人気の小型モデル

Arenaでまだ投票のない公式の小型モデルを、Hugging Faceのダウンロード数順に並べています(人気であって、品質ではありません)。

モデル月間ダウンロード数サイズ4ビットのファイルトークン/秒
Qwen3-0.6B
Qwen
28.2M0.8 B1.7 GB495
Qwen3-4B
Qwen
11.6M4 B3.6 GB278
Qwen3-14B
Qwen
9.0M14.8 B10 GB119
Qwen3-8B
Qwen
8.6M8.2 B6.2 GB185
Qwen3.5-4B
Qwen
7.8M4.7 B4.0 GB310
Qwen3.5-9B
Qwen
7.3M9.7 B7.1 GB185

4ビット(Q4_K_M)、8Kコンテキストでの推定値で、44件の実際の llama.cpp テストで補正しています(典型的な誤差は約±10%)。1秒あたりのトークン数:約10が読む速さの目安です。FreeLLMArena は Amazon アソシエイトとして適格販売により収入を得ています。リンクがランキングに影響することはありません。

質問

RTX 5090で使える最高の無料AIモデルは?

Gemma 4 31B(Arenaスコア1443)は、4ビットで32 GBのビデオメモリに完全に収まる、最も投票を集めたオープンモデルで、毎秒約62トークンで出力します。

RTX 5090ではどれくらいの大きさのモデルが動きますか?

4ビット、8Kコンテキストで、GPUに完全に載せた場合、密モデルで約48 Bパラメータです。Mixture of Experts モデルはもっと大きくでき、システムRAMが64 GBあれば、遅くなりますがさらに大きなモデルも動きます。

RTX 5090はローカルLLMに向いていますか?

メモリは32 GB、帯域は1792 GB/s。メモリで入るモデルが決まり、帯域で書く速さが決まります。24 GB以上あれば27~32 Bのモデルが動き、家庭用として品質面で最適なサイズです。

似たカード

このページを共有:XLinkedInRedditWhatsApp

どのページでも / または Ctrl+K で検索できます。