FreeLLMGPU › NVIDIA
RTX 3090 Ti向けの最高の無料AIモデル
RTX 3090 Ti：ビデオメモリ24 GB、1008 GB/s。このカードで動く無料モデルを、Arenaの投票順に、期待できる速度とともに紹介します。
収まる中で投票された最高のモデルGemma 4 31BArena 1443 · 約36トークン/秒
最大の密モデル約35 B4ビット、8Kコンテキスト、GPUに完全に載せた場合
メモリ24 GB帯域 1008 GB/s
GPUに完全に収まる、投票のあるモデル
| モデル | Arenaスコア | サイズ | 4ビットのファイル | トークン/秒 |
|---|---|---|---|---|
| Gemma 4 31B |
1443 | 31.3 B | 20 GB | 36 |
| Qwen3.8-27B alibaba |
1440 | 27.8 B | 18 GB | 43 |
| Gemma 4 26B A4B google · MoE、アクティブ 4 B |
1434 | 25.8 B | 17 GB | 152 |
| Qwen3.5-27B alibaba |
1409 | 27.8 B | 18 GB | 43 |
| Qwen3.5-35B-A3B alibaba · MoE、アクティブ 3 B |
1395 | 36 B | 23 GB | 188 |
| Granite 4.2 30B ibm |
1361 | 29.3 B | 19 GB | 38 |
| GLM-4.7-Flash zai · MoE、アクティブ 5.2 B |
1351 | 31.2 B | 20 GB | 136 |
| NVIDIA-Nemotron-3-Nano-30B-A3B (BF16) nvidia · MoE、アクティブ 3 B |
1348 | 31.6 B | 20 GB | 176 |
| Qwen3-32B alibaba |
1340 | 32.8 B | 21 GB | 34 |
| NVIDIA-Nemotron-3.5-Lightning-30B-A3B (NVFP4) nvidia · MoE、アクティブ 3 B |
1331 | 31.6 B | 20 GB | 193 |
| QwQ-32B alibaba |
1329 | 32.8 B | 21 GB | 34 |
| Granite 4.2 8B ibm |
1319 | 8.8 B | 6.5 GB | 105 |
| Qwen3-30B-A3B alibaba · MoE、アクティブ 3 B |
1317 | 30.5 B | 20 GB | 163 |
| Granite 4.2 3B ibm |
1294 | 3.7 B | 3.4 GB | 213 |
| Granite 4.1 8B ibm |
1290 | 8.8 B | 6.5 GB | 105 |
システムRAM 64 GBの助けで動く、より大きなモデル
モデルの一部がシステムメモリに置かれます。ビデオメモリよりもずっと遅くなります。
| モデル | Arenaスコア | サイズ | 4ビットのファイル | トークン/秒 |
|---|---|---|---|---|
| Qwen3-Next-80B-A3B-Instruct alibaba · MoE、アクティブ 3 B |
1417 | 81.3 B | 50 GB | 60 |
| GLM-4.5-Air zai · MoE、アクティブ 17 B |
1384 | 110.5 B | 68 GB | 10 |
| GLM-4.6V zai · MoE、アクティブ 14.3 B |
1376 | 107.7 B | 66 GB | 12 |
| Qwen3-Next-80B-A3B-Thinking alibaba · MoE、アクティブ 3 B |
1368 | 81.3 B | 50 GB | 60 |
| gpt-oss-120b openai · MoE、アクティブ 5.8 B |
1366 | 116.8 B | 72 GB | 28 |
| GLM-4.5V zai · MoE、アクティブ 14.3 B |
1333 | 107.7 B | 66 GB | 12 |
人気の小型モデル
Arenaでまだ投票のない公式の小型モデルを、Hugging Faceのダウンロード数順に並べています（人気であって、品質ではありません）。
| モデル | 月間ダウンロード数 | サイズ | 4ビットのファイル | トークン/秒 |
|---|---|---|---|---|
| Qwen3-0.6B Qwen |
28.2M | 0.8 B | 1.7 GB | 356 |
| Qwen3-4B Qwen |
11.6M | 4 B | 3.6 GB | 178 |
| Qwen3-14B Qwen |
9.0M | 14.8 B | 10 GB | 71 |
| Qwen3-8B Qwen |
8.6M | 8.2 B | 6.2 GB | 113 |
| Qwen3.5-4B Qwen |
7.8M | 4.7 B | 4.0 GB | 201 |
| Qwen3.5-9B Qwen |
7.0M | 9.7 B | 7.1 GB | 113 |
4ビット（Q4_K_M）、8Kコンテキストでの推定値で、44件の実際の llama.cpp テストで補正しています（典型的な誤差は約±10%）。1秒あたりのトークン数：約10が読む速さの目安です。FreeLLMArena は Amazon アソシエイトとして適格販売により収入を得ています。リンクがランキングに影響することはありません。
質問
RTX 3090 Tiで使える最高の無料AIモデルは？
Gemma 4 31B（Arenaスコア1443）は、4ビットで24 GBのビデオメモリに完全に収まる、最も投票を集めたオープンモデルで、毎秒約36トークンで出力します。
RTX 3090 Tiではどれくらいの大きさのモデルが動きますか？
4ビット、8Kコンテキストで、GPUに完全に載せた場合、密モデルで約35 Bパラメータです。Mixture of Experts モデルはもっと大きくでき、システムRAMが64 GBあれば、遅くなりますがさらに大きなモデルも動きます。
RTX 3090 TiはローカルLLMに向いていますか？
メモリは24 GB、帯域は1008 GB/s。メモリで入るモデルが決まり、帯域で書く速さが決まります。24 GB以上あれば27～32 Bのモデルが動き、家庭用として品質面で最適なサイズです。
似たカード
- RTX 4090 24 GB · 1008 GB/s
- RX 7900 XTX 24 GB · 960 GB/s
- RTX 3090 24 GB · 936 GB/s
- RX 7900 XT 20 GB · 800 GB/s
- RTX 5090 32 GB · 1792 GB/s
- RTX 5080 16 GB · 960 GB/s
このページを共有：XLinkedInRedditWhatsApp
数字の誤りやリンク切れを見つけましたか？間違いを報告