FreeLLMGPU › NVIDIA
RTX 5060 Ti 16 GB向けの最高の無料AIモデル
RTX 5060 Ti 16 GB：ビデオメモリ16 GB、448 GB/s。このカードで動く無料モデルを、Arenaの投票順に、期待できる速度とともに紹介します。
投票された最高のモデル（RAM併用）Gemma 4 31BArena 1443 · システムRAM 64 GBで約8.3トークン/秒
最大の密モデル約23 B4ビット、8Kコンテキスト、GPUに完全に載せた場合
メモリ16 GB帯域 448 GB/s
2枚構成の場合Gemma 4 31B32 GB · 約16トークン/秒
システムRAM 64 GBの助けで動く、より大きなモデル
モデルの一部がシステムメモリに置かれます。ビデオメモリよりもずっと遅くなります。
| モデル | Arenaスコア | サイズ | 4ビットのファイル | トークン/秒 |
|---|---|---|---|---|
| Gemma 4 31B |
1443 | 31.3 B | 20 GB | 8.3 |
| Qwen3.8-27B alibaba |
1440 | 27.8 B | 18 GB | 14 |
| Gemma 4 26B A4B google · MoE、アクティブ 4 B |
1434 | 25.8 B | 17 GB | 80 |
| Qwen3.5-27B alibaba |
1409 | 27.8 B | 18 GB | 14 |
人気の小型モデル
Arenaでまだ投票のない公式の小型モデルを、Hugging Faceのダウンロード数順に並べています（人気であって、品質ではありません）。
| モデル | 月間ダウンロード数 | サイズ | 4ビットのファイル | トークン/秒 |
|---|---|---|---|---|
| Qwen3-0.6B Qwen |
28.2M | 0.8 B | 1.7 GB | 197 |
| Qwen3-4B Qwen |
11.6M | 4 B | 3.6 GB | 88 |
| Qwen3-14B Qwen |
9.0M | 14.8 B | 10 GB | 33 |
| Qwen3-8B Qwen |
8.6M | 8.2 B | 6.2 GB | 54 |
| Qwen3.5-4B Qwen |
7.8M | 4.7 B | 4.0 GB | 101 |
| Qwen3.5-9B Qwen |
7.3M | 9.7 B | 7.1 GB | 54 |
4ビット（Q4_K_M）、8Kコンテキストでの推定値で、44件の実際の llama.cpp テストで補正しています（典型的な誤差は約±10%）。1秒あたりのトークン数：約10が読む速さの目安です。FreeLLMArena は Amazon アソシエイトとして適格販売により収入を得ています。リンクがランキングに影響することはありません。
質問
RTX 5060 Ti 16 GBで使える最高の無料AIモデルは？
4ビットでは、投票のあるモデルは16 GBに完全には収まりません。Arenaの投票がない小型モデルは収まり、大型モデルはシステムRAMの助けを借りて、遅くなりますが動きます。
RTX 5060 Ti 16 GBではどれくらいの大きさのモデルが動きますか？
4ビット、8Kコンテキストで、GPUに完全に載せた場合、密モデルで約23 Bパラメータです。Mixture of Experts モデルはもっと大きくでき、システムRAMが64 GBあれば、遅くなりますがさらに大きなモデルも動きます。
RTX 5060 Ti 16 GBはローカルLLMに向いていますか？
メモリは16 GB、帯域は448 GB/s。メモリで入るモデルが決まり、帯域で書く速さが決まります。16 GBあれば最大約20 BのモデルをGPUだけで動かせます。27～32 BのモデルにはシステムRAMの助けが必要です。
似たカード
- RTX 5080 16 GB · 960 GB/s
- RTX 5070 Ti 16 GB · 896 GB/s
- RTX 4080 Super 16 GB · 736 GB/s
- RTX 4070 Ti Super 16 GB · 672 GB/s
- RX 9070 / 9070 XT 16 GB · 640 GB/s
- RX 7800 XT 16 GB · 624 GB/s
このページを共有：XLinkedInRedditWhatsApp
数字の誤りやリンク切れを見つけましたか？間違いを報告