Free Arenaで投票

GPU › ミニPC

NVIDIA DGX Spark 128 GB向けの最高の無料AIモデル

NVIDIA DGX Spark 128 GB:共有メモリ128 GB(GPUが使えるのは約96 GB)、273 GB/s。このカードで動く無料モデルを、Arenaの投票順に、期待できる速度とともに紹介します。

環境をシミュレーション · Amazonで価格を確認 ↗ · すべてのGPUを比較

収まる中で投票された最高のモデルGemma 4 31BArena 1443 · 約10.0トークン/秒
最大の密モデル約148 B4ビット、8Kコンテキスト、GPUに完全に載せた場合
メモリ128 GB帯域 273 GB/s

GPUに完全に収まる、投票のあるモデル

モデルArenaスコアサイズ4ビットのファイルトークン/秒
Gemma 4 31B
google
144331.3 B20 GB10.0
Qwen3.8-27B
alibaba
144027.8 B18 GB12
Gemma 4 26B A4B
google · MoE、アクティブ 4 B
143425.8 B17 GB60
Qwen3.5-122B-A10B
alibaba · MoE、アクティブ 10 B
1417125.1 B77 GB31
Qwen3.5-27B
alibaba
140927.8 B18 GB12
GLM-4.6V
zai · MoE、アクティブ 14.3 B
1376107.7 B66 GB20
GLM-4.5V
zai · MoE、アクティブ 14.3 B
1333107.7 B66 GB20

人気の小型モデル

Arenaでまだ投票のない公式の小型モデルを、Hugging Faceのダウンロード数順に並べています(人気であって、品質ではありません)。

モデル月間ダウンロード数サイズ4ビットのファイルトークン/秒
Qwen3-0.6B
Qwen
28.2M0.8 B1.7 GB130
Qwen3-4B
Qwen
11.6M4 B3.6 GB55
Qwen3-14B
Qwen
9.0M14.8 B10 GB20
Qwen3-8B
Qwen
8.6M8.2 B6.2 GB33
Qwen3.5-4B
Qwen
7.8M4.7 B4.0 GB64
Qwen3.5-9B
Qwen
7.3M9.7 B7.1 GB33

4ビット(Q4_K_M)、8Kコンテキストでの推定値で、44件の実際の llama.cpp テストで補正しています(典型的な誤差は約±10%)。1秒あたりのトークン数:約10が読む速さの目安です。FreeLLMArena は Amazon アソシエイトとして適格販売により収入を得ています。リンクがランキングに影響することはありません。

質問

NVIDIA DGX Spark 128 GBで使える最高の無料AIモデルは?

Gemma 4 31B(Arenaスコア1443)は、4ビットでGPUが使える共有メモリ約96 GBに完全に収まる、最も投票を集めたオープンモデルで、毎秒約10.0トークンで出力します。

NVIDIA DGX Spark 128 GBではどれくらいの大きさのモデルが動きますか?

4ビット、8Kコンテキストで、GPUに完全に載せた場合、密モデルで約148 Bパラメータです。Mixture of Experts モデルはもっと大きくでき、システムRAMが64 GBあれば、遅くなりますがさらに大きなモデルも動きます。

NVIDIA DGX Spark 128 GBはローカルLLMに向いていますか?

メモリは128 GB、帯域は273 GB/s。メモリで入るモデルが決まり、帯域で書く速さが決まります。24 GB以上あれば27~32 Bのモデルが動き、家庭用として品質面で最適なサイズです。

似たカード

このページを共有:XLinkedInRedditWhatsApp

どのページでも / または Ctrl+K で検索できます。