Free Arenaで投票

GPU › Apple

Mac M4 Max 128 GB向けの最高の無料AIモデル

Mac M4 Max 128 GB:共有メモリ128 GB(GPUが使えるのは約96 GB)、546 GB/s。このカードで動く無料モデルを、Arenaの投票順に、期待できる速度とともに紹介します。

環境をシミュレーション · Amazonで価格を確認 ↗ · すべてのGPUを比較

収まる中で投票された最高のモデルGemma 4 31BArena 1443 · 約19トークン/秒
最大の密モデル約148 B4ビット、8Kコンテキスト、GPUに完全に載せた場合
メモリ128 GB帯域 546 GB/s

GPUに完全に収まる、投票のあるモデル

モデルArenaスコアサイズ4ビットのファイルトークン/秒
Gemma 4 31B
google
144331.3 B20 GB19
Qwen3.8-27B
alibaba
144027.8 B18 GB23
Gemma 4 26B A4B
google · MoE、アクティブ 4 B
143425.8 B17 GB74
Qwen3.5-122B-A10B
alibaba · MoE、アクティブ 10 B
1417125.1 B77 GB47
Qwen3.5-27B
alibaba
140927.8 B18 GB23
GLM-4.6V
zai · MoE、アクティブ 14.3 B
1376107.7 B66 GB33
GLM-4.5V
zai · MoE、アクティブ 14.3 B
1333107.7 B66 GB33

人気の小型モデル

Arenaでまだ投票のない公式の小型モデルを、Hugging Faceのダウンロード数順に並べています(人気であって、品質ではありません)。

モデル月間ダウンロード数サイズ4ビットのファイルトークン/秒
Qwen3-0.6B
Qwen
28.2M0.8 B1.7 GB146
Qwen3-4B
Qwen
11.6M4 B3.6 GB83
Qwen3-14B
Qwen
9.0M14.8 B10 GB36
Qwen3-8B
Qwen
8.6M8.2 B6.2 GB56
Qwen3.5-4B
Qwen
7.8M4.7 B4.0 GB92
Qwen3.5-9B
Qwen
7.3M9.7 B7.1 GB56

4ビット(Q4_K_M)、8Kコンテキストでの推定値で、44件の実際の llama.cpp テストで補正しています(典型的な誤差は約±10%)。1秒あたりのトークン数:約10が読む速さの目安です。FreeLLMArena は Amazon アソシエイトとして適格販売により収入を得ています。リンクがランキングに影響することはありません。

質問

Mac M4 Max 128 GBで使える最高の無料AIモデルは?

Gemma 4 31B(Arenaスコア1443)は、4ビットでGPUが使える共有メモリ約96 GBに完全に収まる、最も投票を集めたオープンモデルで、毎秒約19トークンで出力します。

Mac M4 Max 128 GBではどれくらいの大きさのモデルが動きますか?

4ビット、8Kコンテキストで、GPUに完全に載せた場合、密モデルで約148 Bパラメータです。Mixture of Experts モデルはもっと大きくでき、システムRAMが64 GBあれば、遅くなりますがさらに大きなモデルも動きます。

Mac M4 Max 128 GBはローカルLLMに向いていますか?

メモリは128 GB、帯域は546 GB/s。メモリで入るモデルが決まり、帯域で書く速さが決まります。24 GB以上あれば27~32 Bのモデルが動き、家庭用として品質面で最適なサイズです。

似たカード

このページを共有:XLinkedInRedditWhatsApp

どのページでも / または Ctrl+K で検索できます。