What is the best free AI model for the Ryzen AI Max+ 395 128 GB?

Gemma 4 31B (Arena score 1443) is the highest-voted open model that fits entirely in the ~96 GB of shared memory the GPU can use at 4-bit, writing about 9.4 tokens per second.

How big a model can the Ryzen AI Max+ 395 128 GB run?

About 148 billion parameters for a dense model at 4-bit with an 8K context, fully on the GPU. Mixture-of-experts models can be bigger, and with 64 GB of system RAM larger models still run, more slowly.

Is the Ryzen AI Max+ 395 128 GB good for local LLMs?

It has 128 GB of memory and 256 GB/s of bandwidth. Memory decides which models fit; bandwidth decides how fast they write. With 24 GB or more it runs 27–32 B models, the sweet spot of quality for home use.

Grafikkarten › Mini-PC

Beste kostenlose KI-Modelle für die Ryzen AI Max+ 395 128 GB

Ryzen AI Max+ 395 128 GB: 128 GB geteilter Speicher (etwa 96 GB davon für die GPU nutzbar), 256 GB/s. Das sind die kostenlosen Modelle, die darauf laufen, gerankt nach Arena-Stimmen, mit der Geschwindigkeit, die du erwarten kannst.

Simuliere dein Setup · Preis bei Amazon prüfen ↗ · Alle Grafikkarten vergleichen

Bestbewertetes Modell, das passtGemma 4 31BArena 1443 · ~9.4 Tokens/s

Größtes dichtes Modell~148 Bbei 4-Bit, 8K Kontext, komplett auf der GPU

Speicher128 GB256 GB/s Bandbreite

Bewertete Modelle, die komplett in die GPU passen

Modell	Arena-Wertung	Größe	4-Bit-Datei	Tokens/s
Gemma 4 31B google	1443	31.3 B	20 GB	9.4
Qwen3.8-27B alibaba	1441	27.8 B	18 GB	11
Gemma 4 26B A4B google · MoE, 4 B aktiv	1434	25.8 B	17 GB	57
Qwen3.5-122B-A10B alibaba · MoE, 10 B aktiv	1417	125.1 B	77 GB	29
Qwen3.5-27B alibaba	1409	27.8 B	18 GB	11
GLM-4.6V zai · MoE, 14.3 B aktiv	1376	107.7 B	66 GB	19
gemma-3-27b-it google	1358	27.4 B	18 GB	11
GLM-4.5V zai · MoE, 14.3 B aktiv	1333	107.7 B	66 GB	19

Beliebte kleine Modelle

Offizielle kleine Modelle ohne Arena-Stimmen, sortiert nach Downloads auf Hugging Face (Beliebtheit, nicht Qualität).

Modell	Downloads/Monat	Größe	4-Bit-Datei	Tokens/s
Qwen3-0.6B Qwen	28.6M	0.8 B	1.7 GB	123
Qwen3-4B Qwen	11.7M	4 B	3.6 GB	52
Qwen3-8B Qwen	8.8M	8.2 B	6.2 GB	31
Qwen3-14B Qwen	8.7M	14.8 B	10 GB	19
Qwen3.5-4B Qwen	7.8M	4.7 B	4.0 GB	60
Qwen3.5-9B Qwen	7.3M	9.7 B	7.1 GB	31

Schätzungen bei 4-Bit (Q4_K_M) mit 8K Kontext, kalibriert an 44 echten llama.cpp-Tests (typische Abweichung etwa ±10 %). Tokens pro Sekunde: etwa 10 entspricht der Lesegeschwindigkeit. Als Amazon-Partner verdient FreeLLMArena an qualifizierten Käufen; die Links ändern die Ranglisten nicht.

Fragen

Welches ist das beste kostenlose KI-Modell für die Ryzen AI Max+ 395 128 GB?

Gemma 4 31B (Arena-Wertung 1443) ist das am besten bewertete offene Modell, das bei 4-Bit komplett in die ~96 GB geteilten Speichers passt, die die GPU nutzen kann, und schreibt etwa 9.4 Tokens pro Sekunde.

Wie groß darf ein Modell sein, das die Ryzen AI Max+ 395 128 GB ausführt?

Etwa 148 Milliarden Parameter bei einem dichten Modell mit 4-Bit und 8K Kontext, komplett auf der GPU. Mixture-of-Experts-Modelle können größer sein, und mit 64 GB System-RAM laufen noch größere Modelle, nur langsamer.

Ist die Ryzen AI Max+ 395 128 GB gut für lokale LLMs?

Sie hat 128 GB Speicher und 256 GB/s Bandbreite. Der Speicher entscheidet, welche Modelle passen; die Bandbreite, wie schnell sie schreiben. Mit 24 GB oder mehr läuft sie mit 27–32-B-Modellen, dem Sweet Spot an Qualität für den Heimgebrauch.

Beste kostenlose KI-Modelle für die Ryzen AI Max+ 395 128 GB

Bewertete Modelle, die komplett in die GPU passen

Beliebte kleine Modelle

Fragen

Ähnliche Karten