FreeLLMRAM für lokale KI Neu
Wenn ein Modell nicht in deine Grafikkarte passt, landet der Rest im System-RAM. Mit 32 GB führt sogar eine Karte mit 12 GB eines der besten kostenlosen Chat-Modelle in guter Geschwindigkeit aus. Ab 64 GB wird der Chat nur mit Riesenmodellen besser, die langsam schreiben. Schätzungen aus unserem Simulator.
RAM-Geschwindigkeit zählt: eine Karte mit 12 GB plus RAM
Geschätzte Tokens pro Sekunde. Blau: DDR5. Orange: DDR4. Die Notiz an jedem Balken nennt das Modell.
Was das zeigt · So liest du es
Was das zeigt. Geschätzte Geschwindigkeit des besten kostenlosen Chat-Modells, das in Lesegeschwindigkeit schreibt, auf einer RTX 3060 12 GB plus jedem Desktop-RAM-Kit (Gemma 4 26B A4B, ein Mixture-of-Experts-Modell, das allein nicht in 12 GB passt).
So liest du es. Längerer Balken, schneller. DDR5-Balken sind länger als DDR4-Balken, weil der Teil des Modells im RAM schneller gelesen wird. Kits mit vier Modulen laufen mit weniger MT/s, sind also etwas langsamer als Kits mit zwei Modulen.
Jedes Kit: was es dich ausführen lässt
| RAM-Kit | Typ | Geschwindigkeit | Bandbreite | Bestes kostenloses Modell in Lesegeschwindigkeit, mit RTX 3060 12 GB | Bestes kostenloses Modell in Lesegeschwindigkeit, mit RTX 4090 | Kaufen |
|---|---|---|---|---|---|---|
| Kein zusätzlicher RAM die Karte allein | — | — | — | Nichts im Ranking passt | Gemma 4 31B 1443 Arena · 36 tok/s · komplett auf der GPU | |
| 32 GB 2 × 16 GB · Desktop |
DDR4 | 3200 MT/s | 51 GB/s | Gemma 4 26B A4B 1434 Arena · 35 tok/s · GPU + RAM Größer, aber langsam: Gemma 4 31B, 1443 Arena, 3.6 tok/s | Gemma 4 31B 1443 Arena · 36 tok/s · komplett auf der GPU |
Amazon ↗ |
| 64 GB 2 × 32 GB · Desktop |
DDR4 | 3200 MT/s | 51 GB/s | Gemma 4 26B A4B 1434 Arena · 35 tok/s · GPU + RAM Größer, aber langsam: Gemma 4 31B, 1443 Arena, 3.6 tok/s | Gemma 4 31B 1443 Arena · 36 tok/s · komplett auf der GPU |
Amazon ↗ |
| 128 GB 4 × 32 GB · Desktop 4 Module: prüfe, ob dein Mainboard 128 GB unterstützt |
DDR4 | 3200 MT/s | 51 GB/s | Gemma 4 26B A4B 1434 Arena · 35 tok/s · GPU + RAM Größer, aber langsam: Gemma 4 31B, 1443 Arena, 3.6 tok/s | Gemma 4 31B 1443 Arena · 36 tok/s · komplett auf der GPU |
Amazon ↗ |
| 32 GB 2 × 16 GB · Desktop |
DDR5 | 6000 MT/s | 96 GB/s | Gemma 4 26B A4B 1434 Arena · 49 tok/s · GPU + RAM Größer, aber langsam: Gemma 4 31B, 1443 Arena, 5.9 tok/s | Gemma 4 31B 1443 Arena · 36 tok/s · komplett auf der GPU |
Amazon ↗ |
| 64 GB 2 × 32 GB · Desktop |
DDR5 | 6000 MT/s | 96 GB/s | Gemma 4 26B A4B 1434 Arena · 49 tok/s · GPU + RAM Größer, aber langsam: Gemma 4 31B, 1443 Arena, 5.9 tok/s | Gemma 4 31B 1443 Arena · 36 tok/s · komplett auf der GPU |
Amazon ↗ |
| 96 GB 2 × 48 GB · Desktop |
DDR5 | 6000 MT/s | 96 GB/s | Gemma 4 26B A4B 1434 Arena · 49 tok/s · GPU + RAM Größer, aber langsam: Gemma 4 31B, 1443 Arena, 5.9 tok/s | Gemma 4 31B 1443 Arena · 36 tok/s · komplett auf der GPU |
Amazon ↗ |
| 128 GB 2 × 64 GB · Desktop |
DDR5 | 5600 MT/s | 90 GB/s | Gemma 4 26B A4B 1434 Arena · 48 tok/s · GPU + RAM Größer, aber langsam: Gemma 4 31B, 1443 Arena, 5.6 tok/s | Gemma 4 31B 1443 Arena · 36 tok/s · komplett auf der GPU |
Amazon ↗ |
| 192 GB 4 × 48 GB · Desktop 4 Module: die meisten Heim-Mainboards betreiben sie mit 5200 oder weniger |
DDR5 | 5200 MT/s | 83 GB/s | Gemma 4 26B A4B 1434 Arena · 46 tok/s · GPU + RAM Größer, aber langsam: Gemma 4 31B, 1443 Arena, 5.3 tok/s | Gemma 4 31B 1443 Arena · 36 tok/s · komplett auf der GPU |
Amazon ↗ |
| 256 GB 4 × 64 GB · Desktop 4 Module: braucht ein aktuelles Mainboard, das 256 GB unterstützt |
DDR5 | 4800 MT/s | 77 GB/s | Gemma 4 26B A4B 1434 Arena · 44 tok/s · GPU + RAM Größer, aber langsam: GLM-5.3-Flash, 1471 Arena, 4.1 tok/s | Gemma 4 31B 1443 Arena · 36 tok/s · komplett auf der GPU Größer, aber langsam: GLM-5.3-Flash, 1471 Arena, 4.4 tok/s |
Amazon ↗ |
| 32 GB 2 × 16 GB SO-DIMM · Laptop / Mini-PC |
DDR5 | 5600 MT/s | 90 GB/s | Gemma 4 26B A4B 1434 Arena · 48 tok/s · GPU + RAM Größer, aber langsam: Gemma 4 31B, 1443 Arena, 5.6 tok/s | Gemma 4 31B 1443 Arena · 36 tok/s · komplett auf der GPU |
Amazon ↗ |
| 64 GB 2 × 32 GB SO-DIMM · Laptop / Mini-PC |
DDR5 | 5600 MT/s | 90 GB/s | Gemma 4 26B A4B 1434 Arena · 48 tok/s · GPU + RAM Größer, aber langsam: Gemma 4 31B, 1443 Arena, 5.6 tok/s | Gemma 4 31B 1443 Arena · 36 tok/s · komplett auf der GPU |
Amazon ↗ |
| 96 GB 2 × 48 GB SO-DIMM · Laptop / Mini-PC |
DDR5 | 5600 MT/s | 90 GB/s | Gemma 4 26B A4B 1434 Arena · 48 tok/s · GPU + RAM Größer, aber langsam: Gemma 4 31B, 1443 Arena, 5.6 tok/s | Gemma 4 31B 1443 Arena · 36 tok/s · komplett auf der GPU |
Amazon ↗ |
Bestes kostenloses Modell in Lesegeschwindigkeit: das bestbewertete kostenlose Chat-Modell der Arena, das in die Karte plus 80 % des RAM passt, bei 4-Bit mit 8K Kontext, und mindestens 10 Tokens pro Sekunde schreibt. „Größer, aber langsam“: ein besser bewertetes Modell, das ebenfalls passt, aber langsamer schreibt. Geschwindigkeit: geschätzte Tokens pro Sekunde aus unserem Simulator, kalibriert an 44 echten llama.cpp-Läufen. Bandbreite: MT/s × 8 Bytes × 2 Kanäle.
Affiliate-Links: Als Amazon-Partner verdient FreeLLMArena an qualifizierten Käufen über die „Amazon ↗“-Links. Die Links ändern weder die Reihenfolge noch die Zahlen oder Schätzungen auf dieser Seite, und der Preis ist für dich derselbe.
Wie System-RAM hilft
Die Größe entscheidet, was passt
Ein Modell mit 4-Bit braucht etwa 0.6 GB pro Milliarde Parameter, plus Kontext. Hat deine Karte 24 GB und braucht das Modell 60 GB, müssen die übrigen 36 GB in den RAM passen. Wir zählen nur 80 % des RAM als nutzbar, weil das System und deine Apps den Rest brauchen.
Die Geschwindigkeit entscheidet, ob es brauchbar ist
Jedes Wort, das das Modell schreibt, liest alle seine aktiven Gewichte. Der Teil im RAM wird mit RAM-Geschwindigkeit gelesen: Dual-Channel-DDR5-6000 liefert etwa 96 GB/s, gegenüber etwa 1,000 GB/s bei einer RTX 4090. Je mehr vom Modell im RAM liegt, desto langsamer schreibt es also.
Mixture-of-Experts-Modelle lieben RAM
MoE-Modelle (zum Beispiel Qwen3-30B-A3B) nutzen pro Wort nur ein paar Milliarden Parameter. Sie können großteils im RAM liegen und trotzdem schnell schreiben, weshalb ein großes RAM-Kit plus eine Mittelklasse-Karte überraschend große Modelle ausführen kann.
Zwei Module, nicht vier
Heim-PCs haben zwei Speicherkanäle. Zwei große Module laufen meist mit voller Geschwindigkeit; vier Module laufen oft langsamer, und manche Mainboards begrenzen die Gesamtmenge. Prüfe vor dem Kauf die Liste der unterstützten Speicher deines Mainboards.
Du willst dein genaues Setup? Nutze den Simulator „Zu Hause ausführen“: Wähle deine Karte, deinen RAM und ein Modell. Suchst du erst eine Karte? Sieh dir Grafikkarten für lokale KI an.
Diese Seite teilen:XLinkedInRedditWhatsApp
Falsche Zahl oder kaputten Link entdeckt? Fehler melden