Alle Modelle › zai

GLM-4.6V

Name: GLM-4.6V
Author: zai

zai · MIT-Lizenz · in der Arena seit 27. Jan. 2026

Chat des Labors Download

Arena-Wertung1376Platz 178 von 416 im Chat, kostenpflichtige Modelle eingeschlossen

Größe107.7 B14.3 B aktiv pro Token (Mixture of Experts)

4-Bit-Download65 GBnur Gewichte, Q4_K_M

Max. Kontext128KTokens, laut Modellkonfiguration

Wo du es kostenlos nutzen kannst

Der eigene Chat des Labors: chat.z.ai (kostenlos mit Tageslimits)
Lade es herunter und führe es zu Hause aus: offizielle Gewichte · GGUF-Dateien für Ollama und LM Studio

Arena-Wertungen

Arena	Wertung	Rang	Stimmen
Chat	1376	Platz 178 von 416	3K
Vision	1164	Platz 113 von 167	2K

Rang unter allen Modellen, auch den kostenpflichtigen. Quelle: Arena-Leaderboard-Datensatz.

Geschwindigkeit auf gängiger Hardware

Hardware	GPU-Speicher	Passt es?	Geschwindigkeit
RTX 3060 12 GB	12 GB	Passt nicht	—
RTX 4060 Ti 16 GB	16 GB	Passt nicht	—
RTX 3090	24 GB	GPU + 64 GB RAM	10 tok/s
RTX 4090	24 GB	GPU + 64 GB RAM	10 tok/s
RTX 5090	32 GB	GPU + 64 GB RAM	13 tok/s
RX 7900 XTX	24 GB	GPU + 64 GB RAM	10 tok/s
2 × RTX 3090	48 GB	GPU + 64 GB RAM	16 tok/s
4 × RTX 3090	96 GB	Passt in die GPU	40 tok/s
Mac M4 Max 128 GB	96 GB	Passt in die GPU	24 tok/s
Ryzen AI Max+ 395 128 GB	96 GB	Passt in die GPU	13 tok/s
8 × H100 SXM	640 GB	Passt in die GPU	97 tok/s

Schätzung bei 4-Bit mit 32K Kontext, 64 GB DDR5 zum Auslagern. Geschwindigkeit ≈ Speicherbandbreite × 78 % ÷ pro Token gelesene Daten, plus feste Kosten pro Token, kalibriert an 44 echten llama.cpp-Tests; typische Abweichung etwa ±10 %. Alle Grafikkarten vergleichen.

Benötigter GPU-Speicher

Stufe	8K Kontext	32K Kontext	128K Kontext	Qualität im Vergleich zum Original
Q3_K_M	56 GB	61 GB	79 GB	+4.7 % spürbarer Verlust
Q4_K_M	67 GB	72 GB	91 GB	+1.2 % sehr kleiner Verlust
Q5_K_M	79 GB	83 GB	102 GB	+0.4 % nahezu verlustfrei
Q6_K	90 GB	95 GB	114 GB	+0.2 % nahezu verlustfrei
Q8_0	117 GB	121 GB	140 GB	≈ 0 % wie das Original
F16	218 GB	222 GB	241 GB	≈ 0 % wie das Original

Gewichte + Kontext-Cache (aus der Architektur des Modells) + Laufzeit. Qualität: Anstieg von perplexity gegenüber dem vollen Modell, aus llama.cpp-Tests, skaliert nach Modellgröße. Simuliere dein eigenes Setup.

Chat-Wertung im Zeitverlauf

13501400145015001550

MaiJunJulAugSeptOkt

GLM-4.6V 1376Bestes kostenpflichtiges Modell

Arena-Wertung vom 17. Apr. 2026 bis 15. Okt. 2026.