Alle Modelle › google

gemma-3-27b-it

Name: gemma-3-27b-it
Author: google

google · Gemma-Lizenz · in der Arena seit 11. März 2025

Chat des Labors Download

Arena-Wertung1358Platz 199 von 416 im Chat, kostenpflichtige Modelle eingeschlossen

Größe27.4 BParameter

4-Bit-Download17 GBnur Gewichte, Q4_K_M

Max. Kontext128KTokens, laut Modellkonfiguration

Wo du es kostenlos nutzen kannst

Der eigene Chat des Labors: aistudio.google.com (kostenlos mit Tageslimits)
Lade es herunter und führe es zu Hause aus: offizielle Gewichte · GGUF-Dateien für Ollama und LM Studio

Arena-Wertungen

Arena	Wertung	Rang	Stimmen
Chat	1358	Platz 199 von 416	47K

Rang unter allen Modellen, auch den kostenpflichtigen. Quelle: Arena-Leaderboard-Datensatz.

Geschwindigkeit auf gängiger Hardware

Hardware	GPU-Speicher	Passt es?	Geschwindigkeit
RTX 3060 12 GB	12 GB	GPU + 64 GB RAM	6.5 tok/s
RTX 4060 Ti 16 GB	16 GB	GPU + 64 GB RAM	7.7 tok/s
RTX 3090	24 GB	Passt in die GPU	35 tok/s
RTX 4090	24 GB	Passt in die GPU	38 tok/s
RTX 5090	32 GB	Passt in die GPU	65 tok/s
RX 7900 XTX	24 GB	Passt in die GPU	36 tok/s
2 × RTX 3090	48 GB	Passt in die GPU	34 tok/s
4 × RTX 3090	96 GB	Passt in die GPU	32 tok/s
Mac M4 Max 128 GB	96 GB	Passt in die GPU	20 tok/s
Ryzen AI Max+ 395 128 GB	96 GB	Passt in die GPU	9.9 tok/s
8 × H100 SXM	640 GB	Passt in die GPU	96 tok/s

Schätzung bei 4-Bit mit 32K Kontext, 64 GB DDR5 zum Auslagern. Geschwindigkeit ≈ Speicherbandbreite × 78 % ÷ pro Token gelesene Daten, plus feste Kosten pro Token, kalibriert an 44 echten llama.cpp-Tests; typische Abweichung etwa ±10 %. Alle Grafikkarten vergleichen.

Benötigter GPU-Speicher

Stufe	8K Kontext	32K Kontext	128K Kontext	Qualität im Vergleich zum Original
Q3_K_M	15 GB	18 GB	27 GB	+7.2 % spürbarer Verlust
Q4_K_M	18 GB	21 GB	29 GB	+1.9 % kleiner Verlust
Q5_K_M	21 GB	23 GB	32 GB	+0.6 % sehr kleiner Verlust
Q6_K	24 GB	26 GB	35 GB	+0.2 % nahezu verlustfrei
Q8_0	31 GB	33 GB	42 GB	≈ 0 % wie das Original
F16	57 GB	59 GB	68 GB	≈ 0 % wie das Original

Gewichte + Kontext-Cache (aus der Architektur des Modells) + Laufzeit. Qualität: Anstieg von perplexity gegenüber dem vollen Modell, aus llama.cpp-Tests, skaliert nach Modellgröße. Simuliere dein eigenes Setup.

Chat-Wertung im Zeitverlauf

14001500

MaiJunJulAugSeptOkt

gemma-3-27b-it 1358Bestes kostenpflichtiges Modell

Arena-Wertung vom 17. Apr. 2026 bis 15. Okt. 2026.