In der Free Arena abstimmen

Alle Modelle › tencent

WeMM-Video-35BA3B

tencent · released 17 Nov 2026

Chat des Labors Download Neu · wartet auf Arena-Stimmen
Arena-Wertung—In der Arena noch nicht bewertet
Größe36.2 B4.5 B aktiv pro Token (Mixture of Experts)
4-Bit-Download22 GBnur Gewichte, Q4_K_M
Max. Kontext256KTokens, laut Modellkonfiguration

Wo du es kostenlos nutzen kannst

Neu: wartet auf Arena-Stimmen

Released on 17 Nov 2026. Arena has not voted on this model yet. As soon as it does, the model moves into the ranking automatically, usually the next night. Until then you can still check its size, memory needs and speed below.

Geschwindigkeit auf gängiger Hardware

HardwareGPU-SpeicherPasst es?Geschwindigkeit
RTX 3060 12 GB12 GBGPU + 64 GB RAM36 tok/s
RTX 4060 Ti 16 GB16 GBGPU + 64 GB RAM39 tok/s
RTX 309024 GBPasst in die GPU134 tok/s
RTX 409024 GBPasst in die GPU140 tok/s
RTX 509032 GBPasst in die GPU191 tok/s
RX 7900 XTX24 GBPasst in die GPU136 tok/s
2 × RTX 309048 GBPasst in die GPU130 tok/s
4 × RTX 309096 GBPasst in die GPU123 tok/s
Mac M4 Max 128 GB96 GBPasst in die GPU69 tok/s
Ryzen AI Max+ 395 128 GB96 GBPasst in die GPU50 tok/s
8 × H100 SXM640 GBPasst in die GPU202 tok/s

Schätzung bei 4-Bit mit 32K Kontext, 64 GB DDR5 zum Auslagern. Geschwindigkeit ≈ Speicherbandbreite × 78 % ÷ pro Token gelesene Daten, plus feste Kosten pro Token, kalibriert an 44 echten llama.cpp-Tests; typische Abweichung etwa ±10 %. Alle Grafikkarten vergleichen.

Benötigter GPU-Speicher

Stufe8K Kontext32K Kontext128K KontextQualität im Vergleich zum Original
Q3_K_M19 GB19 GB21 GB+6.5 % spürbarer Verlust
Q4_K_M23 GB23 GB25 GB+1.7 % kleiner Verlust
Q5_K_M27 GB27 GB29 GB+0.6 % nahezu verlustfrei
Q6_K30 GB31 GB33 GB+0.2 % nahezu verlustfrei
Q8_039 GB40 GB42 GB≈ 0 % wie das Original
F1673 GB74 GB76 GB≈ 0 % wie das Original

Gewichte + Kontext-Cache (aus der Architektur des Modells) + Laufzeit. Qualität: Anstieg von perplexity gegenüber dem vollen Modell, aus llama.cpp-Tests, skaliert nach Modellgröße. Simuliere dein eigenes Setup.

Diese Seite teilen:XLinkedInRedditWhatsApp

Drücke / oder Strg+K, um von jeder Seite aus zu suchen.