FreeLLMTencent launches Qwen3.8-27B-DSpine-b16 draft model on Hugging Face
The new five‑layer draft model adds parallel token generation for Qwen3.8‑27B with improved benchmarks and open‑source tooling.
Tencent released Qwen3.8-27B-DSpine-b16 on Hugging Face, a five‑layer draft model for the Qwen3.8‑27B base.
The model uses a block size of 16, an 8,192‑token sliding window and supports up to 4,096 new tokens per request.
Benchmarks show DSpine outperforms DFlash2 and autoregressive decoding, e.g., GSM8K scores rise from 5.69 to 7.20 and throughput gains reach 2.71× over AR.
Installation requires cloning the DSpine repository and running a pip install, then serving with SGLang using the provided command line options.
No inference provider currently hosts the model, and it is available under an Apache 2.0 license with 1,464 downloads last month.
Ce que cela signifie pour vous
The open release lets developers experiment with speculative decoding without waiting for commercial services. For users seeking free or locally run models, the draft model offers a way to speed up generation on compatible hardware while remaining fully open source.
Sources
- Tencent releases Qwen3.8-27B-DSpine-b16 on Hugging Face, Hugging Face trending (official), 7 Nov 2026
Rédigé automatiquement à partir des sources ci‑dessus, puis vérifié par notre code : chaque nombre et chaque nom doivent y figurer, et aucune phrase ne doit copier une source. Une erreur ? Signalez‑la.
Quelle IA pouvez‑vous utiliser gratuitement aujourd’hui ?
Tous les modèles IA gratuits, classés par votes humains anonymes, avec la mémoire et la vitesse dont ils ont besoin sur votre propre GPU.