Hy-Memory-30B-A3B

Où l'utiliser gratuitement

• Le chat du laboratoire : yuanbao.tencent.com (gratuit avec limites quotidiennes)
• Téléchargez-le et lancez-le chez vous : poids officiels · fichiers GGUF pour Ollama et LM Studio

Nouveau : en attente de votes Arena

Sorti le 15 oct. 2026. Arena n'a pas encore voté pour ce modèle. Dès que ce sera le cas, le modèle rejoindra le classement automatiquement, en général la nuit suivante. D'ici là, vous pouvez déjà consulter ci-dessous sa taille, ses besoins en mémoire et sa vitesse.

Vitesse sur du matériel courant

Estimation en 4 bits avec un contexte de 32K et 64 GB de DDR5 pour le déchargement. Vitesse ≈ bande passante mémoire × 78 % ÷ données lues par token, plus un coût fixe par token, calibrée sur 44 tests llama.cpp réels ; erreur typique d'environ ±10 %. Comparer tous les GPU.

Mémoire GPU nécessaire

Poids + cache de contexte (d'après l'architecture du modèle) + runtime. Qualité : hausse de perplexity par rapport au modèle complet, d'après les tests llama.cpp, ajustée selon la taille du modèle. Simulez votre propre configuration.