FreeLLMGPU › Data center
I migliori modelli AI gratis per H200
H200: 141 GB di memoria video, 4800 GB/s. Questi sono i modelli gratis che riesce a usare, in ordine di voti su Arena, con la velocità che puoi aspettarti.
Modelli votati che stanno interamente sulla GPU
| Modello | Punteggio Arena | Dimensione | File a 4 bit | Token/s |
|---|---|---|---|---|
| Gemma 4 31B |
1443 | 31.3 B | 20 GB | 150 |
| Qwen3.8-27B alibaba |
1441 | 27.8 B | 18 GB | 177 |
| Gemma 4 26B A4B google · MoE, 4 B attivi |
1434 | 25.8 B | 17 GB | 278 |
| Qwen3.5-122B-A10B alibaba · MoE, 10 B attivi |
1417 | 125.1 B | 77 GB | 224 |
| Qwen3.5-27B alibaba |
1409 | 27.8 B | 18 GB | 177 |
| GLM-4.6V zai · MoE, 14.3 B attivi |
1376 | 107.7 B | 66 GB | 181 |
| gemma-3-27b-it |
1358 | 27.4 B | 18 GB | 174 |
| GLM-4.5V zai · MoE, 14.3 B attivi |
1333 | 107.7 B | 66 GB | 181 |
Modelli più grandi con l'aiuto di 64 GB di RAM di sistema
Una parte del modello resta nella memoria di sistema, che è molto più lenta della memoria video.
| Modello | Punteggio Arena | Dimensione | File a 4 bit | Token/s |
|---|---|---|---|---|
| MiMo-V2.6-Flash xiaomi · MoE, 17.4 B attivi |
1455 | 310.8 B | 190 GB | 25 |
| Hy3 tencent · MoE, 24.4 B attivi |
1438 | 298.8 B | 182 GB | 19 |
| DeepSeek-V4-Flash (High) deepseek · MoE, 20.4 B attivi |
1432 | 290.9 B | 177 GB | 26 |
| MiMo-V2.5 xiaomi · MoE, 17.4 B attivi |
1428 | 310.8 B | 190 GB | 25 |
| Qwen3-VL-235B-A22B-Instruct alibaba · MoE, 22 B attivi |
1420 | 235.7 B | 144 GB | 87 |
| qwen3-235b-a22b-instruct-2507 alibaba · MoE, 22 B attivi |
1419 | 235.1 B | 144 GB | 90 |
Modelli piccoli diffusi
Modelli piccoli ufficiali senza ancora voti su Arena, in ordine di download su Hugging Face (conta la popolarità, non la qualità).
| Modello | Download al mese | Dimensione | File a 4 bit | Token/s |
|---|---|---|---|---|
| Qwen3-0.6B Qwen |
28.6M | 0.8 B | 1.7 GB | 724 |
| Qwen3-4B Qwen |
11.7M | 4 B | 3.6 GB | 508 |
| Qwen3-8B Qwen |
8.8M | 8.2 B | 6.2 GB | 377 |
| Qwen3-14B Qwen |
8.7M | 14.8 B | 10 GB | 266 |
| Qwen3.5-4B Qwen |
7.8M | 4.7 B | 4.0 GB | 546 |
| Qwen3.5-9B Qwen |
7.3M | 9.7 B | 7.1 GB | 379 |
Stime a 4 bit (Q4_K_M) con contesto da 8K, calibrate su 44 test reali con llama.cpp (errore tipico di circa ±10%). Token al secondo: circa 10 è la velocità di lettura.
Domande
Qual è il miglior modello AI gratis per H200?
Gemma 4 31B (punteggio Arena 1443) è il modello aperto più votato che entra interamente in 141 GB di memoria video a 4 bit, e scrive circa 150 token al secondo.
Che dimensione di modello regge H200?
Circa 218 miliardi di parametri per un modello denso a 4 bit con contesto da 8K, tutto sulla GPU. I modelli mixture-of-experts possono essere più grandi e, con 64 GB di RAM di sistema, girano anche modelli più grossi, ma più lentamente.
H200 va bene per gli LLM in locale?
Ha 141 GB di memoria e 4800 GB/s di banda. La memoria decide quali modelli ci stanno; la banda decide quanto velocemente scrivono. Con 24 GB o più usa modelli da 27–32 B, il punto ideale di qualità per l'uso a casa.
Schede simili
- Mac M4 Max 128 GB 128 GB · 546 GB/s
- NVIDIA DGX Spark 128 GB 128 GB · 273 GB/s
- Ryzen AI Max+ 395 128 GB 128 GB · 256 GB/s
- RTX PRO 6000 Blackwell 96 GB · 1792 GB/s
- H100 SXM 80 GB · 3350 GB/s
- A100 80 GB 80 GB · 2039 GB/s
Condividi questa pagina:XLinkedInRedditWhatsApp
Hai visto un numero sbagliato o un link rotto? Segnala un errore