Vota in Free Arena

Tutti i modelli › deepseek

deepseek-r1-0528

deepseek · licenza MIT · su Arena dal 17 giu 2025

Chat del laboratorio Download
Punteggio Arena1428#101 su 416 in Chat, modelli a pagamento inclusi
Dimensione684.5 B51 B attivi per token (mixture of experts)
Download a 4 bit415 GBsolo pesi, Q4_K_M
Contesto massimo160Ktoken, dalla configurazione del modello

Dove usarlo gratis

Punteggi Arena

ArenaPunteggioPosizioneVoti
Chat1428#101 su 41618K

Posizione tra tutti i modelli, anche quelli a pagamento. Fonte: dataset della classifica Arena.

Velocità sull'hardware più diffuso

HardwareMemoria GPUCi sta?Velocità
RTX 3060 12 GB12 GBNon entra—
RTX 4060 Ti 16 GB16 GBNon entra—
RTX 309024 GBNon entra—
RTX 409024 GBNon entra—
RTX 509032 GBNon entra—
RX 7900 XTX24 GBNon entra—
2 × RTX 309048 GBNon entra—
4 × RTX 309096 GBNon entra—
Mac M4 Max 128 GB96 GBNon entra—
Ryzen AI Max+ 395 128 GB96 GBNon entra—
8 × H100 SXM640 GBEntra nella GPU53 tok/s

Stima a 4 bit con contesto da 32K e 64 GB di DDR5 per lo scarico in RAM. Velocità ≈ banda di memoria × 78% ÷ dati letti per token, più un costo fisso per token, calibrata su 44 test reali con llama.cpp; errore tipico di circa ±10%. Confronta tutte le GPU.

Memoria GPU necessaria

LivelloContesto da 8KContesto da 32KContesto da 128KQualità rispetto al modello completo
Q3_K_M343 GB345 GB352 GB+4.7% perdita evidente
Q4_K_M416 GB418 GB425 GB+1.2% perdita minima
Q5_K_M488 GB490 GB496 GB+0.4% quasi senza perdita
Q6_K562 GB564 GB571 GB+0.2% quasi senza perdita
Q8_0728 GB730 GB737 GB≈ 0% uguale al completo
F161370 GB1372 GB1379 GB≈ 0% uguale al completo

Pesi + cache del contesto (dall'architettura del modello) + runtime. Qualità: aumento di perplexity rispetto al modello completo, dai test con llama.cpp, scalato in base alla dimensione del modello. Simula la tua configurazione.

Punteggio Chat nel tempo

deepseek-r1-0528 1428Miglior modello a pagamento

Punteggio Arena dal 17 apr 2026 al 15 ott 2026.

Modelli gratis simili in Chat

Condividi questa pagina:XLinkedInRedditWhatsApp