Vota in Free Arena

GPU › Mini PC

I migliori modelli AI gratis per Ryzen AI Max+ 395 128 GB

Ryzen AI Max+ 395 128 GB: 128 GB di memoria condivisa (circa 96 GB utilizzabili dalla GPU), 256 GB/s. Questi sono i modelli gratis che riesce a usare, in ordine di voti su Arena, con la velocità che puoi aspettarti.

Simula la tua configurazione · Controlla il prezzo su Amazon ↗ · Confronta tutte le GPU

Miglior modello votato che ci staGemma 4 31BArena 1443 · ~9.4 token/s
Modello denso più grande~148 Ba 4 bit, contesto da 8K, tutto sulla GPU
Memoria128 GB256 GB/s di banda

Modelli votati che stanno interamente sulla GPU

ModelloPunteggio ArenaDimensioneFile a 4 bitToken/s
Gemma 4 31B
google
144331.3 B20 GB9.4
Qwen3.8-27B
alibaba
144127.8 B18 GB11
Gemma 4 26B A4B
google · MoE, 4 B attivi
143425.8 B17 GB57
Qwen3.5-122B-A10B
alibaba · MoE, 10 B attivi
1417125.1 B77 GB29
Qwen3.5-27B
alibaba
140927.8 B18 GB11
GLM-4.6V
zai · MoE, 14.3 B attivi
1376107.7 B66 GB19
gemma-3-27b-it
google
135827.4 B18 GB11
GLM-4.5V
zai · MoE, 14.3 B attivi
1333107.7 B66 GB19

Modelli piccoli diffusi

Modelli piccoli ufficiali senza ancora voti su Arena, in ordine di download su Hugging Face (conta la popolarità, non la qualità).

ModelloDownload al meseDimensioneFile a 4 bitToken/s
Qwen3-0.6B
Qwen
28.6M0.8 B1.7 GB123
Qwen3-4B
Qwen
11.7M4 B3.6 GB52
Qwen3-8B
Qwen
8.8M8.2 B6.2 GB31
Qwen3-14B
Qwen
8.7M14.8 B10 GB19
Qwen3.5-4B
Qwen
7.8M4.7 B4.0 GB60
Qwen3.5-9B
Qwen
7.3M9.7 B7.1 GB31

Stime a 4 bit (Q4_K_M) con contesto da 8K, calibrate su 44 test reali con llama.cpp (errore tipico di circa ±10%). Token al secondo: circa 10 è la velocità di lettura. Come affiliati Amazon, FreeLLMArena guadagna dagli acquisti idonei; i link non cambiano le classifiche.

Domande

Qual è il miglior modello AI gratis per Ryzen AI Max+ 395 128 GB?

Gemma 4 31B (punteggio Arena 1443) è il modello aperto più votato che entra interamente nei ~96 GB di memoria condivisa che la GPU può usare a 4 bit, e scrive circa 9.4 token al secondo.

Che dimensione di modello regge Ryzen AI Max+ 395 128 GB?

Circa 148 miliardi di parametri per un modello denso a 4 bit con contesto da 8K, tutto sulla GPU. I modelli mixture-of-experts possono essere più grandi e, con 64 GB di RAM di sistema, girano anche modelli più grossi, ma più lentamente.

Ryzen AI Max+ 395 128 GB va bene per gli LLM in locale?

Ha 128 GB di memoria e 256 GB/s di banda. La memoria decide quali modelli ci stanno; la banda decide quanto velocemente scrivono. Con 24 GB o più usa modelli da 27–32 B, il punto ideale di qualità per l'uso a casa.

Schede simili

Condividi questa pagina:XLinkedInRedditWhatsApp