Vota in Free Arena

GPU › Apple

I migliori modelli AI gratis per Mac Studio M3 Ultra 512 GB

Mac Studio M3 Ultra 512 GB: 512 GB di memoria condivisa (circa 384 GB utilizzabili dalla GPU), 819 GB/s. Questi sono i modelli gratis che riesce a usare, in ordine di voti su Arena, con la velocità che puoi aspettarti.

Simula la tua configurazione · Controlla il prezzo su Amazon ↗ · Confronta tutte le GPU

Miglior modello votato che ci staGLM-5.3-FlashArena 1471 · ~33 token/s
Modello denso più grande~599 Ba 4 bit, contesto da 8K, tutto sulla GPU
Memoria512 GB819 GB/s di banda

Modelli votati che stanno interamente sulla GPU

ModelloPunteggio ArenaDimensioneFile a 4 bitToken/s
GLM-5.3-Flash
zai · MoE, 25.4 B attivi
1471321.3 B196 GB33
MiMo-V2.6-Flash
xiaomi · MoE, 17.4 B attivi
1455310.8 B190 GB43
nvidia-nemotron-3-ultra-550b-a55b-nvfp4
nvidia · MoE, 55 B attivi
1445560.5 B341 GB17
Gemma 4 31B
google
144331.3 B20 GB27
Qwen3.8-27B
alibaba
144127.8 B18 GB33
GLM-4.6
zai · MoE, 37.6 B attivi
1440356.8 B217 GB21
Hy3
tencent · MoE, 24.4 B attivi
1438298.8 B182 GB30
Qwen3.5-397B-A17B
alibaba · MoE, 17 B attivi
1438403.4 B246 GB43
GLM-4.7
zai · MoE, 39.1 B attivi
1435358.3 B218 GB21
Gemma 4 26B A4B
google · MoE, 4 B attivi
143425.8 B17 GB90
MiniMax-M3
minimax · MoE, 26.8 B attivi
1433427 B260 GB30
DeepSeek-V4-Flash (High)
deepseek · MoE, 20.4 B attivi
1432290.9 B177 GB37
glm-4.5
zai · MoE, 39.1 B attivi
1430358.3 B218 GB21
MiMo-V2.5
xiaomi · MoE, 17.4 B attivi
1428310.8 B190 GB43
longcat-flash-chat
meituan · MoE, 33.4 B attivi
1423561.9 B342 GB26

Modelli piccoli diffusi

Modelli piccoli ufficiali senza ancora voti su Arena, in ordine di download su Hugging Face (conta la popolarità, non la qualità).

ModelloDownload al meseDimensioneFile a 4 bitToken/s
Qwen3-0.6B
Qwen
28.6M0.8 B1.7 GB175
Qwen3-4B
Qwen
11.7M4 B3.6 GB109
Qwen3-8B
Qwen
8.8M8.2 B6.2 GB76
Qwen3-14B
Qwen
8.7M14.8 B10 GB51
Qwen3.5-4B
Qwen
7.8M4.7 B4.0 GB119
Qwen3.5-9B
Qwen
7.3M9.7 B7.1 GB76

Stime a 4 bit (Q4_K_M) con contesto da 8K, calibrate su 44 test reali con llama.cpp (errore tipico di circa ±10%). Token al secondo: circa 10 è la velocità di lettura. Come affiliati Amazon, FreeLLMArena guadagna dagli acquisti idonei; i link non cambiano le classifiche.

Domande

Qual è il miglior modello AI gratis per Mac Studio M3 Ultra 512 GB?

GLM-5.3-Flash (punteggio Arena 1471) è il modello aperto più votato che entra interamente nei ~384 GB di memoria condivisa che la GPU può usare a 4 bit, e scrive circa 33 token al secondo.

Che dimensione di modello regge Mac Studio M3 Ultra 512 GB?

Circa 599 miliardi di parametri per un modello denso a 4 bit con contesto da 8K, tutto sulla GPU. I modelli mixture-of-experts possono essere più grandi e, con 64 GB di RAM di sistema, girano anche modelli più grossi, ma più lentamente.

Mac Studio M3 Ultra 512 GB va bene per gli LLM in locale?

Ha 512 GB di memoria e 819 GB/s di banda. La memoria decide quali modelli ci stanno; la banda decide quanto velocemente scrivono. Con 24 GB o più usa modelli da 27–32 B, il punto ideale di qualità per l'uso a casa.

Schede simili

Condividi questa pagina:XLinkedInRedditWhatsApp