NVIDIA-Nemotron-3.5-Bolt-74B-A9B-24GB

Dove usarlo gratis

• La chat del laboratorio: build.nvidia.com (gratis con limiti giornalieri)
• Scaricalo e usalo a casa: pesi ufficiali · file GGUF per Ollama e LM Studio

Novità: in attesa dei voti su Arena

Uscito il 7 ott 2026. Arena non ha ancora votato questo modello. Appena lo farà, il modello entrerà in classifica in automatico, di solito la notte dopo. Nel frattempo puoi già vedere qui sotto dimensioni, memoria necessaria e velocità.

Velocità sull'hardware più diffuso

Stima a 4 bit con contesto da 32K e 64 GB di DDR5 per lo scarico in RAM. Velocità ≈ banda di memoria × 78% ÷ dati letti per token, più un costo fisso per token, calibrata su 44 test reali con llama.cpp; errore tipico di circa ±10%. Confronta tutte le GPU.

Memoria GPU necessaria

Pesi + cache del contesto (dall'architettura del modello) + runtime. Qualità: aumento di perplexity rispetto al modello completo, dai test con llama.cpp, scalato in base alla dimensione del modello. Simula la tua configurazione.