FreeLLMModelli AI gratis sul telefono
Un telefono può far girare offline un piccolo modello AI, senza account e senza internet. Quello che ci sta dipende dalla memoria (RAM). Ecco cosa aspettarti e quali app gratis usare.
I modelli più usati che stanno su un telefono
Download al mese su Hugging Face. Colore = il telefono che serve: verde 8 GB di RAM, blu 12 GB, arancione 16 GB. Conta la popolarità, non la qualità: questi modelli non hanno ancora voti su Arena.
Cosa mostra · Come leggerlo
Cosa mostra. I 12 piccoli modelli aperti più scaricati ogni mese da Hugging Face che stanno nella memoria di un telefono.
Come leggerlo. Barra più lunga, più popolare, che non vuol dire migliore: questi modelli non hanno ancora voti su Arena. Il colore indica il telefono più piccolo che lo fa girare: verde 8 GB di RAM, blu 12 GB, arancione 16 GB.
Cosa sta nella memoria del tuo telefono
Regola pratica: il modello può usare circa il 40% della RAM del telefono; il sistema e le tue app hanno bisogno del resto. Le dimensioni sono file a 4 bit dalle pagine Hugging Face ufficiali dei laboratori, in ordine di download (popolarità, non qualità).
8 GB di RAM · La maggior parte dei telefoni dal 2023 in poi · modelli fino a circa 3.2 GB
| Modello | Dimensione | File a 4 bit | Download al mese |
|---|---|---|---|
| Qwen3-0.6B Qwen | 0.8 B | 0.9 GB | 28.6M |
| Qwen3-4B Qwen | 4 B | 2.8 GB | 11.7M |
| NVIDIA-Nemotron-3-Nano-4B-BF16 nvidia | 4 B | 2.8 GB | 1.7M |
| SmolVLM2-500M-Video-Instruct HuggingFaceTB | 0.5 B | 0.7 GB | 1.4M |
| gemma-3-1b-it | 1 B | 1.0 GB | 1.4M |
| MiniCPM5-2B openbmb | 2.5 B | 1.9 GB | 1.3M |
| DeepSeek-R1-Distill-Qwen-1.5B deepseek-ai | 1.8 B | 1.5 GB | 1.3M |
| SmolLM3-3B HuggingFaceTB | 3.1 B | 2.3 GB | 748K |
12 GB di RAM · Ultimi top di gamma · tutto quanto sopra, più modelli fino a circa 4.8 GB
| Modello | Dimensione | File a 4 bit | Download al mese |
|---|---|---|---|
| Qwen3.5-4B Qwen | 4.7 B | 3.2 GB | 7.8M |
| gemma-3n-E2B-it | 5.4 B | 3.7 GB | 115K |
| OLMoE-1B-7B-0125-Instruct allenai | 6.9 B | 4.6 GB | 106K |
| Molmo2-ER allenai | 4.9 B | 3.4 GB | 28K |
| Apriel-5B-Instruct ServiceNow-AI | 4.8 B | 3.3 GB | 3K |
16 GB di RAM · Telefoni e tablet top · tutto quanto sopra, più modelli fino a circa 6.4 GB
| Modello | Dimensione | File a 4 bit | Download al mese |
|---|---|---|---|
| Qwen3-8B Qwen | 8.2 B | 5.4 GB | 8.8M |
| Qwen3.5-9B Qwen | 9.7 B | 6.3 GB | 7.3M |
| Apertus-v1.5-8B swiss-ai | 8.9 B | 5.8 GB | 493K |
| Olmo-3-7B-Think allenai | 7.3 B | 4.8 GB | 490K |
| Apertus-8B-Instruct-2509 swiss-ai | 8.1 B | 5.3 GB | 432K |
| DeepSeek-R1-0528-Qwen3-8B deepseek-ai | 8.2 B | 5.4 GB | 426K |
| DeepSeek-R1-Distill-Qwen-7B deepseek-ai | 7.6 B | 5.0 GB | 386K |
| Olmo-3-7B-Instruct allenai | 7.3 B | 4.8 GB | 384K |
L'eccezione: MiniCPM-V 4.7 con lo streaming degli esperti
MiniCPM-V 4.7 35B-A3B di OpenBMB ha 35.2 miliardi di parametri ma ne usa solo circa 3 miliardi per ogni parola (mixture of experts). I suoi autori tengono gli esperti nella memoria di archiviazione del telefono e li caricano appena prima che servano, così in memoria stanno solo circa 3 GB. Dichiarano più di 13 token al secondo su un iPhone 17 Pro Max (pagina del modello). Legge anche immagini, video e documenti.
Cosa non vuol dire: il modello intero richiede comunque circa 22 GB di spazio di archiviazione, serve la loro versione speciale di llama.cpp e la velocità dipende da quanto è veloce l'archiviazione del telefono. Su una scheda video lo stesso modello è molto più veloce: guarda la sua pagina.
App gratis per usarli
- PocketPal AI: app open source che scarica modelli GGUF da Hugging Face e li fa girare offline (licenza MIT).
- Google AI Edge Gallery: l'app open source di Google per provare i modelli sul dispositivo, compreso Gemma (Apache-2.0).
- MLC LLM: motore con un'app di chat per telefoni; più tecnico (Apache-2.0).
Scarica il modello dentro l'app (cerca una versione a 4 bit o Q4), poi funziona offline. I modelli più grandi scaricano la batteria più in fretta e scaldano il telefono.
Ti serve di più?
Per modelli più grandi e più intelligenti, usali gratis online (classifica), provali senza account in Free Arena, oppure guarda cosa può far girare una scheda video in GPU per l'AI in locale.
Condividi questa pagina:XLinkedInRedditWhatsApp
Hai visto un numero sbagliato o un link rotto? Segnala un errore