Voter dans Free Arena

Modèles d'IA gratuits sur votre téléphone

Un téléphone peut faire tourner un petit modèle d'IA hors ligne, sans compte et sans internet. Ce qui tient dépend de sa mémoire (RAM). Voici à quoi s'attendre, et quelles applications gratuites utiliser.

Les modèles les plus utilisés qui tiennent sur un téléphone

Téléchargements mensuels sur Hugging Face. Couleur = le téléphone nécessaire : vert 8 GB de RAM, bleu 12 GB, orange 16 GB. Popularité, pas qualité : ces modèles n'ont pas encore de votes Arena.

Ce que cela montre · Comment le lire

Ce que cela montre. Les 12 petits modèles ouverts les plus téléchargés chaque mois sur Hugging Face qui tiennent dans la mémoire d'un téléphone.

Comment le lire. Barre plus longue, plus populaire, ce qui ne veut pas dire meilleur : ces modèles n'ont pas encore de votes Arena. La couleur indique le plus petit téléphone qui le fait tourner : vert 8 GB de RAM, bleu 12 GB, orange 16 GB.

Ce qui tient dans la mémoire de votre téléphone

Règle empirique : le modèle peut utiliser environ 40 % de la RAM du téléphone ; le système et vos applications ont besoin du reste. Les tailles sont celles de fichiers en 4 bits issus des pages Hugging Face officielles des laboratoires, classés par téléchargements (popularité, pas qualité).

8 GB de RAM · La plupart des téléphones depuis 2023 · modèles jusqu'à environ 3.2 GB

ModèleTailleFichier 4 bitsTéléchargements/mois
Qwen3-0.6B
Qwen
0.8 B0.9 GB28.6M
Qwen3-4B
Qwen
4 B2.8 GB11.7M
NVIDIA-Nemotron-3-Nano-4B-BF16
nvidia
4 B2.8 GB1.7M
SmolVLM2-500M-Video-Instruct
HuggingFaceTB
0.5 B0.7 GB1.4M
gemma-3-1b-it
google
1 B1.0 GB1.4M
MiniCPM5-2B
openbmb
2.5 B1.9 GB1.3M
DeepSeek-R1-Distill-Qwen-1.5B
deepseek-ai
1.8 B1.5 GB1.3M
SmolLM3-3B
HuggingFaceTB
3.1 B2.3 GB748K

12 GB de RAM · Smartphones haut de gamme récents · tout ce qui précède, plus des modèles jusqu'à environ 4.8 GB

ModèleTailleFichier 4 bitsTéléchargements/mois
Qwen3.5-4B
Qwen
4.7 B3.2 GB7.8M
gemma-3n-E2B-it
google
5.4 B3.7 GB115K
OLMoE-1B-7B-0125-Instruct
allenai
6.9 B4.6 GB106K
Molmo2-ER
allenai
4.9 B3.4 GB28K
Apriel-5B-Instruct
ServiceNow-AI
4.8 B3.3 GB3K

16 GB de RAM · Téléphones et tablettes haut de gamme · tout ce qui précède, plus des modèles jusqu'à environ 6.4 GB

ModèleTailleFichier 4 bitsTéléchargements/mois
Qwen3-8B
Qwen
8.2 B5.4 GB8.8M
Qwen3.5-9B
Qwen
9.7 B6.3 GB7.3M
Apertus-v1.5-8B
swiss-ai
8.9 B5.8 GB493K
Olmo-3-7B-Think
allenai
7.3 B4.8 GB490K
Apertus-8B-Instruct-2509
swiss-ai
8.1 B5.3 GB432K
DeepSeek-R1-0528-Qwen3-8B
deepseek-ai
8.2 B5.4 GB426K
DeepSeek-R1-Distill-Qwen-7B
deepseek-ai
7.6 B5.0 GB386K
Olmo-3-7B-Instruct
allenai
7.3 B4.8 GB384K

L'exception : MiniCPM-V 4.7 avec streaming d'experts

MiniCPM-V 4.7 35B-A3B d'OpenBMB a 35.2 milliards de paramètres mais n'en utilise qu'environ 3 milliards pour chaque mot (un mélange d'experts). Ses créateurs gardent les experts dans le stockage du téléphone et les chargent juste avant d'en avoir besoin ; seuls environ 3 GB restent donc en mémoire. Ils annoncent plus de 13 tokens par seconde sur un iPhone 17 Pro Max (page du modèle). Il lit aussi les images, les vidéos et les documents.

Ce que cela ne veut pas dire : le modèle entier a toujours besoin d'environ 22 GB de stockage, il exige leur version spéciale de llama.cpp, et la vitesse dépend de celle du stockage du téléphone. Sur une carte graphique, le même modèle est bien plus rapide : voyez sa page.

Applications gratuites pour les faire tourner

  • PocketPal AI : application open source qui télécharge des modèles GGUF depuis Hugging Face et les exécute hors ligne (licence MIT).
  • Google AI Edge Gallery : l'application open source de Google pour essayer des modèles sur l'appareil, dont Gemma (Apache-2.0).
  • MLC LLM : moteur avec une application de chat pour téléphones ; plus technique (Apache-2.0).

Téléchargez le modèle dans l'application (cherchez une version 4 bits ou Q4), puis il fonctionne hors ligne. Les modèles plus gros vident la batterie plus vite et font chauffer le téléphone.

Besoin de plus ?

Pour des modèles plus gros et plus intelligents, utilisez-les gratuitement en ligne (classement), essayez-les sans compte dans Free Arena, ou voyez ce qu'une carte graphique peut faire tourner dans GPU pour l'IA locale.

Partager cette page :XLinkedInRedditWhatsApp