FreeLLMKostenlose KI-Modelle auf deinem Handy
Ein Handy kann ein kleines KI-Modell offline ausführen, ohne Konto und ohne Internet. Was passt, hängt vom Speicher (RAM) ab. Hier steht, was du erwarten kannst und welche kostenlosen Apps du nutzen kannst.
Die meistgenutzten Modelle, die auf ein Handy passen
Downloads pro Monat auf Hugging Face. Farbe = das Handy, das es braucht: grün 8 GB RAM, blau 12 GB, orange 16 GB. Beliebtheit, nicht Qualität: Diese Modelle haben noch keine Arena-Stimmen.
Was das zeigt · So liest du es
Was das zeigt. Die 12 kleinen offenen Modelle, die jeden Monat am häufigsten von Hugging Face heruntergeladen werden und in den Speicher eines Handys passen.
So liest du es. Längerer Balken, beliebter, was nicht dasselbe ist wie besser: Diese Modelle haben noch keine Arena-Stimmen. Die Farbe verrät dir das kleinste Handy, auf dem es läuft: grün 8 GB RAM, blau 12 GB, orange 16 GB.
Was in den Speicher deines Handys passt
Faustregel: Das Modell kann etwa 40 % des RAM des Handys nutzen; das System und deine Apps brauchen den Rest. Die Größen sind 4-Bit-Dateien von den offiziellen Hugging-Face-Seiten der Labore, sortiert nach Downloads (Beliebtheit, nicht Qualität).
8 GB RAM · Die meisten Handys ab 2023 · Modelle bis etwa 3.2 GB
| Modell | Größe | 4-Bit-Datei | Downloads/Monat |
|---|---|---|---|
| Qwen3-0.6B Qwen | 0.8 B | 0.9 GB | 28.6M |
| Qwen3-4B Qwen | 4 B | 2.8 GB | 11.7M |
| NVIDIA-Nemotron-3-Nano-4B-BF16 nvidia | 4 B | 2.8 GB | 1.7M |
| SmolVLM2-500M-Video-Instruct HuggingFaceTB | 0.5 B | 0.7 GB | 1.4M |
| gemma-3-1b-it | 1 B | 1.0 GB | 1.4M |
| MiniCPM5-2B openbmb | 2.5 B | 1.9 GB | 1.3M |
| DeepSeek-R1-Distill-Qwen-1.5B deepseek-ai | 1.8 B | 1.5 GB | 1.3M |
| SmolLM3-3B HuggingFaceTB | 3.1 B | 2.3 GB | 748K |
12 GB RAM · Aktuelle Flaggschiffe · alles oben, plus Modelle bis etwa 4.8 GB
| Modell | Größe | 4-Bit-Datei | Downloads/Monat |
|---|---|---|---|
| Qwen3.5-4B Qwen | 4.7 B | 3.2 GB | 7.8M |
| gemma-3n-E2B-it | 5.4 B | 3.7 GB | 115K |
| OLMoE-1B-7B-0125-Instruct allenai | 6.9 B | 4.6 GB | 106K |
| Molmo2-ER allenai | 4.9 B | 3.4 GB | 28K |
| Apriel-5B-Instruct ServiceNow-AI | 4.8 B | 3.3 GB | 3K |
16 GB RAM · Top-Handys und Tablets · alles oben, plus Modelle bis etwa 6.4 GB
| Modell | Größe | 4-Bit-Datei | Downloads/Monat |
|---|---|---|---|
| Qwen3-8B Qwen | 8.2 B | 5.4 GB | 8.8M |
| Qwen3.5-9B Qwen | 9.7 B | 6.3 GB | 7.3M |
| Apertus-v1.5-8B swiss-ai | 8.9 B | 5.8 GB | 493K |
| Olmo-3-7B-Think allenai | 7.3 B | 4.8 GB | 490K |
| Apertus-8B-Instruct-2509 swiss-ai | 8.1 B | 5.3 GB | 432K |
| DeepSeek-R1-0528-Qwen3-8B deepseek-ai | 8.2 B | 5.4 GB | 426K |
| DeepSeek-R1-Distill-Qwen-7B deepseek-ai | 7.6 B | 5.0 GB | 386K |
| Olmo-3-7B-Instruct allenai | 7.3 B | 4.8 GB | 384K |
Die Ausnahme: MiniCPM-V 4.7 mit Expert-Streaming
MiniCPM-V 4.7 35B-A3B von OpenBMB hat 35.2 Milliarden Parameter, nutzt aber pro Wort nur etwa 3 Milliarden (Mixture of Experts). Seine Entwickler halten die Experten im Speicher des Handys und laden sie kurz vor Gebrauch, sodass nur etwa 3 GB im Arbeitsspeicher liegen. Sie geben mehr als 13 Tokens pro Sekunde auf einem iPhone 17 Pro Max an (Modellseite). Es liest auch Bilder, Videos und Dokumente.
Was das nicht heißt: Das ganze Modell braucht trotzdem etwa 22 GB Speicherplatz, es braucht ihren speziellen Build von llama.cpp, und die Geschwindigkeit hängt davon ab, wie schnell der Speicher des Handys ist. Auf einer Grafikkarte ist dasselbe Modell viel schneller: siehe seine Seite.
Kostenlose Apps, um sie auszuführen
- PocketPal AI: Open-Source-App, die GGUF-Modelle von Hugging Face lädt und offline ausführt (MIT-Lizenz).
- Google AI Edge Gallery: Googles Open-Source-App zum Ausprobieren von Modellen auf dem Gerät, darunter Gemma (Apache-2.0).
- MLC LLM: Engine mit einer Chat-App für Handys; technischer (Apache-2.0).
Lade das Modell in der App herunter (such nach einer 4-Bit- oder Q4-Version), dann funktioniert es offline. Größere Modelle leeren den Akku schneller und machen das Handy warm.
Brauchst du mehr?
Für größere und klügere Modelle nutze sie kostenlos online (Rangliste), probiere sie ohne Konto in der Free Arena aus oder sieh in Grafikkarten für lokale KI, was eine Grafikkarte ausführen kann.
Diese Seite teilen:XLinkedInRedditWhatsApp
Falsche Zahl oder kaputten Link entdeckt? Fehler melden