Ollama vs LM Studio vs LlamaCpp für lokale KI
Ollama, LM Studio und llama.cpp führen offene Modelle auf deinem Rechner aus, sind aber nicht dieselbe Art von Werkzeug. Eines ist ein Kommandozeilen-Daemon mit API, eines eine Desktop-App mit Chat-Fenster und das dritte die C/C++-Engine, auf der die anderen beiden aufsetzen können. Die Wahl hängt vor allem davon ab, wie du arbeiten willst, nicht davon, welches „das beste“ ist.
Das ist ein Funktionsvergleich, kein Geschwindigkeitstest. Die Geschwindigkeit hängt von deiner GPU, dem Modell und der Quantisierung ab; jede Aussage „am schnellsten“ ohne diese Angaben ist Marketing. Die Fakten unten stammen aus der offiziellen Dokumentation der Projekte und wurden am 25. Oktober 2026 geprüft.
Die kurze Antwort
| Werkzeug | Was es ist | Wofür es am besten passt |
|---|---|---|
| Ollama | Open-Source-Kommandozeilen-Runner (MIT) mit lokaler REST-API und OpenAI-kompatiblem Endpunkt. | Skripte, Server, reproduzierbare Setups und alle, die das Terminal bevorzugen. |
| LM Studio | Desktop-App mit Chat-Oberfläche, Modellkatalog und programmierbarer lokaler API; nutzt llama.cpp und MLX im Hintergrund. Für die lokale Nutzung kostenlos; kostenpflichtige Cloud-Pläne existieren. | Mit Modellen chatten, sie visuell vergleichen und nicht-technische Nutzer. |
| llama.cpp | MIT-lizenzierte C/C++-Inferenz-Engine mit CLI, OpenAI-kompatiblem Server und Backends für CUDA, Metal, Vulkan, SYCL und HIP. | Maximale Kontrolle, ungewöhnliche Hardware und Inferenz in ein anderes Programm einbetten. |
Ollama: der Kommandozeilen-Runner
Ollama lässt sich auf macOS, Windows und Linux installieren und läuft in Docker. Du forderst ein Modell mit ollama run an, es lädt und startet es; dieselbe Installation stellt eine lokale REST-API auf Port 11434 und eine OpenAI-kompatible API für Werkzeuge bereit, die dieses Format bereits sprechen.
Die Lizenz ist MIT, und das README nennt llama.cpp als unterstütztes Backend: Ollama ist eine freundliche Schicht über der Engine, keine eigene Inferenz-Implementierung. Die Modelle kommen aus der eigenen Bibliothek; du kannst auch eines aus einem Modelfile bauen, wenn du einen eigenen Prompt oder eigene Parameter brauchst.
Wähle es, wenn du ein reproduzierbares Setup willst: ein Befehl installiert es, ein anderer startet ein Modell, und ein Skript oder ein anderer Dienst kann die API aufrufen. Der Preis dafür ist, dass es kein Chat-Fenster gibt, außer du fügst eines hinzu; Open WebUI und ähnliche Frontends gibt es dafür.
LM Studio: die Desktop-App
LM Studio ist eine grafische Anwendung für Windows, macOS und Linux. Du durchsuchst einen Katalog, lädst ein Modell herunter und chattest damit; dieselbe App kann einen lokalen Server mit einer programmierbaren API für deine eigenen Programme starten.
Der kostenlose Plan führt Modelle auf deinem Rechner aus und nutzt laut der Preisseite llama.cpp und MLX im Hintergrund. Kostenpflichtige Pläne (Bionic+ für 20 $/Monat und Pro für 100 $/Monat, geprüft am 25. Oktober 2026) fügen Cloud-Inferenz und weitere Dienste hinzu; für lokale Modelle sind sie nicht nötig.
Wähle es, wenn du die Modellliste sehen, Prompts ausprobieren und Antworten vergleichen willst, ohne das Terminal anzufassen. Die Download-Seite verweist auf die Nutzungsbedingungen; die lokale Laufzeit ist kostenlos, aber die Anwendung ist kein Open-Source-Projekt im selben Sinn wie Ollama oder llama.cpp.
llama.cpp: die Engine
llama.cpp ist die Option auf der untersten Ebene: eine C/C++-Inferenz-Engine, MIT-lizenziert, rund um das GGUF-Modellformat gebaut. Sie bringt ein Kommandozeilen-Werkzeug und einen OpenAI-kompatiblen Server (llama serve) mit, und ihre Backends decken NVIDIA (CUDA), Apple (Metal), Vulkan, SYCL und HIP ab.
Es ist das Projekt, auf dem die anderen beiden aufbauen. Wer es direkt nutzt, bekommt die maximale Kontrolle über Kontext, Sampling, Batching und Hardware-Auslagerung, und es ist die richtige Wahl, wenn du Inferenz in ein anderes Programm einbetten oder eine GPU unterstützen musst, die die freundlicheren Werkzeuge nicht abdecken.
Der Preis dafür ist die Lernkurve: du kompilierst es oder lädst ein Release herunter, wählst eine Quantisierung und setzt die richtigen Flags. Es gibt keinen Modellkatalog und keine Chat-Oberfläche.
Was sie gemeinsam haben
- Alle drei führen Modelle mit offenen Gewichten lokal aus; keines schickt deinen Prompt an einen Server, es sei denn, du wählst eine Cloud-Funktion.
- Alle drei können eine HTTP-API bereitstellen, sodass eine lokale App mit ihnen genauso spricht wie mit einem gehosteten Anbieter.
- Alle drei sind durch deine Hardware begrenzt: Das Modell muss in den Speicher passen, und die Geschwindigkeit hängt von der GPU oder CPU dahinter ab.
Welches solltest du nehmen?
- Du willst ein Chat-Fenster und kein Terminal: LM Studio.
- Du willst ein Skript, einen Server oder einen OpenAI-kompatiblen Endpunkt mit einer Installation: Ollama.
- Du willst die Engine, ungewöhnliche Hardware oder volle Kontrolle: llama.cpp.
- Du bist unsicher: beginne mit Ollama; vermisst du die Oberfläche, probiere LM Studio; stößt du an eine Hardware- oder Kontrollgrenze, geh zu llama.cpp.
Was keines löst: der Speicher
Keines dieser Werkzeuge macht ein Modell passend. Ein 7B-Modell mit 4 Bit sind etwa 3,5 GB Gewichte vor dem KV-Cache und dem Overhead; ein 70B-Modell derselben Präzision ist zehnmal größer. Schätze vor dem Download den Speicher mit unserem VRAM-Rechner für lokale KI und lies wie viel VRAM ein lokales KI-Modell braucht.
Häufige Fragen
Sind Ollama und LM Studio kostenlos?
Ollama ist Open Source unter der MIT-Lizenz. Die lokale Nutzung von LM Studio ist kostenlos; die kostenpflichtigen Pläne fügen Cloud-Inferenz und Dienste hinzu, nicht die lokale Ausführung.
Führen sie dieselben Modelle aus?
Sie können dieselben Familien offener Gewichte ausführen, aber die genauen Dateien unterscheiden sich: Ollama zieht aus der eigenen Bibliothek, während LM Studio und llama.cpp mit GGUF-Dateien arbeiten (LM Studio nutzt auf Apple Silicon zusätzlich MLX).
Welches ist am schnellsten?
Das hängt von Hardware, Modell, Quantisierung und Backend ab. Ein fairer Vergleich legt alle vier fest; ohne das ist jede Zahl Rauschen. Keines der drei ist immer schneller.
Kann ich sie ohne GPU nutzen?
Ja, alle drei laufen auf einer CPU, aber erwarte eine deutlich geringere Geschwindigkeit. Ein kleines Modell mit niedriger Quantisierung ist der realistische Einstieg.
Weiterlesen
- VRAM-Rechner für lokale KI — was in deinen VRAM passt.
- Wie viel VRAM brauchst du? — die Arithmetik hinter den Zahlen.
- Kostenlose Multi-KI-Suche — vergleiche gehostete Modelle, wenn lokal nicht reicht.
- Ollama-Befehle für lokale KI — die Befehle, die Sie wirklich tippen.
- GGUF-Quantisierung erklärt — was Q4_K_M, Q5_K_M und Q8_0 bedeuten und wie Sie eine wählen.
Quellen und Datum: README und MIT-Lizenz von Ollama; README von llama.cpp (MIT, Backends, GGUF und llama serve); Download- und Preisseiten von LM Studio (Plattformen, llama.cpp/MLX, kostenloser lokaler Plan und kostenpflichtige Pläne). Geprüft am 25. Oktober 2026. Funktionen und Preise ändern sich; prüfe sie, bevor du damit planst.