Zum Inhalt
KIdemie Konto

Lokal betreibenLektion 1 von 4Probelektion, ohne Konto

Ollama, LM Studio, llama.cpp, MLX: wer was tut

1Ziel

Du lernst, was Ollama, LM Studio, llama.cpp und MLX jeweils tun.

Baustein Ollama Woran du es erkennst: Ein Werkzeug lädt und startet ein offenes Modell; welches, entscheidet die Aufgabe.

Hilf mir

  1. 1Die Lösung mit Beleg

    LM Studio bringt die Oberfläche mit und arbeitet offline, sobald die Modelldateien da sind. Ollama startet Modelle, llama.cpp macht sie auf sehr verschiedener Hardware lauffähig, MLX ist Apples Rechen-Framework für Apple Silicon.

    • LM Studio kann laut Hersteller vollständig offline arbeiten, sobald die Modelldateien heruntergeladen sind.

      Stand 15.10.2026AnbieterangabeLM Studio · LM Studio Docs

    • LM Studio ist eine Desktop-App mit Chat-Oberfläche für lokale Modelle, die diese auch über eine lokale API bereitstellt, für Apple-Silicon-Macs, Windows und Linux.

      Stand 15.10.2026AnbieterangabeLM Studio · LM Studio Docs

    • Ollama ist ein MIT-lizenziertes Werkzeug, um offene Modelle lokal (oder in der Cloud) zu starten.

      Stand 15.10.2026AnbieterangabeOllama · ollama/ollama (README)

    • llama.cpp ist eine MIT-lizenzierte Bibliothek, die Sprach- und Bild-Sprach-Modelle mit wenig Einrichtung auf sehr verschiedener Hardware lauffähig macht.

      Stand 15.10.2026Anbieterangabeggml-org · ggml-org/llama.cpp (README)

    • MLX ist Apples MIT-lizenziertes Rechen-Framework für maschinelles Lernen auf Apple Silicon, das den gemeinsamen Speicher von CPU und GPU nutzt.

      Stand 15.10.2026AnbieterangabeApple Machine Learning Research · ml-explore/mlx (README)

2Erklären

Ein offenes Modell auf dem eigenen Rechner starten, ohne Upload und ohne Konto: Tipp die Befehle nach und hak ab, was du siehst. Danach die Frage, welches Werkzeug du wofür nimmst.

Dieser Kurs erklärt erst in einem Stil (Regel zuerst).

Hilf mir

  1. 1Die Lösung mit Beleg

    LM Studio bringt die Oberfläche mit und arbeitet offline, sobald die Modelldateien da sind. Ollama startet Modelle, llama.cpp macht sie auf sehr verschiedener Hardware lauffähig, MLX ist Apples Rechen-Framework für Apple Silicon.

    • LM Studio kann laut Hersteller vollständig offline arbeiten, sobald die Modelldateien heruntergeladen sind.

      Stand 15.10.2026AnbieterangabeLM Studio · LM Studio Docs

    • LM Studio ist eine Desktop-App mit Chat-Oberfläche für lokale Modelle, die diese auch über eine lokale API bereitstellt, für Apple-Silicon-Macs, Windows und Linux.

      Stand 15.10.2026AnbieterangabeLM Studio · LM Studio Docs

    • Ollama ist ein MIT-lizenziertes Werkzeug, um offene Modelle lokal (oder in der Cloud) zu starten.

      Stand 15.10.2026AnbieterangabeOllama · ollama/ollama (README)

    • llama.cpp ist eine MIT-lizenzierte Bibliothek, die Sprach- und Bild-Sprach-Modelle mit wenig Einrichtung auf sehr verschiedener Hardware lauffähig macht.

      Stand 15.10.2026Anbieterangabeggml-org · ggml-org/llama.cpp (README)

    • MLX ist Apples MIT-lizenziertes Rechen-Framework für maschinelles Lernen auf Apple Silicon, das den gemeinsamen Speicher von CPU und GPU nutzt.

      Stand 15.10.2026AnbieterangabeApple Machine Learning Research · ml-explore/mlx (README)

3Mitmachen

Übung

Befehle: ein lokales Modell mit Ollama starten und wieder entladen — Beispiel: Ollama ist installiert und das Modell qwen2.5-coder:7b liegt schon vor (nichts herunterladen). Tipp die Befehle der Reihe nach.

Aufgezeichnet 15.10.2026

Hilf mir

  1. 1Die Lösung mit Beleg

    LM Studio bringt die Oberfläche mit und arbeitet offline, sobald die Modelldateien da sind. Ollama startet Modelle, llama.cpp macht sie auf sehr verschiedener Hardware lauffähig, MLX ist Apples Rechen-Framework für Apple Silicon.

    • LM Studio kann laut Hersteller vollständig offline arbeiten, sobald die Modelldateien heruntergeladen sind.

      Stand 15.10.2026AnbieterangabeLM Studio · LM Studio Docs

    • LM Studio ist eine Desktop-App mit Chat-Oberfläche für lokale Modelle, die diese auch über eine lokale API bereitstellt, für Apple-Silicon-Macs, Windows und Linux.

      Stand 15.10.2026AnbieterangabeLM Studio · LM Studio Docs

    • Ollama ist ein MIT-lizenziertes Werkzeug, um offene Modelle lokal (oder in der Cloud) zu starten.

      Stand 15.10.2026AnbieterangabeOllama · ollama/ollama (README)

    • llama.cpp ist eine MIT-lizenzierte Bibliothek, die Sprach- und Bild-Sprach-Modelle mit wenig Einrichtung auf sehr verschiedener Hardware lauffähig macht.

      Stand 15.10.2026Anbieterangabeggml-org · ggml-org/llama.cpp (README)

    • MLX ist Apples MIT-lizenziertes Rechen-Framework für maschinelles Lernen auf Apple Silicon, das den gemeinsamen Speicher von CPU und GPU nutzt.

      Stand 15.10.2026AnbieterangabeApple Machine Learning Research · ml-explore/mlx (README)

4Prüfen

Prüffrage

Du willst ein lokales Modell mit Chat-Oberfläche, auch ohne Internet. Welches Werkzeug passt laut Hersteller?

Hilf mir

  1. 1Die Lösung mit Beleg

    LM Studio bringt die Oberfläche mit und arbeitet offline, sobald die Modelldateien da sind. Ollama startet Modelle, llama.cpp macht sie auf sehr verschiedener Hardware lauffähig, MLX ist Apples Rechen-Framework für Apple Silicon.

    • LM Studio kann laut Hersteller vollständig offline arbeiten, sobald die Modelldateien heruntergeladen sind.

      Stand 15.10.2026AnbieterangabeLM Studio · LM Studio Docs

    • LM Studio ist eine Desktop-App mit Chat-Oberfläche für lokale Modelle, die diese auch über eine lokale API bereitstellt, für Apple-Silicon-Macs, Windows und Linux.

      Stand 15.10.2026AnbieterangabeLM Studio · LM Studio Docs

    • Ollama ist ein MIT-lizenziertes Werkzeug, um offene Modelle lokal (oder in der Cloud) zu starten.

      Stand 15.10.2026AnbieterangabeOllama · ollama/ollama (README)

    • llama.cpp ist eine MIT-lizenzierte Bibliothek, die Sprach- und Bild-Sprach-Modelle mit wenig Einrichtung auf sehr verschiedener Hardware lauffähig macht.

      Stand 15.10.2026Anbieterangabeggml-org · ggml-org/llama.cpp (README)

    • MLX ist Apples MIT-lizenziertes Rechen-Framework für maschinelles Lernen auf Apple Silicon, das den gemeinsamen Speicher von CPU und GPU nutzt.

      Stand 15.10.2026AnbieterangabeApple Machine Learning Research · ml-explore/mlx (README)

5Einordnen

Das passt so ins Modell: Werkzeuge wie Ollama oder LM Studio starten Modelle — sie ändern nicht, was ins Gerät passt.

Das Modell des Kurses Ein lokales Modell läuft, wenn seine quantisierte Fassung samt Kontext in den Speicher passt — das Werkzeug ist nur der Starter.

Hilf mir

  1. 1Die Lösung mit Beleg

    LM Studio bringt die Oberfläche mit und arbeitet offline, sobald die Modelldateien da sind. Ollama startet Modelle, llama.cpp macht sie auf sehr verschiedener Hardware lauffähig, MLX ist Apples Rechen-Framework für Apple Silicon.

    • LM Studio kann laut Hersteller vollständig offline arbeiten, sobald die Modelldateien heruntergeladen sind.

      Stand 15.10.2026AnbieterangabeLM Studio · LM Studio Docs

    • LM Studio ist eine Desktop-App mit Chat-Oberfläche für lokale Modelle, die diese auch über eine lokale API bereitstellt, für Apple-Silicon-Macs, Windows und Linux.

      Stand 15.10.2026AnbieterangabeLM Studio · LM Studio Docs

    • Ollama ist ein MIT-lizenziertes Werkzeug, um offene Modelle lokal (oder in der Cloud) zu starten.

      Stand 15.10.2026AnbieterangabeOllama · ollama/ollama (README)

    • llama.cpp ist eine MIT-lizenzierte Bibliothek, die Sprach- und Bild-Sprach-Modelle mit wenig Einrichtung auf sehr verschiedener Hardware lauffähig macht.

      Stand 15.10.2026Anbieterangabeggml-org · ggml-org/llama.cpp (README)

    • MLX ist Apples MIT-lizenziertes Rechen-Framework für maschinelles Lernen auf Apple Silicon, das den gemeinsamen Speicher von CPU und GPU nutzt.

      Stand 15.10.2026AnbieterangabeApple Machine Learning Research · ml-explore/mlx (README)

Begriffe dieser Lektion

Ollama

Ollama ist ein MIT-lizenziertes Werkzeug, um offene Modelle lokal (oder in der Cloud) zu starten.

LM Studio

LM Studio ist eine Desktop-App mit Chat-Oberfläche für lokale Modelle, auch ohne Internet nutzbar.

  • LM Studio kann laut Hersteller vollständig offline arbeiten, sobald die Modelldateien heruntergeladen sind.

    Stand 15.10.2026AnbieterangabeLM Studio · LM Studio Docs

  • LM Studio ist eine Desktop-App mit Chat-Oberfläche für lokale Modelle, die diese auch über eine lokale API bereitstellt, für Apple-Silicon-Macs, Windows und Linux.

    Stand 15.10.2026AnbieterangabeLM Studio · LM Studio Docs

llama.cpp

llama.cpp ist eine MIT-lizenzierte Bibliothek, die Sprachmodelle auf sehr verschiedener Hardware lauffähig macht.

  • llama.cpp ist eine MIT-lizenzierte Bibliothek, die Sprach- und Bild-Sprach-Modelle mit wenig Einrichtung auf sehr verschiedener Hardware lauffähig macht.

    Stand 15.10.2026Anbieterangabeggml-org · ggml-org/llama.cpp (README)

MLX

MLX ist Apples Rechen-Framework für maschinelles Lernen auf Apple Silicon.