Zum Inhalt
KIdemie Konto

Eigene Dokumente befragenLektion 1 von 4Probelektion, ohne Konto

Abruf statt Training: was RAG ist

1Ziel

Du lernst, was ein RAG-System mit einer Frage tut.

Baustein Abruf / RAG Woran du es erkennst: Ein Programm sucht Stellen und legt sie dem Modell mit der Frage vor.

Hilf mir

  1. 1Die Lösung mit Beleg

    RAG verbindet gelerntes Wissen in den Gewichten mit einem durchsuchbaren externen Index; OpenAI beschreibt es als Hinzufügen relevanter Zusatzinformationen zur Anfrage. Die Suche beruht auf Einbettungen: ähnliche Bedeutungen liegen nah beieinander.

    • Der Begriff RAG stammt aus Lewis u. a. (2020) und bezeichnet Modelle, die gelerntes Wissen in den Gewichten mit einem durchsuchbaren externen Index (dort Wikipedia) verbinden.

      Stand 22.05.2020belegtarXiv (Lewis u. a., NeurIPS 2020) · Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks

    • OpenAI beschreibt RAG als das Hinzufügen relevanter Zusatzinformationen zur Anfrage, damit das Modell Wissen jenseits seiner Trainingsdaten nutzen kann.

      Stand 15.10.2026AnbieterangabeOpenAI · Prompt engineering

    • OpenAI: File Search „enables models to retrieve information in a knowledge base of previously uploaded files through semantic and keyword search“; die Wissensbasis entsteht durch Vektorspeicher, in die man Dateien lädt.

      Stand 16.10.2026AnbieterangabeOpenAI · File search

2Erklären

Die Abteilung will, dass die KI ihre Dienstanweisungen kennt, und fragt, ob man das Modell dafür trainieren muss. Prüf zuerst, wie viel Text überhaupt auf einmal ins Kontextfenster passt.

Dieser Kurs erklärt erst in einem Stil (Regel zuerst).

Hilf mir

  1. 1Die Lösung mit Beleg

    RAG verbindet gelerntes Wissen in den Gewichten mit einem durchsuchbaren externen Index; OpenAI beschreibt es als Hinzufügen relevanter Zusatzinformationen zur Anfrage. Die Suche beruht auf Einbettungen: ähnliche Bedeutungen liegen nah beieinander.

    • Der Begriff RAG stammt aus Lewis u. a. (2020) und bezeichnet Modelle, die gelerntes Wissen in den Gewichten mit einem durchsuchbaren externen Index (dort Wikipedia) verbinden.

      Stand 22.05.2020belegtarXiv (Lewis u. a., NeurIPS 2020) · Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks

    • OpenAI beschreibt RAG als das Hinzufügen relevanter Zusatzinformationen zur Anfrage, damit das Modell Wissen jenseits seiner Trainingsdaten nutzen kann.

      Stand 15.10.2026AnbieterangabeOpenAI · Prompt engineering

    • OpenAI: File Search „enables models to retrieve information in a knowledge base of previously uploaded files through semantic and keyword search“; die Wissensbasis entsteht durch Vektorspeicher, in die man Dateien lädt.

      Stand 16.10.2026AnbieterangabeOpenAI · File search

3Mitmachen

Übung

Wie viel deutscher Text passt in welches Kontextfenster? Setz die Zahl so hoch wie euer Ordner an Seiten — was nicht passt, muss ein Abruf auswählen.

Gemma 4 E4B gpt-oss-20b Qwen3.8-27B Claude Opus 5.5

Hilf mir

  1. 1Die Lösung mit Beleg

    RAG verbindet gelerntes Wissen in den Gewichten mit einem durchsuchbaren externen Index; OpenAI beschreibt es als Hinzufügen relevanter Zusatzinformationen zur Anfrage. Die Suche beruht auf Einbettungen: ähnliche Bedeutungen liegen nah beieinander.

    • Der Begriff RAG stammt aus Lewis u. a. (2020) und bezeichnet Modelle, die gelerntes Wissen in den Gewichten mit einem durchsuchbaren externen Index (dort Wikipedia) verbinden.

      Stand 22.05.2020belegtarXiv (Lewis u. a., NeurIPS 2020) · Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks

    • OpenAI beschreibt RAG als das Hinzufügen relevanter Zusatzinformationen zur Anfrage, damit das Modell Wissen jenseits seiner Trainingsdaten nutzen kann.

      Stand 15.10.2026AnbieterangabeOpenAI · Prompt engineering

    • OpenAI: File Search „enables models to retrieve information in a knowledge base of previously uploaded files through semantic and keyword search“; die Wissensbasis entsteht durch Vektorspeicher, in die man Dateien lädt.

      Stand 16.10.2026AnbieterangabeOpenAI · File search

4Prüfen

Prüffrage

Was tut ein RAG-System mit einer Frage?

Hilf mir

  1. 1Die Lösung mit Beleg

    RAG verbindet gelerntes Wissen in den Gewichten mit einem durchsuchbaren externen Index; OpenAI beschreibt es als Hinzufügen relevanter Zusatzinformationen zur Anfrage. Die Suche beruht auf Einbettungen: ähnliche Bedeutungen liegen nah beieinander.

    • Der Begriff RAG stammt aus Lewis u. a. (2020) und bezeichnet Modelle, die gelerntes Wissen in den Gewichten mit einem durchsuchbaren externen Index (dort Wikipedia) verbinden.

      Stand 22.05.2020belegtarXiv (Lewis u. a., NeurIPS 2020) · Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks

    • OpenAI beschreibt RAG als das Hinzufügen relevanter Zusatzinformationen zur Anfrage, damit das Modell Wissen jenseits seiner Trainingsdaten nutzen kann.

      Stand 15.10.2026AnbieterangabeOpenAI · Prompt engineering

    • OpenAI: File Search „enables models to retrieve information in a knowledge base of previously uploaded files through semantic and keyword search“; die Wissensbasis entsteht durch Vektorspeicher, in die man Dateien lädt.

      Stand 16.10.2026AnbieterangabeOpenAI · File search

5Einordnen

Das passt so ins Modell: Abruf ersetzt das Gedächtnis des Modells durch deine Dokumente.

Das Modell des Kurses RAG gibt dem Modell zu jeder Frage passende Stellen aus deinen Dokumenten mit — es hilft nur, wenn die richtige Stelle gefunden und gelesen wird.

Hilf mir

  1. 1Die Lösung mit Beleg

    RAG verbindet gelerntes Wissen in den Gewichten mit einem durchsuchbaren externen Index; OpenAI beschreibt es als Hinzufügen relevanter Zusatzinformationen zur Anfrage. Die Suche beruht auf Einbettungen: ähnliche Bedeutungen liegen nah beieinander.

    • Der Begriff RAG stammt aus Lewis u. a. (2020) und bezeichnet Modelle, die gelerntes Wissen in den Gewichten mit einem durchsuchbaren externen Index (dort Wikipedia) verbinden.

      Stand 22.05.2020belegtarXiv (Lewis u. a., NeurIPS 2020) · Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks

    • OpenAI beschreibt RAG als das Hinzufügen relevanter Zusatzinformationen zur Anfrage, damit das Modell Wissen jenseits seiner Trainingsdaten nutzen kann.

      Stand 15.10.2026AnbieterangabeOpenAI · Prompt engineering

    • OpenAI: File Search „enables models to retrieve information in a knowledge base of previously uploaded files through semantic and keyword search“; die Wissensbasis entsteht durch Vektorspeicher, in die man Dateien lädt.

      Stand 16.10.2026AnbieterangabeOpenAI · File search

Begriffe dieser Lektion

Abruf / RAG

Bei RAG sucht ein Programm passende Textstellen aus einer Wissenssammlung und gibt sie dem Modell mit, statt sich auf dessen Gedächtnis zu verlassen.

4 weitere Aussagen

  • OpenAI: File Search „enables models to retrieve information in a knowledge base of previously uploaded files through semantic and keyword search“; die Wissensbasis entsteht durch Vektorspeicher, in die man Dateien lädt.

    Stand 16.10.2026AnbieterangabeOpenAI · File search

  • OpenAI weist darauf hin, dass weniger Treffer (max_num_results) Token und Wartezeit sparen, aber „may come at the cost of reduced answer quality“.

    Stand 16.10.2026AnbieterangabeOpenAI · File search

  • Google: Das File-Search-Werkzeug der Gemini API „imports, chunks, and indexes your data“; Speicher und Einbetten bei der Abfrage sind frei, bezahlt werden das Einbetten beim Indexieren und die abgerufenen Stücke als Kontext-Token.

    Stand 16.10.2026AnbieterangabeGoogle · File Search

  • Antworten mit Gemini File Search können Zitate tragen (Dateiname, bei PDF die Seite), damit man die Aussage an der Quelle prüfen kann.

    Stand 16.10.2026AnbieterangabeGoogle · File Search

Einbettung

Nicht belegt — die Recherche enthält zu „Einbettung“ noch keine Aussage.

  • „Anthropic does not offer its own embedding model“; als einen Anbieter nennt Anthropic Voyage AI (MongoDB), etwa voyage-4, voyage-4-large, voyage-4-lite mit 32.000 Token Kontext.

    Stand 16.10.2026AnbieterangabeAnthropic · Embeddings

  • voyage-4-nano ist laut Anthropic-Doku ein offenes Modell (Apache 2.0) zum Selbstbetrieb, das man von Hugging Face lädt.

    Stand 16.10.2026AnbieterangabeAnthropic · Embeddings

4 weitere Aussagen

  • Bei Gemini File Search legt man die Stückgröße selbst fest: höchstens Token je Stück und Überlappung über chunking_config.

    Stand 16.10.2026AnbieterangabeGoogle · File Search

  • Laut Ollama-Doku lassen sich Einbettungen „store in a vector database, search with cosine similarity, or use in RAG pipelines“; die Beispiele nutzen embeddinggemma über http://localhost:11434/api/embed.

    Stand 16.10.2026AnbieterangabeOllama · Embeddings (Ollama Docs)

  • Ollama rät: „Use the same embedding model for both indexing and querying.“

    Stand 16.10.2026AnbieterangabeOllama · Embeddings (Ollama Docs)

  • Der Endpunkt /api/embed gibt laut Ollama L2-normierte Vektoren (Länge 1) zurück; für die meisten semantischen Suchen empfiehlt die Doku Kosinus-Ähnlichkeit.

    Stand 16.10.2026AnbieterangabeOllama · Embeddings (Ollama Docs)

Kontextfenster

Das Kontextfenster ist alles, was das Modell bei einer Antwort gleichzeitig berücksichtigen kann — Anweisungen, Verlauf, Dokumente und die Antwort selbst.

  • Anthropic definiert das Kontextfenster als den gesamten Text, auf den ein Modell beim Antworten zugreifen kann, einschließlich der Antwort selbst — ein „Arbeitsgedächtnis“, getrennt von den Trainingsdaten.

    Stand 15.10.2026AnbieterangabeAnthropic · Context windows

  • Zum Kontext zählen Systemprompt, alle Nachrichten samt Werkzeugergebnissen, Bildern und Dokumenten, die Werkzeugbeschreibungen und die erzeugte Ausgabe einschließlich Denk-Token.

    Stand 15.10.2026AnbieterangabeAnthropic · Context windows

2 weitere Aussagen