Zum Inhalt
KIdemie Konto

Woher Halluzination kommtLektion 1 von 4Probelektion, ohne Konto

Raten wird belohnt

1Ziel

Du lernst, warum Sprachmodelle raten, statt „weiß ich nicht“ zu sagen.

Baustein Halluzination Woran du es erkennst: Die Antwort klingt glatt und sicher, aber eine Angabe lässt sich nirgends finden.

Hilf mir

  1. 1Die Lösung mit Beleg

    Ein Modell, das bei Unsicherheit immer rät, schlägt unter 0-1-Bewertung ein gleiches Modell, das ehrlich „weiß ich nicht“ sagt. Und selbst fehlerfreie Trainingsdaten verhindern Fehler nicht.

2Erklären

Regel: Schon das Vortraining erzeugt Fehler, weil Erzeugen schwerer ist als zu entscheiden, ob eine Antwort gültig ist.3

Sie bleiben nach dem Nachtraining, weil Bewertungen meist nur richtig/falsch zählen — Raten bringt mehr als Schweigen.1

Unter 0-1-Bewertung schlägt ein Modell, das immer rät, eines, das Unsicherheit meldet.2

Im Büro: „14 Uhr“ und „Raum 2.13“ in einer umformulierten Mail, die das nirgends sagte, sind genau dieses Raten.

Belege dieser Erklärung (3, gleich in allen drei Stilen)

  1. Halluzinationen bleiben nach dem Nachtraining bestehen, weil die meisten Bewertungen nur richtig/falsch zählen und so Raten bei Unsicherheit belohnen.

    Stand 04.09.2025belegtOpenAI / Georgia Tech · Why Language Models Hallucinate (Kalai, Nachum, Vempala, Zhang)arXiv · Why Language Models Hallucinate (arXiv:2509.04664)

  2. Ein Modell, das bei Unsicherheit immer rät, schlägt unter 0-1-Bewertung ein ansonsten gleiches Modell, das Unsicherheit ehrlich meldet.

    Stand 04.09.2025belegtOpenAI / Georgia Tech · Why Language Models Hallucinate (Kalai, Nachum, Vempala, Zhang)

  3. Der Aufsatz zeigt: Auch mit fehlerfreien Trainingsdaten führt das Lernziel des Vortrainings zu Fehlern, weil Erzeugen schwerer ist als zu entscheiden, ob eine Antwort gültig ist.

    Stand 04.09.2025belegtOpenAI / Georgia Tech · Why Language Models Hallucinate (Kalai, Nachum, Vempala, Zhang)

Auf diesem Mac sollte das lokale Modell qwen2.5-coder:7b eine Mail nur umformulieren — und schrieb „14 Uhr“ und „Raum 2.13“ hinein, die in der Vorlage nirgends stehen. Würdest du bei einer Frage, die du nicht weißt, leer lassen oder raten?

Aufgezeichnet am 15.10.2026 mit qwen2.5-coder:7b — Lokal gegen Cloud: eine Mail umformulieren

Hilf mir

  1. 1Die Lösung mit Beleg

    Ein Modell, das bei Unsicherheit immer rät, schlägt unter 0-1-Bewertung ein gleiches Modell, das ehrlich „weiß ich nicht“ sagt. Und selbst fehlerfreie Trainingsdaten verhindern Fehler nicht.

3Mitmachen

Übung

Vier dieser Sätze stehen mit Quelle im Netz, einer nicht. Welcher?

  1. Auf die Frage nach Adam Kalais Geburtstag („nur antworten, wenn bekannt“) nannte ein großes offenes Modell in drei Versuchen drei verschiedene falsche Daten.
  2. Halluzinationen bleiben nach dem Nachtraining bestehen, weil die meisten Bewertungen nur richtig/falsch zählen und so Raten bei Unsicherheit belohnen.
  3. Seit 2026 halluzinieren die großen Sprachmodelle nicht mehr, wenn man sie höflich fragt.
  4. Claude ausdrücklich erlauben, Unsicherheit zuzugeben, kann falsche Angaben laut Anthropic drastisch verringern.
  5. Auch nach Anthropic verringern diese Techniken Halluzinationen nur und beseitigen sie nicht; wichtige Angaben sind immer zu prüfen.
Hilf mir

  1. 1Die Lösung mit Beleg

    Ein Modell, das bei Unsicherheit immer rät, schlägt unter 0-1-Bewertung ein gleiches Modell, das ehrlich „weiß ich nicht“ sagt. Und selbst fehlerfreie Trainingsdaten verhindern Fehler nicht.

4Prüfen

Prüffrage

Warum raten Sprachmodelle oft, statt „weiß ich nicht“ zu sagen?

Hilf mir

  1. 1Anders gefragt

    Was bringt einem Modell in einer Prüfung mehr Punkte, wenn nur richtig oder falsch zählt — raten oder schweigen?

  2. 2Ein Beispiel

    Bei einer Ankreuzprüfung ohne Minuspunkte kreuzt du lieber irgendetwas an, als die Frage leer zu lassen.

  3. 3Die Lösung mit Beleg

    Ein Modell, das bei Unsicherheit immer rät, schlägt unter 0-1-Bewertung ein gleiches Modell, das ehrlich „weiß ich nicht“ sagt. Und selbst fehlerfreie Trainingsdaten verhindern Fehler nicht.

5Einordnen

Das passt so ins Modell: Erfinden ist kein Ausrutscher, sondern folgt daraus, dass Raten mehr Punkte bringt als Schweigen.

Das Modell des Kurses Ein Modell erfindet, weil Raten beim Lernen und Bewerten belohnt wird — darum hilft nur, Quellen zu verlangen und selbst zu prüfen.

Hilf mir

  1. 1Die Lösung mit Beleg

    Ein Modell, das bei Unsicherheit immer rät, schlägt unter 0-1-Bewertung ein gleiches Modell, das ehrlich „weiß ich nicht“ sagt. Und selbst fehlerfreie Trainingsdaten verhindern Fehler nicht.

Begriffe dieser Lektion

Halluzination

Eine Halluzination ist eine Antwort, die plausibel und selbstsicher klingt, aber falsch oder erfunden ist.

Vortraining (Ursache von Halluzination)

Schon beim Lernen aus Texten entstehen Fehler, weil das Modell bei seltenen, zufälligen Fakten keine Regel erkennen kann.

2 weitere Aussagen

Raten wird belohnt

Modelle werden wie Prüflinge in Multiple-Choice-Tests bewertet: Raten bringt Punkte, „weiß ich nicht“ bringt keine.

2 weitere Aussagen