Gegenmittel gegen Halluzination

Halluzinationen lassen sich verringern, aber nicht abschalten: Unsicherheit erlauben, Quellen verlangen, eigene Daten mitgeben und Ergebnisse prüfen.

Fachwort: grounding, citations, verification

Im Netz

Teil von: Halluzination
Setzt voraus: Halluzination
Verwandt: Abruf / RAG Grenzen des Abrufs Halluzination Raten wird belohnt Tests als Tor
Gilt für: Lange Akte durchsuchenStand 15.10.2026 Recherche mit QuellenStand 15.10.2026
Gelehrt in: Bescheid und Akte zusammenfassen Text für die Öffentlichkeit prüfen Woher die Antwort kommt: Zitat mit Fundstelle Gegenmittel: Zitate, Quellen, eigene Daten Prüfen bleibt Pflicht

Was das Netz dazu sagt

Gegenmittel „weiß ich nicht“ zulassen: Claude ausdrücklich erlauben, Unsicherheit zuzugeben, kann falsche Angaben laut Anthropic drastisch verringern.
Stand 15.10.2026AnbieterangabeAnthropic · Reduce hallucinations
Gegenmittel wörtliche Zitate: Bei langen Dokumenten (über 20 000 Token) zuerst wörtliche Zitate herausziehen lassen und nur darauf aufbauen.
Stand 15.10.2026AnbieterangabeAnthropic · Reduce hallucinations
Gegenmittel Belege prüfen: Zu jeder Aussage ein stützendes Zitat suchen lassen und Aussagen ohne Zitat streichen.
Stand 15.10.2026AnbieterangabeAnthropic · Reduce hallucinations
Gegenmittel Mehrfachlauf: Denselben Prompt mehrmals laufen lassen und vergleichen — Widersprüche zwischen den Antworten deuten auf Halluzinationen.
Stand 15.10.2026AnbieterangabeAnthropic · Reduce hallucinations
Gegenmittel Wissen begrenzen: Das Modell anweisen, nur die mitgegebenen Dokumente und nicht sein Allgemeinwissen zu nutzen.
Stand 15.10.2026AnbieterangabeAnthropic · Reduce hallucinations
Gegenmittel Abruf: RAG gibt dem Modell externe, durchsuchbare Quellen zusätzlich zum Wissen in seinen Gewichten.
Stand 22.05.2020belegtarXiv (Lewis u. a., NeurIPS 2020) · Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks
Gegenmittel nachsehen statt raten (Agenten): Anthropic empfiehlt, im Prompt zu verlangen, dass der Agent Dateien liest, bevor er Aussagen über Code macht.
Stand 15.10.2026AnbieterangabeAnthropic · Prompting best practices
Grenze: Auch nach Anthropic verringern diese Techniken Halluzinationen nur und beseitigen sie nicht; wichtige Angaben sind immer zu prüfen.
Stand 15.10.2026AnbieterangabeAnthropic · Reduce hallucinations
In der Bundesverwaltung prüfen Nutzende KI-generierte Inhalte vor der weiteren Verwendung fachlich; die Verantwortung bleibt bei der Person.
Stand 03.2025belegtBundesministerium des Innern und für Heimat; Beauftragter der Bundesregierung für Informationstechnik (abgelegt bei BMDS) · Leitlinien für den Einsatz Künstlicher Intelligenz in der BundesverwaltungDeutscher Bundestag · hib 635/2026 – Antwort der Bundesregierung (Drucksache 21/7443) zu KI in der Verwaltung