KI in der Verwaltung — ein Tag

KI-Verordnung

Die KI-Verordnung ist das EU-Gesetz, das Regeln für Anbieter und Betreiber von KI-Systemen nach Risiko abgestuft festlegt.

• Die KI-Verordnung trat am zwanzigsten Tag nach ihrer Veröffentlichung im Amtsblatt in Kraft und gilt grundsätzlich ab dem 2. August 2026.

  Stand 15.10.2026belegtartificialintelligenceact.eu · KI-Verordnung Artikel 113 (maschinelle Übersetzung, Fassung 2024)

• Nach dem ursprünglichen Zeitplan gelten Kapitel I und II (darunter Art. 4) ab 2. Februar 2025, Regeln u. a. zu KI-Modellen mit allgemeinem Verwendungszweck (Kapitel V) ab 2. August 2025 und Art. 6 Abs. 1 ab 2. August 2027.

  Stand 15.10.2026belegtartificialintelligenceact.eu · KI-Verordnung Artikel 113 (maschinelle Übersetzung, Fassung 2024)

Digital-Omnibus zur KI

Der Digital-Omnibus ist ein EU-Änderungsgesetz von 2026, das die KI-Verordnung abschwächt und Fristen verschiebt.

• Die Verordnung (EU) 2026/1744 („Digital-Omnibus zur KI“) wurde am 24. Juli 2026 im Amtsblatt veröffentlicht und trat am 27. Juli 2026 in Kraft.

  Stand 27.07.2026belegtNicFab Blog · Digital Omnibus on AI: Regulation (EU) 2026/1744 Is Published in the Official JournalLewis Silkin LLP · The Digital Omnibus on AI enters into force today

Hochrisiko-KI

Für Hochrisiko-KI-Systeme sieht die KI-Verordnung eigene Pflichten vor; der Digital-Omnibus hat deren Fristen verschoben.

• Durch den Omnibus gelten die Pflichten für eigenständige Hochrisiko-Systeme nach Anhang III erst ab 2. Dezember 2027 und für in Produkte eingebaute Systeme nach Anhang I ab 2. August 2028.

  Stand 27.07.2026belegtNicFab Blog · Digital Omnibus on AI: Regulation (EU) 2026/1744 Is Published in the Official JournalLewis Silkin LLP · The Digital Omnibus on AI enters into force today

• Für Hochrisiko-Systeme, die Behörden nutzen sollen, bleibt laut Fachquelle die Frist 2. August 2030 unverändert.

  Stand 24.07.2026belegtNicFab Blog · Digital Omnibus on AI: Regulation (EU) 2026/1744 Is Published in the Official Journal

KI-Kompetenz (Art. 4)

Art. 4 verpflichtet Anbieter und Betreiber von KI-Systemen, die KI-Kompetenz der Menschen zu fördern, die in ihrem Auftrag mit KI arbeiten.

• Ursprünglicher Wortlaut (2024): Anbieter und Betreiber ergreifen Maßnahmen, um „nach besten Kräften“ sicherzustellen, dass ihr Personal und andere Personen in ihrem Auftrag über „ausreichende KI-Kompetenz“ verfügen.

  Stand 15.10.2026umstrittenartificialintelligenceact.eu · KI-Verordnung Artikel 4 (maschinelle Übersetzung, Fassung 2024)

• Dabei sind nach Art. 4 technische Kenntnisse, Erfahrung, Aus- und Weiterbildung, der Einsatzkontext und die Personen, bei denen die KI eingesetzt wird, zu berücksichtigen.

  Stand 15.10.2026umstrittenartificialintelligenceact.eu · KI-Verordnung Artikel 4 (maschinelle Übersetzung, Fassung 2024)

• Art. 4 gilt seit dem 2. Februar 2025.

  Stand 15.10.2026belegtartificialintelligenceact.eu · KI-Verordnung Artikel 4 (maschinelle Übersetzung, Fassung 2024)artificialintelligenceact.eu · KI-Verordnung Artikel 113 (maschinelle Übersetzung, Fassung 2024)

• Seit dem Omnibus (27.07.2026) müssen Anbieter und Betreiber laut Fachquellen Maßnahmen zur Förderung der KI-Kompetenz treffen, aber kein bestimmtes Kompetenzniveau einzelner Personen mehr garantieren.

  Stand 27.07.2026belegtNicFab Blog · Digital Omnibus on AI: Regulation (EU) 2026/1744 Is Published in the Official JournalLewis Silkin LLP · The Digital Omnibus on AI enters into force today

• Für Behörden heißt das: Die Pflicht zu Schulungs- und Fördermaßnahmen besteht weiter, die Pflicht zum „ausreichenden“ Niveau je Person ist entfallen (Ableitung aus A-recht-6 und A-recht-9).

  Stand 27.07.2026umstrittenartificialintelligenceact.eu · KI-Verordnung Artikel 4 (maschinelle Übersetzung, Fassung 2024)NicFab Blog · Digital Omnibus on AI: Regulation (EU) 2026/1744 Is Published in the Official Journal

• Art. 4 Abs. 1 Satz 1 KI-VO lautet in der Fassung der VO (EU) 2026/1744: „Die Anbieter und Betreiber von KI-Systemen ergreifen Maßnahmen, um die Entwicklung der KI-Kompetenz ihres Personals und anderer Personen zu unterstützen, die in ihrem Auftrag mit dem Betrieb und der Nutzung von KI-Systemen befasst sind, wobei ihre technischen Kenntnisse, ihre Erfahrung, ihre Aus- und Fortbildung und der Kontext, in dem die KI-Systeme eingesetzt werden sollen, sowie die Personen oder Personengruppen, bei denen die KI-Systeme eingesetzt werden sollen, zu berücksichtigen sind.“

  Stand 27.07.2026umstrittenbuzer.de (nicht amtlich) · Artikel 4 KI-VO – KI-Kompetenz (konsolidierte Fassung)

• Art. 4 Abs. 1 Satz 2 KI-VO (neu): „Diese Verpflichtung verpflichtet Anbieter oder Betreiber nicht, für irgendeine Person ein bestimmtes Niveau an KI-Kompetenz zu garantieren.“

  Stand 27.07.2026umstrittenbuzer.de (nicht amtlich) · Artikel 4 KI-VO – KI-Kompetenz (konsolidierte Fassung)

• Art. 4 Abs. 2 (neu): Kommission und Mitgliedstaaten „unterstützen und fördern die Bemühungen der Anbieter und Betreiber von KI-Systemen und insbesondere von KMU“; die Kommission veröffentlicht dazu praktische Beispiele auf der zentralen Informationsplattform nach Art. 62 Abs. 3 Buchst. b.

  Stand 27.07.2026umstrittenbuzer.de (nicht amtlich) · Artikel 4 KI-VO – KI-Kompetenz (konsolidierte Fassung)

• Art. 4 Abs. 3 (neu): Das KI-Gremium nimmt unter Berücksichtigung der europäischen Kompetenzrahmen Empfehlungen an, um Kommission und Mitgliedstaaten bei der Förderung der KI-Kompetenz zu unterstützen.

  Stand 27.07.2026umstrittenbuzer.de (nicht amtlich) · Artikel 4 KI-VO – KI-Kompetenz (konsolidierte Fassung)

• Fundstelle laut buzer.de: Text in der Fassung des Artikels 1 der Digital-Omnibus-Verordnung zur KI, ABl. L, 2026/1744, 24. Juli 2026, mit Wirkung vom 27. Juli 2026.

  Stand 27.07.2026umstrittenbuzer.de (nicht amtlich) · Artikel 4 KI-VO – KI-Kompetenz (konsolidierte Fassung)

Brauchen Behörden eine KI-Schulung?

Art. 4 verlangt Maßnahmen zur KI-Kompetenz, die Bundesleitlinien ein Kompetenzangebot; eine bestimmte Schulungsform schreibt keine gefundene Quelle vor.

• Behörden, die KI-Systeme einsetzen, sind Betreiber im Sinn von Art. 4 und müssen Maßnahmen zur KI-Kompetenz ihres Personals treffen; Form und Umfang legen die gefundenen Quellen nicht fest.

  Stand 27.07.2026umstrittenartificialintelligenceact.eu · KI-Verordnung Artikel 4 (maschinelle Übersetzung, Fassung 2024)NicFab Blog · Digital Omnibus on AI: Regulation (EU) 2026/1744 Is Published in the Official JournalBundesministerium des Innern und für Heimat; Beauftragter der Bundesregierung für Informationstechnik (abgelegt bei BMDS) · Leitlinien für den Einsatz Künstlicher Intelligenz in der Bundesverwaltung

Leitlinien für die Bundesverwaltung

BMI und Bundes-CIO haben im März 2025 Leitlinien veröffentlicht, wie Beschäftigte und Behörden des Bundes KI einsetzen sollen.

• Die „Leitlinien für den Einsatz Künstlicher Intelligenz in der Bundesverwaltung“ (Stand März 2025) geben das BMI und der Beauftragte der Bundesregierung für Informationstechnik heraus.

  Stand 03.2025belegtBundesministerium des Innern und für Heimat; Beauftragter der Bundesregierung für Informationstechnik (abgelegt bei BMDS) · Leitlinien für den Einsatz Künstlicher Intelligenz in der Bundesverwaltung

• Die Verantwortung für Entscheidungen kann laut Leitlinien nicht an KI-Systeme als Werkzeug abgegeben werden.

  Stand 03.2025belegtBundesministerium des Innern und für Heimat; Beauftragter der Bundesregierung für Informationstechnik (abgelegt bei BMDS) · Leitlinien für den Einsatz Künstlicher Intelligenz in der Bundesverwaltung

• Leitsatz A4: Nutzende prüfen KI-generierte Inhalte vor der weiteren Verwendung fachlich; für KI-gestützte Arbeitsergebnisse gelten dieselben Qualitätsstandards wie für andere.

  Stand 03.2025belegtBundesministerium des Innern und für Heimat; Beauftragter der Bundesregierung für Informationstechnik (abgelegt bei BMDS) · Leitlinien für den Einsatz Künstlicher Intelligenz in der Bundesverwaltung

• Leitsatz A3: Nutzende prüfen vor der Eingabe, welche Daten in das jeweilige KI-System dürfen; ist das nicht ersichtlich, gilt der restriktivste Fall.

  Stand 03.2025belegtBundesministerium des Innern und für Heimat; Beauftragter der Bundesregierung für Informationstechnik (abgelegt bei BMDS) · Leitlinien für den Einsatz Künstlicher Intelligenz in der Bundesverwaltung

• Leitsatz B5 verpflichtet Behörden, ein Angebot zum Kompetenzaufbau sicherzustellen.

  Stand 03.2025belegtBundesministerium des Innern und für Heimat; Beauftragter der Bundesregierung für Informationstechnik (abgelegt bei BMDS) · Leitlinien für den Einsatz Künstlicher Intelligenz in der Bundesverwaltung

• Die Bundesregierung bezeichnete KI im August 2026 als „reguläres Arbeitswerkzeug“ der Bundesverwaltung, stets eingebettet in menschliche Vorbereitung, Prüfung und Verantwortung.

  Stand 10.08.2026belegtDeutscher Bundestag · hib 635/2026 – Antwort der Bundesregierung (Drucksache 21/7443) zu KI in der Verwaltung

• Fortbildung zu KI bietet für den Bund die Bundesakademie für öffentliche Verwaltung an, ergänzt um anwendungs- und ressortspezifische Angebote.

  Stand 10.08.2026belegtDeutscher Bundestag · hib 635/2026 – Antwort der Bundesregierung (Drucksache 21/7443) zu KI in der Verwaltung

KI-Kompetenz (Art. 4)

Steht oben.

Aufzeichnung zu Art. 4

Für Art. 4 KI-VO genügt laut Kommission eine interne Aufzeichnung der Schulungen und Maßnahmen; eine Bescheinigung verlangt sie nicht.

• Art. 4 Abs. 1 KI-VO in der Fassung der VO (EU) 2026/1744 lautet laut Amtsblatt (L, 24.7.2026): „Die Anbieter und Betreiber von KI-Systemen ergreifen Maßnahmen, um die Entwicklung der KI-Kompetenz ihres Personals und anderer Personen zu unterstützen, die in ihrem Auftrag mit dem Betrieb und der Nutzung von KI-Systemen befasst sind …“

  Stand 24.07.2026belegtAmt für Veröffentlichungen der EU · Verordnung (EU) 2026/1744 vom 8. Juli 2026 (ABl. L 2026/1744, 24.7.2026), deutsche Fassung über Cellar

• Satz 2 laut Amtsblatt: „Diese Verpflichtung verpflichtet Anbieter oder Betreiber nicht, für irgendeine Person ein bestimmtes Niveau an KI-Kompetenz zu garantieren.“ — damit ist der R2-Wortlaut (A-daten-27, Quelle buzer) an der amtlichen Fassung bestätigt.

  Stand 24.07.2026belegtAmt für Veröffentlichungen der EU · Verordnung (EU) 2026/1744 vom 8. Juli 2026 (ABl. L 2026/1744, 24.7.2026), deutsche Fassung über Cellar

• Nach Art. 4 Abs. 2 n.F. veröffentlicht die Kommission „praktische Beispiele dafür, wie diese Verpflichtung erfüllt wird“, auf der zentralen Informationsplattform (Art. 62 Abs. 3 Buchst. b).

  Stand 24.07.2026belegtAmt für Veröffentlichungen der EU · Verordnung (EU) 2026/1744 vom 8. Juli 2026 (ABl. L 2026/1744, 24.7.2026), deutsche Fassung über Cellar

• Die Erwägungsgründe der VO (EU) 2026/1744 begründen die Änderung damit, dass strenge Verpflichtungen „nicht für alle Arten von Anbietern und Betreibern geeignet“ seien und gerade kleineren Unternehmen zusätzlichen Befolgungsaufwand verursachten.

  Stand 24.07.2026belegtAmt für Veröffentlichungen der EU · Verordnung (EU) 2026/1744 vom 8. Juli 2026 (ABl. L 2026/1744, 24.7.2026), deutsche Fassung über Cellar

• Die Kommission schreibt in ihren FAQ zur KI-Kompetenz (Stand 27.07.2026), Organisationen „can keep an internal record of trainings and/or other guiding initiatives“; ein Zertifikat sei nicht nötig.

  Stand 27.07.2026belegtEuropäische Kommission · AI Literacy – Questions & Answers

• Laut denselben FAQ werden „no strict requirements or mandatory trainings“ auferlegt; das Vorgehen richtet sich nach Rolle (Anbieter oder Betreiber), Risiko der Systeme und Vorwissen des Personals.

  Stand 27.07.2026belegtEuropäische Kommission · AI Literacy – Questions & Answers

• Die FAQ halten fest: Betreiber von Hochrisiko-Systemen müssen ihr Personal weiterhin für die menschliche Aufsicht schulen.

  Stand 27.07.2026belegtEuropäische Kommission · AI Literacy – Questions & Answers

Digital-Omnibus zur KI

Steht oben.

Transparenzpflichten (Art. 50)

Art. 50 verlangt, dass Menschen erkennen können, wann sie mit KI sprechen oder KI-erzeugte Inhalte vor sich haben.

• Anbieter müssen KI-Systeme, die direkt mit Menschen interagieren, so gestalten, dass diese erfahren, dass sie mit einem KI-System interagieren, außer es ist offensichtlich.

  Stand 15.10.2026belegtartificialintelligenceact.eu · KI-Verordnung Artikel 50 (maschinelle Übersetzung, Fassung 2024)

• Anbieter von Systemen, die synthetische Audio-, Bild-, Video- oder Textinhalte erzeugen, müssen die Ausgaben maschinenlesbar als künstlich erzeugt kennzeichnen.

  Stand 15.10.2026belegtartificialintelligenceact.eu · KI-Verordnung Artikel 50 (maschinelle Übersetzung, Fassung 2024)

• Betreiber müssen offenlegen, wenn Bild-, Audio- oder Videoinhalte Deepfakes sind; bei KI-Texten zu Themen von öffentlichem Interesse entfällt die Pflicht, wenn ein Mensch redaktionell geprüft und verantwortet hat.

  Stand 15.10.2026belegtartificialintelligenceact.eu · KI-Verordnung Artikel 50 (maschinelle Übersetzung, Fassung 2024)

• Die Transparenzpflichten des Art. 50 gelten seit 2. August 2026; für generative Systeme, die schon vor diesem Tag am Markt waren, gilt für die maschinenlesbare Kennzeichnung (Abs. 2) eine Frist bis 2. Dezember 2026.

  Stand 27.07.2026belegtNicFab Blog · Digital Omnibus on AI: Regulation (EU) 2026/1744 Is Published in the Official JournalLewis Silkin LLP · The Digital Omnibus on AI enters into force today

KI-Verordnung

Steht oben.

Halluzination

Eine Halluzination ist eine Antwort, die plausibel und selbstsicher klingt, aber falsch oder erfunden ist.

• Kalai u. a. (OpenAI/Georgia Tech, 2025) beschreiben Halluzinationen als übermäßig selbstsichere, plausible Falschaussagen, die auch in den neuesten Modellen vorkommen.

  Stand 04.09.2025belegtOpenAI / Georgia Tech · Why Language Models Hallucinate (Kalai, Nachum, Vempala, Zhang)arXiv · Why Language Models Hallucinate (arXiv:2509.04664)

• Die BMI-Leitlinien erklären Halluzinieren als plausibel wirkende falsche Antworten, etwa weil das Modell Teile der Anweisung ausblendet.

  Stand 03.2025belegtBundesministerium des Innern und für Heimat; Beauftragter der Bundesregierung für Informationstechnik (abgelegt bei BMDS) · Leitlinien für den Einsatz Künstlicher Intelligenz in der Bundesverwaltung

• Beispiel aus dem Aufsatz: Auf die Frage nach Adam Kalais Geburtstag („nur antworten, wenn bekannt“) nannte ein großes offenes Modell in drei Versuchen drei verschiedene falsche Daten.

  Stand 04.09.2025gemessenOpenAI / Georgia Tech · Why Language Models Hallucinate (Kalai, Nachum, Vempala, Zhang)

Vortraining (Ursache von Halluzination)

Schon beim Lernen aus Texten entstehen Fehler, weil das Modell bei seltenen, zufälligen Fakten keine Regel erkennen kann.

• Der Aufsatz zeigt: Auch mit fehlerfreien Trainingsdaten führt das Lernziel des Vortrainings zu Fehlern, weil Erzeugen schwerer ist als zu entscheiden, ob eine Antwort gültig ist.

  Stand 04.09.2025belegtOpenAI / Georgia Tech · Why Language Models Hallucinate (Kalai, Nachum, Vempala, Zhang)

• Die Fehlerrate beim Erzeugen ist laut Aufsatz mindestens etwa doppelt so hoch wie die Fehlerrate bei der Ja/Nein-Frage „Ist das eine gültige Antwort?“.

  Stand 04.09.2025belegtOpenAI / Georgia Tech · Why Language Models Hallucinate (Kalai, Nachum, Vempala, Zhang)

• Bei willkürlichen Fakten ohne Muster (z. B. Geburtstage) halluziniert ein Basismodell laut Aufsatz mindestens so oft, wie solche Fakten im Training nur ein einziges Mal vorkamen — kommen 20 % nur einmal vor, sind mindestens 20 % Fehler zu erwarten.

  Stand 04.09.2025belegtOpenAI / Georgia Tech · Why Language Models Hallucinate (Kalai, Nachum, Vempala, Zhang)

• Laut Aufsatz gilt diese Analyse auch für Modelle mit Schlussfolgern und Suche und hängt nicht an der Transformer-Bauweise.

  Stand 04.09.2025belegtOpenAI / Georgia Tech · Why Language Models Hallucinate (Kalai, Nachum, Vempala, Zhang)

Raten wird belohnt

Modelle werden wie Prüflinge in Multiple-Choice-Tests bewertet: Raten bringt Punkte, „weiß ich nicht“ bringt keine.

• Halluzinationen bleiben nach dem Nachtraining bestehen, weil die meisten Bewertungen nur richtig/falsch zählen und so Raten bei Unsicherheit belohnen.

  Stand 04.09.2025belegtOpenAI / Georgia Tech · Why Language Models Hallucinate (Kalai, Nachum, Vempala, Zhang)arXiv · Why Language Models Hallucinate (arXiv:2509.04664)

• Ein Modell, das bei Unsicherheit immer rät, schlägt unter 0-1-Bewertung ein ansonsten gleiches Modell, das Unsicherheit ehrlich meldet.

  Stand 04.09.2025belegtOpenAI / Georgia Tech · Why Language Models Hallucinate (Kalai, Nachum, Vempala, Zhang)

• Die Autoren schlagen vor, nicht zusätzliche Halluzinationstests zu bauen, sondern die Bewertung der verbreiteten Benchmarks zu ändern.

  Stand 04.09.2025belegtarXiv · Why Language Models Hallucinate (arXiv:2509.04664)

• Vorschlag des Aufsatzes: Prüfungsfragen nennen eine Vertrauensschwelle t, falsche Antworten kosten t/(1−t) Punkte und „weiß ich nicht“ 0 Punkte — bei t = 0,75 also 2 Punkte Abzug für einen Fehler.

  Stand 04.09.2025belegtOpenAI / Georgia Tech · Why Language Models Hallucinate (Kalai, Nachum, Vempala, Zhang)

Halluzination

Steht oben.

Typische Fehler beim Prompten

Häufige Fehler sind vage Aufträge, fehlende Erfolgskriterien, keine Tests und ungeprüfte Übernahme der Ergebnisse.

• Fehler „zu vage“: „Create an analytics dashboard“ wirkt laut Anthropic schwächer als derselbe Auftrag mit ausdrücklichem Wunsch nach vielen Funktionen und Interaktionen.

  Stand 15.10.2026AnbieterangabeAnthropic · Prompting best practices

• Fehler „ohne Tests“: OpenAI empfiehlt Test- und Bewertungssuiten (Evals), die das Prompt-Verhalten beim Ändern oder Modellwechsel messen.

  Stand 15.10.2026AnbieterangabeOpenAI · Prompt engineering

• Die BMI-Leitlinien raten Beschäftigten der Bundesverwaltung, Formulierungen auszuprobieren, Rolle und Sprachstil vorzugeben (z. B. „Nutze einen professionellen Schreibstil.“) sowie Struktur, Format und Kontext zu nennen.

  Stand 03.2025belegtBundesministerium des Innern und für Heimat; Beauftragter der Bundesregierung für Informationstechnik (abgelegt bei BMDS) · Leitlinien für den Einsatz Künstlicher Intelligenz in der Bundesverwaltung

• Die BMI-Leitlinien zeigen am Beispiel „erster Mensch auf dem Mars“, dass ein Modell auf eine falsche Voraussetzung hin eine erfundene Antwort („Alex Stone, 2025“) geben kann, und nennen präzises Prompten als Gegenmittel.

  Stand 03.2025belegtBundesministerium des Innern und für Heimat; Beauftragter der Bundesregierung für Informationstechnik (abgelegt bei BMDS) · Leitlinien für den Einsatz Künstlicher Intelligenz in der Bundesverwaltung

Prompt (klar und direkt)

Das Modell weiß nur, was im Prompt steht — also Ziel, Kontext, Format und Grenzen ausdrücklich nennen.

• Anthropic empfiehlt, Claude wie eine brillante, aber neue Mitarbeiterin ohne Kenntnis der eigenen Gepflogenheiten zu behandeln: je genauer die Erklärung, desto besser das Ergebnis.

  Stand 15.10.2026AnbieterangabeAnthropic · Prompting best practices

• Anthropics „goldene Regel“: den Prompt einer Kollegin ohne Vorwissen zeigen — wäre sie verwirrt, ist es das Modell auch.

  Stand 15.10.2026AnbieterangabeAnthropic · Prompting best practices

Gegenmittel gegen Halluzination

Halluzinationen lassen sich verringern, aber nicht abschalten: Unsicherheit erlauben, Quellen verlangen, eigene Daten mitgeben und Ergebnisse prüfen.

• Gegenmittel „weiß ich nicht“ zulassen: Claude ausdrücklich erlauben, Unsicherheit zuzugeben, kann falsche Angaben laut Anthropic drastisch verringern.

  Stand 15.10.2026AnbieterangabeAnthropic · Reduce hallucinations

• Gegenmittel wörtliche Zitate: Bei langen Dokumenten (über 20 000 Token) zuerst wörtliche Zitate herausziehen lassen und nur darauf aufbauen.

  Stand 15.10.2026AnbieterangabeAnthropic · Reduce hallucinations

• Gegenmittel Belege prüfen: Zu jeder Aussage ein stützendes Zitat suchen lassen und Aussagen ohne Zitat streichen.

  Stand 15.10.2026AnbieterangabeAnthropic · Reduce hallucinations

• Gegenmittel Mehrfachlauf: Denselben Prompt mehrmals laufen lassen und vergleichen — Widersprüche zwischen den Antworten deuten auf Halluzinationen.

  Stand 15.10.2026AnbieterangabeAnthropic · Reduce hallucinations

• Gegenmittel Wissen begrenzen: Das Modell anweisen, nur die mitgegebenen Dokumente und nicht sein Allgemeinwissen zu nutzen.

  Stand 15.10.2026AnbieterangabeAnthropic · Reduce hallucinations

• Gegenmittel Abruf: RAG gibt dem Modell externe, durchsuchbare Quellen zusätzlich zum Wissen in seinen Gewichten.

  Stand 22.05.2020belegtarXiv (Lewis u. a., NeurIPS 2020) · Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks

• Gegenmittel nachsehen statt raten (Agenten): Anthropic empfiehlt, im Prompt zu verlangen, dass der Agent Dateien liest, bevor er Aussagen über Code macht.

  Stand 15.10.2026AnbieterangabeAnthropic · Prompting best practices

• Grenze: Auch nach Anthropic verringern diese Techniken Halluzinationen nur und beseitigen sie nicht; wichtige Angaben sind immer zu prüfen.

  Stand 15.10.2026AnbieterangabeAnthropic · Reduce hallucinations

• In der Bundesverwaltung prüfen Nutzende KI-generierte Inhalte vor der weiteren Verwendung fachlich; die Verantwortung bleibt bei der Person.

  Stand 03.2025belegtBundesministerium des Innern und für Heimat; Beauftragter der Bundesregierung für Informationstechnik (abgelegt bei BMDS) · Leitlinien für den Einsatz Künstlicher Intelligenz in der BundesverwaltungDeutscher Bundestag · hib 635/2026 – Antwort der Bundesregierung (Drucksache 21/7443) zu KI in der Verwaltung

Halluzination

Steht oben.

Leitlinien für die Bundesverwaltung

Steht oben.

Training mit API-Daten

Die drei großen Anbieter sagen, dass sie mit Daten aus ihren bezahlten API-Diensten nicht trainieren — Googles kostenlose Gemini-Stufe ist die Ausnahme.

• Anthropic: „Anthropic does not use the data you share when using our commercial products to train our models“, außer der Kunde nimmt am „Development Partner Program“ teil.

  Stand 15.10.2026AnbieterangabeAnthropic · Does Anthropic Act as a Data Processor or Controller?

• Anthropic sagt für aufbewahrte API-Daten zu: „Retained data is never used for model training without your express permission.“

  Stand 15.10.2026AnbieterangabeAnthropic · API and data retention

• Claude Fable 5.1 verlangt laut Anthropic 30 Tage Datenaufbewahrung und ist ohne ausdrückliche Freigabe nicht unter „Zero Data Retention“ verfügbar.

  Stand 15.10.2026AnbieterangabeAnthropic · API and data retention

• OpenAI: „As of March 1, 2023, data sent to the OpenAI API is not used to train or improve OpenAI models“, außer der Kunde willigt ausdrücklich ein.

  Stand 15.10.2026AnbieterangabeOpenAI · Data controls in the OpenAI platform (Your data)

• OpenAI bewahrt Protokolle zur Missbrauchserkennung standardmäßig „up to 30 days“ auf.

  Stand 15.10.2026AnbieterangabeOpenAI · Data controls in the OpenAI platform (Your data)

• Google nutzt bei den kostenpflichtigen Gemini-API-Diensten Eingaben und Antworten nicht, um Produkte zu verbessern; bei den kostenlosen Diensten schon, dort können auch Menschen sie lesen („human reviewers may read, annotate, and process your API input and output“).

  Stand 28.04.2026AnbieterangabeGoogle · Gemini API Additional Terms of Service

• Google rät für die kostenlosen Dienste: „Do not submit sensitive, confidential, or personal information to the Unpaid Services.“

  Stand 28.04.2026AnbieterangabeGoogle · Gemini API Additional Terms of Service

• Microsoft: gespeicherte Copilot-Verläufe werden verschlüsselt abgelegt und „isn't used to train foundation LLMs“; freiwilliges Feedback dient zur Verbesserung von Copilot, aber nicht zum Training der Grundmodelle.

  Stand 09.07.2026AnbieterangabeMicrosoft · Data, Privacy, and Security for Microsoft Copilot

• Google: „Your content is not human reviewed or otherwise used for Generative AI model training outside your domain without permission.“

  Stand 06.10.2026AnbieterangabeGoogle · Generative AI in Google Workspace Privacy Hub

DSGVO beim Einsatz von Cloud-Modellen

Wer personenbezogene Daten in ein KI-System eingibt, braucht dafür eine Rechtsgrundlage und muss prüfen, wo und von wem sie verarbeitet werden.

• Die Datenschutzkonferenz veröffentlichte am 6. Mai 2024 die Orientierungshilfe „Künstliche Intelligenz und Datenschutz“ als Checkliste für Unternehmen und Behörden zur Auswahl und Nutzung von KI-Anwendungen, mit Schwerpunkt auf großen Sprachmodellen.

  Stand 06.05.2024belegtDatenschutzkonferenz (DSK) · Pressemitteilung: Datenschutzkonferenz veröffentlicht Orientierungshilfe KI und Datenschutz

• Die DSK-Orientierungshilfe behandelt u. a. Zweckbestimmung, Transparenzpflichten, Betroffenenrechte und die Richtigkeit von Ergebnissen.

  Stand 06.05.2024belegtDatenschutzkonferenz (DSK) · Pressemitteilung: Datenschutzkonferenz veröffentlicht Orientierungshilfe KI und Datenschutz

• Personenbezogene Daten dürfen seit dem Angemessenheitsbeschluss vom 10. Juli 2023 frei an US-Unternehmen fließen, die am EU-US Data Privacy Framework teilnehmen.

  Stand 15.10.2026belegtEuropäische Kommission · EU-US data transfers

• Auch bei eigenem Betrieb (ohne externen Anbieter) gelten die Datenschutzgrundsätze; Training mit personenbezogenen Daten braucht eine Rechtsgrundlage.

  Stand 03.2025belegtBundesministerium des Innern und für Heimat; Beauftragter der Bundesregierung für Informationstechnik (abgelegt bei BMDS) · Leitlinien für den Einsatz Künstlicher Intelligenz in der Bundesverwaltung

Datenresidenz

Datenresidenz heißt, dass ein Anbieter zusagt, Daten nur in einer bestimmten Region zu verarbeiten oder zu speichern.

• Anthropic trennt zwei Einstellungen: „Inference geo“ (wo das Modell rechnet, je Anfrage) und „Workspace geo“ (wo Daten gespeichert werden).

  Stand 15.10.2026AnbieterangabeAnthropic · Data residency

• Bei der Claude API gibt es als Rechenort nur "global" (Standard, jede verfügbare Region) und "us"; als Speicherort ist „Currently, "us" is the only available workspace geo“ — eine EU-Option nennt Anthropic nicht.

  Stand 15.10.2026AnbieterangabeAnthropic · Data residency

• Rechnen nur in den USA (inference_geo: "us") kostet bei Claude 4.6 und neuer das 1,1-Fache des Standardpreises.

  Stand 15.10.2026AnbieterangabeAnthropic · Data residency

• Bei Amazon Bedrock und Google Cloud bestimmt laut Anthropic die Endpunkt-Adresse bzw. das Inferenzprofil die Region; Bedrock bietet für Claude Sonnet 4.5 und neuer „regional endpoints (guaranteed data routing)“.

  Stand 15.10.2026AnbieterangabeAnthropic · Data residencyAnthropic · Models overview

• OpenAI bietet für die API eine Region „Europe (EEA + Switzerland)“ über eu.api.openai.com mit Speicherung und Verarbeitung in der Region; eingestellt wird sie je Projekt.

  Stand 15.10.2026AnbieterangabeOpenAI · Data controls in the OpenAI platform (Your data)

• Die EU-Region von OpenAI setzt eine besondere Aufbewahrungsregel voraus (laut Tabelle „Requires Zero Data Retention, Modified Abuse Monitoring, Private Retention with PSP, or Safety Retention“) und kostet für Modelle ab 05.03.2026 „a 10% uplift“.

  Stand 15.10.2026AnbieterangabeOpenAI · Data controls in the OpenAI platform (Your data)

• Bei OpenAI unterstützen Dateien und Vektorspeicher die Speicherung in der EU, laut Tabelle aber nicht die Verarbeitung dort.

  Stand 15.10.2026AnbieterangabeOpenAI · Data controls in the OpenAI platform (Your data)

• Google Vertex AI hat für Gemini einen EU-Endpunkt (eu), der „strictly covers data residency within EU member states“ (ohne Vereinigtes Königreich und Schweiz); globale Endpunkte „don't provide regional isolation or data residency guarantees“.

  Stand 15.10.2026AnbieterangabeGoogle Cloud · Generative AI on Vertex AI – Data residency

• Laut Google bleiben gespeicherte Daten am gewählten Ort; wo gerechnet wird, hängt vom gewählten Endpunkt ab.

  Stand 15.10.2026AnbieterangabeGoogle Cloud · Generative AI on Vertex AI – Data residency

Leitlinien für die Bundesverwaltung

Steht oben.

Lokal oder Cloud: Abwägung

Lokal und Cloud unterscheiden sich vor allem bei Datenschutz, Kosten, Qualität, Abhängigkeit und Aufwand.

• Vorteil lokal, Datenschutz: Für KI-Systeme auf externer Infrastruktur gilt in der Bundesverwaltung der „restriktivste Fall der Dateneingabe“, weil eingegebene Informationen von Privatfirmen nachgenutzt werden oder leichter öffentlich werden können.

  Stand 03.2025belegtBundesministerium des Innern und für Heimat; Beauftragter der Bundesregierung für Informationstechnik (abgelegt bei BMDS) · Leitlinien für den Einsatz Künstlicher Intelligenz in der Bundesverwaltung

• Achse Drittland: Seit dem Angemessenheitsbeschluss der EU-Kommission vom 10.07.2023 dürfen personenbezogene Daten frei an US-Unternehmen fließen, die am EU-US Data Privacy Framework teilnehmen — bei Cloud-Anbietern ist diese Teilnahme also zu prüfen.

  Stand 15.10.2026belegtEuropäische Kommission · EU-US data transfers

• Kosten Cloud: Bezahlt wird je Token; die Spanne reicht im Oktober 2026 von 0,10 $ (Haiku 5.5, GPT-6 Luna) bis 10 $ (Fable 5.1, GPT-6 Astra) je 1 Mio. Eingabe-Token.

  Stand 15.10.2026AnbieterangabeAnthropic · Claude PricingOpenAI · Pricing

• Kosten lokal: Statt je Token zahlt man Hardware; ein mittleres offenes Modell wie Gemma 4 31B braucht in 4 Bit 17,5 GB Speicher allein für die Gewichte.

  Stand 15.10.2026AnbieterangabeGoogle · Gemma 4 model overview

• Nachteil lokal, Qualität/Größe: Die größten offenen Modelle passen nicht auf Arbeitsplatzrechner — Nemotron 3 Ultra verlangt mindestens 4× B200 oder 8× H100.

  Stand 04.06.2026AnbieterangabeNVIDIA · NVIDIA-Nemotron-3-Ultra-550B-A55B-NVFP4 (Model Card)

• Nachteil Cloud, Abhängigkeit: Anbieter schalten Modelle ab; Anthropic sagt für die aktuellen Modelle nur zu, sie nicht vor September/Oktober 2027 abzuschalten.

  Stand 15.10.2026AnbieterangabeAnthropic · Models overview

• Gegenmittel Abhängigkeit: OpenAI empfiehlt, Produktivanwendungen auf eine feste Modellversion (Snapshot) festzulegen und Tests zu bauen, die das Verhalten beim Wechsel messen.

  Stand 15.10.2026AnbieterangabeOpenAI · Prompt engineering

• Kosten Cloud schwanken auch nach Uhrzeit: DeepSeek berechnet außerhalb der Hauptzeiten die Hälfte.

  Stand 15.10.2026AnbieterangabeDeepSeek · Models & Pricing

DSGVO beim Einsatz von Cloud-Modellen

Steht oben.

Open-weight-Modell

Bei einem Open-weight-Modell kann man die gelernten Zahlen (Gewichte) herunterladen und selbst betreiben; die Lizenz regelt, was man damit darf.

• Offene Gewichte heißen nicht automatisch Open Source: Llama 4 nutzt eine eigene Lizenz mit Freischaltung, Nemotron 3 Ultra die OpenMDW-1.1, Qwen3.8-27B Apache 2.0, Phi-4-reasoning-vision MIT.

  Stand 15.10.2026belegtHugging Face / Meta · Hugging Face API: meta-llama/Llama-4-Scout-17B-16E-InstructNVIDIA · NVIDIA-Nemotron-3-Ultra-550B-A55B-NVFP4 (Model Card)Alibaba / Qwen · Qwen3.8-27B (Model Card)Microsoft · Phi-4-reasoning-vision-15B (Model Card)

DSGVO beim Einsatz von Cloud-Modellen

Steht oben.

Cloud-API

Man schickt Eingaben über das Internet an den Anbieter, der das Modell betreibt, und zahlt je verarbeitetem Token.

• Claude-Modelle laufen nicht nur bei Anthropic, sondern auch bei Amazon Bedrock, Google Cloud und Microsoft Foundry; Bedrock bietet regionale Endpunkte mit garantierter Datenleitung.

  Stand 15.10.2026AnbieterangabeAnthropic · Models overview

Selbst betrieben (self-hosted)

Selbst betrieben heißt: die eigene Organisation betreibt das Modell und trägt die Datenschutzpflichten selbst.

• Auch beim internen Betrieb müssen datenschutzrechtliche Grundsätze eingehalten werden; das Training mit personenbezogenen Daten braucht zum Beispiel eine Rechtsgrundlage.

  Stand 03.2025belegtBundesministerium des Innern und für Heimat; Beauftragter der Bundesregierung für Informationstechnik (abgelegt bei BMDS) · Leitlinien für den Einsatz Künstlicher Intelligenz in der Bundesverwaltung

Mail-Entwurf

Aus Stichpunkten eine sachliche Mail entwerfen lassen und vor dem Senden selbst prüfen.

Keine gültige Aussage am Schulungstag.

Rolle

Eine Rolle im Systemprompt richtet Verhalten und Ton des Modells auf den Anwendungsfall aus; ein Satz genügt.

• Schon ein einziger Satz, der im Systemprompt eine Rolle festlegt, richtet Verhalten und Ton von Claude auf den Anwendungsfall aus.

  Stand 15.10.2026AnbieterangabeAnthropic · Prompting best practices

Erfolgskriterien

Erfolgskriterien legen vorher fest, woran man ein gutes Ergebnis erkennt; ohne sie lässt sich ein Prompt nicht testen.

• Anthropic setzt vor das Prompten drei Dinge voraus: klare Erfolgskriterien, eine Möglichkeit, sie zu testen, und einen ersten Entwurf.

  Stand 15.10.2026AnbieterangabeAnthropic · Prompt engineering overview

Pilot mit Messung

Ein Pilot prüft eine KI-Anwendung an einer kleinen Aufgabe und misst vorher und nachher dieselben Größen, damit Nutzen belegt statt behauptet wird.

• Das „AI Playbook for the UK Government“ (10.02.2025) empfiehlt Nutzerforschung vor dem Projekt, die „will help establish a baseline of metrics to measure your project outcomes against“.

  Stand 10.02.2025belegtUK Government (GOV.UK) · Artificial Intelligence Playbook for the UK Government

• Das Playbook unterscheidet: „Model metrics measure how well your technology is performing“, Dienst-Kennzahlen zeigen, ob Bedürfnisse der Nutzer und Ziele des Hauses erreicht werden.

  Stand 10.02.2025belegtUK Government (GOV.UK) · Artificial Intelligence Playbook for the UK Government

• Für die Auswahl von Anwendungsfällen empfiehlt das Playbook, die Wirkung mit Werkzeugen „like cost-benefit analysis“ abzuschätzen.

  Stand 10.02.2025belegtUK Government (GOV.UK) · Artificial Intelligence Playbook for the UK Government

Erfolgskriterien

Steht oben.

Eigene Messung

Statt Bestenlisten zu glauben, legt man eigene Testfälle fest und lässt mehrere Modelle oder Prompts dieselben Aufgaben lösen.

• promptfoo ist laut Projekt „an open-source CLI and library for evaluating and red-teaming LLM apps“ unter MIT-Lizenz; Prompts, Testfälle und Anbieter werden ohne Code festgelegt, Ergebnisse als Matrix nebeneinander gezeigt.

  Stand 16.10.2026belegtpromptfoo · Intro | promptfoopromptfoo · promptfoo/promptfoo (README)

• promptfoo „runs completely locally. The evals run on your machine and talk directly with the LLM.“

  Stand 16.10.2026belegtpromptfoo · Intro | promptfoo

• Das promptfoo-Repository vermerkt: „Promptfoo is now part of OpenAI“ und bleibe „open source and MIT licensed“.

  Stand 16.10.2026belegtpromptfoo · promptfoo/promptfoo (README)