KI-Antworten fact-checken: 5 Schritte gegen Halluzinationen und Fake-Zitate

Die wichtigste Regel lautet daher: Vertrauen Sie überprüfbaren Quellen, nicht dem selbstbewussten Ton der KI.

KI ist ein Startpunkt, kein Beweis

KI kann helfen, ein Thema zu strukturieren, Suchbegriffe zu finden oder mögliche Quellen vorzuschlagen. Sobald es aber um Fakten, Zahlen, Politik, Medizin, Recht, Geldanlage oder aktuelle Nachrichten geht, zählt nicht, wie gut der Text formuliert ist. Entscheidend sind vier Fragen:

• Lässt sich die Behauptung bis zu einer Originalquelle zurückverfolgen?
• Stützt der Originaltext wirklich die Zusammenfassung der KI?
• Passen Datum, Land, Definition und Kontext?
• Gibt es eine zweite, unabhängige und verlässliche Quelle?

Wenn eine Aussage nur auf die KI selbst zurückführt, aber nicht auf ein öffentlich prüfbares Dokument, einen Datensatz, eine Veröffentlichung oder eine zuständige Institution, sollte sie als unbestätigt gelten.

Die 5-Schritte-Methode für den Faktencheck

1. Zerlegen Sie die Antwort in einzelne Behauptungen

Prüfen Sie nicht eine ganze KI-Antwort auf einmal. Teilen Sie sie in konkrete, überprüfbare Aussagen auf: Zahlen getrennt von Daten, Daten getrennt von Schlussfolgerungen, Schlussfolgerungen getrennt von Empfehlungen.

Praktischer Prompt:

Zerlege die obige Antwort in einzelne überprüfbare Behauptungen. Nenne je Behauptung Originalquelle, veröffentlichende Institution oder Autor, Datum, URL und eine Originalstelle. Wenn keine Quelle vorliegt, markiere sie als unbestätigt.

So wird schnell sichtbar, welche Aussagen tatsächlich belegt sind und wo die KI nur Lücken gefüllt hat.

2. Öffnen Sie die Quelle selbst

Ein Quellenname ist noch kein Nachweis. Öffnen Sie den Link oder suchen Sie den Originaltext und prüfen Sie:

• Funktioniert die URL?
• Stimmen Titel, Autor oder Institution und Veröffentlichungsdatum?
• Unterstützt der Originaltext die konkrete Aussage der KI?
• Ist ein Zitat vollständig oder aus dem Zusammenhang gerissen?
• Wurde eine Vermutung, Meinung oder Hintergrundinformation als sichere Tatsache dargestellt?

Wenn die Quelle nicht auffindbar ist, das Datum nicht passt oder der Originaltext etwas anderes sagt, sollte die Behauptung herabgestuft werden: unbestätigt, fraglich oder falsch wiedergegeben.

3. Gehen Sie zur Originalquelle zurück

Verlassen Sie sich nicht auf eine Kette von Zusammenfassungen. Am belastbarsten sind in der Regel Quellen, die möglichst nah am Ereignis, an der Entscheidung oder am Datensatz liegen, zum Beispiel:

• Regierungsmitteilungen, Gesetze, Verordnungen und Behördenunterlagen;
• Gerichtsunterlagen, Urteile und amtliche Protokolle;
• Unternehmensmitteilungen, Geschäftsberichte und Pressemitteilungen;
• wissenschaftliche Arbeiten, Forschungsberichte und Datensätze;
• öffentliche Stellungnahmen der beteiligten Personen, Organisationen oder Forschungsteams.

Medienberichte, Blogs und Social-Media-Beiträge können beim Einordnen helfen. Wenn Sie etwas zitieren, weitergeben oder als Grundlage für eine Entscheidung nutzen wollen, sollten Sie aber möglichst bis zum Originaldokument zurückgehen. Wenn alle Beiträge nur einander zitieren und keiner zur Primärquelle führt, ist Vorsicht geboten.

4. Prüfen Sie mit einer unabhängigen Quelle gegen

Dass eine Quelle existiert, macht die Schlussfolgerung noch nicht automatisch sicher. Sinnvoll ist ein Zwei-Ebenen-Check:

1. Originalquelle: offizielles Dokument, Studie, Datensatz, Gerichtsdokument oder Primärmitteilung.
2. Unabhängige Quelle: zum Beispiel eine etablierte Redaktion, eine wissenschaftliche Einrichtung, eine Aufsichtsbehörde oder ein Berufsverband.

Wenn die Quellen widersprüchlich sind, nicht vorschnell entscheiden. Markieren Sie die Aussage zunächst als strittig oder nicht abschließend bestätigt. Danach prüfen Sie, ob der Unterschied durch Zeitpunkt, Definition, Land oder eine fehlerhafte Weitergabe entstanden ist.

5. Stufen Sie das Ergebnis ein

Faktencheck heißt nicht immer sofort: wahr oder falsch. Oft ist eine abgestufte Bewertung sicherer.

Diese Einstufung verhindert, dass aus vielleicht, geschätzt oder einige meinen plötzlich eine angeblich feststehende Tatsache wird.

Sechs Prüfpunkte, bei denen KI-Antworten besonders kritisch sind

Zahlen: Prozentwerte, Geldbeträge, Rankings, Wachstumsraten und Stichprobengrößen brauchen eine Quelle. Achten Sie auf Jahr, Region, Grundgesamtheit und Datensatz.

Zeit: Regeln, Preise, Produktfunktionen, Unternehmensangaben und politische Entscheidungen können veraltet sein. Prüfen Sie Veröffentlichungsdatum und mögliche Aktualisierungen.

Land und Rechtsraum: Dasselbe Wort kann in Deutschland, der EU, den USA oder dem Vereinigten Königreich unterschiedliche Folgen haben. Bei Recht, Steuern, Medizin, Einwanderung, Datenschutz und Geldanlage ist der Kontext besonders wichtig.

Definitionen: Begriffe wie Nutzer, Umsatz, Risiko, Compliance, wirksam oder sicher können je nach Branche anders definiert sein. Lesen Sie, wie die Quelle den Begriff verwendet.

Zitate: Anführungszeichen beweisen nichts. Suchen Sie die Originalstelle und prüfen Sie, ob der Satz existiert, vollständig ist und im Kontext dieselbe Bedeutung hat.

Quellenqualität: Eine existierende Quelle ist nicht automatisch verlässlich. Unterscheiden Sie zwischen offiziellen Dokumenten, wissenschaftlicher Forschung, journalistischer Recherche, Unternehmenskommunikation, persönlichen Blogs und reinen Kopien anderer Inhalte.

Hochrisiko-Themen: Hier reicht KI allein nicht

Bei manchen Themen ist ein Fehler nicht nur peinlich, sondern potenziell teuer, gefährlich oder rechtlich relevant. Setzen Sie hier strengere Maßstäbe:

• medizinische Diagnosen, Medikamente und Therapien;
• Rechtsfragen, Verträge, Verfahren, Einwanderung und Steuern;
• Geldanlage, Versicherungen und Finanzentscheidungen;
• persönliche Sicherheit, Cybersicherheit und Notfälle;
• aktuelle Nachrichten, Leaks, Vorwürfe und politische Inhalte.

Ein Beispiel aus dem Rechtsbereich: OECD.AI dokumentierte einen Vorfall, bei dem generative KI-Halluzinationen ein Gerichtsverfahren beeinträchtigten; der Schaden wurde als Fehlinformation beschrieben, die ein rechtliches Verfahren beeinflusste . Nutzen Sie KI bei solchen Themen höchstens, um Fragen zu sammeln oder Dokumente zu sortieren, nicht als Ersatz für offizielle Unterlagen, fachliche Beratung oder formale Verfahren.

Warnsignale: Wann Sie besonders misstrauisch sein sollten

• Die Antwort klingt sehr sicher, liefert aber keine Quelle.
• Es heißt nur Studien zeigen oder Experten sagen, ohne Namen, Institution, Datum oder Titel.
• Viele Details werden genannt, aber der Originaltext ist nicht auffindbar.
• Eine Zahl ist auffallend präzise, aber ohne Datengrundlage.
• Die Antwort passt perfekt zur eigenen Meinung und wirkt deshalb besonders verlockend.
• Alle Quellen zitieren einander, aber keine führt zur Primärquelle.
• Es geht um aktuelle Entwicklungen, aber ein klares Aktualisierungsdatum fehlt.

NIST berücksichtigt in seinem GenAI-text-2026-Kontext ausdrücklich die Glaubwürdigkeit generierter Narrative und glaubwürdig wirkende, aber irreführende Inhalte . Kurz gesagt: Je echter es klingt, desto wichtiger ist die Quellenprüfung.

Prompts zum Kopieren

Liste nur öffentlich überprüfbare Originalquellen auf. Bitte nicht spekulieren.

Ergänze jede wichtige Behauptung um Quellenlink, veröffentlichende Institution, Datum und eine Originalstelle.

Wenn etwas unklar ist, schreibe unbekannt oder nicht bestätigt, statt die Lücke zu füllen.

Teile den Inhalt in drei Spalten: bestätigt, unbestätigt, Vermutung.

Nenne die Stellen in der Antwort, die am ehesten falsch sein könnten: Zahlen, Datum, Land, Definitionen und Zitate.

Der einfache Merksatz

Was bis zur Originalquelle zurückverfolgt werden kann, darf weiter geprüft werden. Was nur zur KI zurückführt, ist kein Fakt.

KI ist nützlich als Suchstart, Strukturhilfe und Checklisten-Generator. Ob eine Aussage belastbar ist, entscheiden aber weiterhin öffentliche, überprüfbare und vollständig kontextualisierte Quellen.