Der Sechs-Stufen-Prozess: Wie KI-Suchmaschinen Quellen verifizieren und zitieren

Wenn du einer KI-Suchmaschine eine Frage stellst, rät sie nicht einfach. Sie durchläuft einen ausgeklügelten – aber alles andere als perfekten – mehrstufigen Prozess, um zu entscheiden, welche Quellen sie zitiert und ob die Informationen vertrauenswürdig sind. So funktioniert das Ganze wirklich – und wo es hakt.

Der Sechs-Stufen-Prüfprozess

1. Mehrstufige Abfrage und Bewertung

Das System ruft zunächst Kandidatenseiten basierend auf ihrer Relevanz für die Suchanfrage ab. Dann bewertet es die Autorität der Quelle, die faktische Genauigkeit und die kontextuelle Vollständigkeit, bevor es Inhalte für ein Zitat auswählt . Diese Bewertung findet statt, bevor eine Quelle überhaupt in einer Antwort auftaucht . Der Prozess läuft nicht in einem Durchgang ab: Die KI interpretiert die Suchanfrage semantisch, zerlegt sie in Bedeutungsbestandteile, ruft Kandidaten ab, bewertet sie und zitiert dann nur die am besten passenden .

2. Autoritäts- und Glaubwürdigkeitsscore

KI-Plattformen bewerten die Vertrauenswürdigkeit von Quellen mit mehrschichtigen Algorithmen. Sie bevorzugen Inhalte von etablierten Publikationen mit redaktioneller Glaubwürdigkeit (z. B. Forbes, Harvard Business Review, TechCrunch, Wired) und Inhalte, die von identifizierbaren, mit Namen und Qualifikationen versehenen Autoren stammen . Eine Marke, die in einem Forbes-Artikel positiv erwähnt wird, sendet ein grundlegend anderes Vertrauenssignal aus als die gleiche Behauptung auf dem eigenen Blog des Unternehmens . Über mehrere Plattformen hinweg tauchten Marken, die in mindestens vier verschiedenen, nicht verbundenen Quellen positiv erwähnt wurden, 2,8-mal häufiger in ChatGPT-Antworten auf .

3. Überprüfbarkeits-Checks

Die KI liest die gesamte Quelle – nicht nur Überschriften oder Zusammenfassungen – und prüft, ob die Quelle die Behauptung direkt stützt, ihr widerspricht oder irrelevant ist. Sie erkennt Fehldarstellungen, selektive Zitate oder ausgelassene Zusammenhänge . Die Systeme bevorzugen Inhalte, die Primärdaten mit namentlich genannten Quellen zitieren und die auf andere glaubwürdige Seiten verlinken oder von dort verlinkt werden . Inhalte von anonymen Autoren, die sich auf unbenannte „Branchenexperten“ ohne externe Referenzen berufen, sind praktisch nicht überprüfbar und werden wahrscheinlich nicht zitiert .

4. Abgleich und automatisierter Faktencheck

Automatisierte Faktenchecksysteme gleichen Behauptungen mit mehreren unabhängigen Quellen ab. Wird eine Behauptung von mehreren autoritativen Quellen gestützt, wird sie eher zitiert. Widersprechen sich Quellen, kann das System die Zuverlässigkeit herabstufen . Es geht hier nicht um „richtig“ im absoluten Sinne – es geht um den Konsens zwischen Quellen, die die KI für glaubwürdig hält . Das System sucht nach Überschneidungen, Konsistenz und Übereinstimmung zwischen Quellen und prüft, ob die gleiche Idee auch anderswo in ähnlicher Form auftaucht .

5. Kriterien für die Zitatauswahl

Das System durchläuft jede Kandidatenseite mit denselben fünf Prüfungen: die Seite erreichen, sie lesen, eine klare Antwort daraus extrahieren, abwägen, ob die Quelle zum spezifischen Thema vertrauenswürdig ist, prüfen, ob sie spezifisch genug ist, um die Behauptung zu verifizieren, und bestätigen, dass sie für die Frage aktuell genug ist . Eine Seite muss genau zur gestellten Frage passen, nicht nur zum allgemeinen Thema . Inhalte, die sich auf ein klares Konzept konzentrieren, lassen sich von der KI leichter abrufen und wiederverwenden als breite oder themenübergreifende Seiten . Eine Seite, die alle Checks besteht, bekommt das Zitat; eine Seite, die auch nur eine Prüfung nicht besteht, wird abgerufen, in Betracht gezogen und dann stillschweigend fallengelassen .

6. Grounding reduziert Halluzinationen

Sobald das System die richtigen Dokumente hat, nutzt es sie, um seine Antwort zu „verankern“ (Grounding). Das bedeutet, dass es Antworten basierend auf den abgerufenen Inhalten generiert, anstatt sich nur auf seine Trainingsdaten zu verlassen. Dieser Schritt soll unbelegte Behauptungen und Halluzinationen reduzieren .

Das 60-Prozent-Problem beim Zitieren

Trotz all dieser Prüfungen ist die Genauigkeit von KI-Suchmaschinen beim Zitieren von Quellen alles andere als perfekt. Eine Studie der Columbia Journalism Review hat acht KI-Suchmaschinen getestet und festgestellt, dass sie in alarmierend vielen Fällen – etwa 60 % – falsche Quellen angeben . Die Maschinen erfinden mitunter Zitate völlig neu oder entnehmen Fakten aus nicht zusammenhängenden Abschnitten einer Quelle. Wie eine Branchenanalyse es ausdrückt: Die Verifikationsmechanismen sind „keineswegs narrensicher“ .

Was das für Nutzer bedeutet

Wenn du diesen Prozess verstehst, wird klarer, warum manche Quellen zitiert werden und andere nicht. Das System priorisiert Konsens vor Neuheit, Autorität vor Anonymität und Überprüfbarkeit vor Bequemlichkeit. Die hohe Fehlerquote bedeutet jedoch, dass Nutzer KI-gestützte Behauptungen anhand der Originalquelle überprüfen sollten – insbesondere bei Nachrichten, Statistiken und zeitkritischen Informationen. Die KI kann schnell Informationen finden – aber zu entscheiden, ob es sicher ist, sie weiterzugeben, ist der schwierige Teil .