Der Sechs-Stufen-Prozess: Wie KI-Suchmaschinen Quellen verifizieren und zitieren

3. Überprüfbarkeits-Checks

Die KI liest die gesamte Quelle – nicht nur Überschriften oder Zusammenfassungen – und prüft, ob die Quelle die Behauptung direkt stützt, ihr widerspricht oder irrelevant ist. Sie erkennt Fehldarstellungen, selektive Zitate oder ausgelassene Zusammenhänge . Die Systeme bevorzugen Inhalte, die Primärdaten mit namentlich genannten Quellen zitieren und die auf andere glaubwürdige Seiten verlinken oder von dort verlinkt werden . Inhalte von anonymen Autoren, die sich auf unbenannte „Branchenexperten“ ohne externe Referenzen berufen, sind praktisch nicht überprüfbar und werden wahrscheinlich nicht zitiert .

4. Abgleich und automatisierter Faktencheck

Automatisierte Faktenchecksysteme gleichen Behauptungen mit mehreren unabhängigen Quellen ab. Wird eine Behauptung von mehreren autoritativen Quellen gestützt, wird sie eher zitiert. Widersprechen sich Quellen, kann das System die Zuverlässigkeit herabstufen . Es geht hier nicht um „richtig“ im absoluten Sinne – es geht um den Konsens zwischen Quellen, die die KI für glaubwürdig hält . Das System sucht nach Überschneidungen, Konsistenz und Übereinstimmung zwischen Quellen und prüft, ob die gleiche Idee auch anderswo in ähnlicher Form auftaucht .

5. Kriterien für die Zitatauswahl

Das System durchläuft jede Kandidatenseite mit denselben fünf Prüfungen: die Seite erreichen, sie lesen, eine klare Antwort daraus extrahieren, abwägen, ob die Quelle zum spezifischen Thema vertrauenswürdig ist, prüfen, ob sie spezifisch genug ist, um die Behauptung zu verifizieren, und bestätigen, dass sie für die Frage aktuell genug ist . Eine Seite muss genau zur gestellten Frage passen, nicht nur zum allgemeinen Thema . Inhalte, die sich auf ein klares Konzept konzentrieren, lassen sich von der KI leichter abrufen und wiederverwenden als breite oder themenübergreifende Seiten . Eine Seite, die alle Checks besteht, bekommt das Zitat; eine Seite, die auch nur eine Prüfung nicht besteht, wird abgerufen, in Betracht gezogen und dann stillschweigend fallengelassen .

6. Grounding reduziert Halluzinationen

Sobald das System die richtigen Dokumente hat, nutzt es sie, um seine Antwort zu „verankern“ (Grounding). Das bedeutet, dass es Antworten basierend auf den abgerufenen Inhalten generiert, anstatt sich nur auf seine Trainingsdaten zu verlassen. Dieser Schritt soll unbelegte Behauptungen und Halluzinationen reduzieren .

Das 60-Prozent-Problem beim Zitieren

Trotz all dieser Prüfungen ist die Genauigkeit von KI-Suchmaschinen beim Zitieren von Quellen alles andere als perfekt. Eine Studie der Columbia Journalism Review hat acht KI-Suchmaschinen getestet und festgestellt, dass sie in alarmierend vielen Fällen – etwa 60 % – falsche Quellen angeben . Die Maschinen erfinden mitunter Zitate völlig neu oder entnehmen Fakten aus nicht zusammenhängenden Abschnitten einer Quelle. Wie eine Branchenanalyse es ausdrückt: Die Verifikationsmechanismen sind „keineswegs narrensicher“ .

Was das für Nutzer bedeutet

Wenn du diesen Prozess verstehst, wird klarer, warum manche Quellen zitiert werden und andere nicht. Das System priorisiert Konsens vor Neuheit, Autorität vor Anonymität und Überprüfbarkeit vor Bequemlichkeit. Die hohe Fehlerquote bedeutet jedoch, dass Nutzer KI-gestützte Behauptungen anhand der Originalquelle überprüfen sollten – insbesondere bei Nachrichten, Statistiken und zeitkritischen Informationen. Die KI kann schnell Informationen finden – aber zu entscheiden, ob es sicher ist, sie weiterzugeben, ist der schwierige Teil .