ChatGPT halluziniert ständig? 7 Strategien gegen KI-Lügen

3. Quellenangaben erzwingen

Bitten Sie ChatGPT, jede Behauptung mit einer konkreten Quelle zu belegen, inklusive URL oder Referenzdokument . Wichtig: Auch Quellenangaben können halluziniert sein – behandeln Sie sie als Behauptungen, die Sie selbst prüfen müssen . Der Zwang zur Rückverfolgbarkeit sorgt aber für eine strukturiertere, quellenbasierte Antwort .

4. Komplexe Fragen in kleine, direkte Einzelfragen aufteilen

Statt einer großen Frage stellen Sie lieber mehrere kleine, präzise Unterfragen . Das schränkt den Spielraum des Modells ein und reduziert die Gefahr von Halluzinationen . Beispiel: Statt „Welche Auswirkungen hat der Klimawandel?“ fragen Sie lieber drei konkrete Fragen zu Temperatur, Meeresspiegel und Landwirtschaft.

5. Persona und klare Grenzen setzen

Definieren Sie eine Rolle und verbieten Sie vage Formulierungen . Beispiel: „Sie sind ein wissenschaftlicher Assistent. Verwenden Sie ausschließlich Informationen aus dem von mir bereitgestellten Dokument. Steht die Antwort nicht im Dokument, sagen Sie ‚Nicht angegeben‘.“ Solche strengen Verhaltensregeln halten das Modell im Rahmen .

6. Mehrstufige Überprüfung anordnen

Ergänzen Sie eine Meta-Anweisung: „Überprüfen Sie vor der Antwort jede Behauptung anhand der bereitgestellten Quellen und kennzeichnen Sie alles, was Sie nicht bestätigen können.“ Damit zwingen Sie das Modell zur Selbstkontrolle, bevor es antwortet . Die gezeigte Logik und Quellen sollten Sie trotzdem selbst kontrollieren .

7. Wichtige Angaben immer selbst überprüfen

Betrachten Sie jede konkrete Ausgabe – Daten, Statistiken, Namen, Gesetze, medizinische oder finanzielle Details – als Hypothese, nicht als endgültige Wahrheit . Prüfen Sie wichtige Aussagen mit unabhängigen Quellen, bevor Sie darauf vertrauen. Stellen Sie dieselbe Frage zu einem anderen Zeitpunkt noch einmal; unterschiedliche Antworten sind ein starkes Indiz für Halluzination .

Was nicht zuverlässig funktioniert

• Ein einfaches „Sind Sie sicher?“ ist deutlich schwächer als die Aufforderung, Quellen zu nennen, Antworten zu verweigern oder explizite Prüfschritte zu verlangen .
• Quellenangaben ohne eigene Prüfung zu übernehmen, ist riskant .

Die entscheidende Einschränkung

Halluzinationen lassen sich nicht vollständig verhindern; das Ziel ist die Schadensminimierung, nicht die Eliminierung . Die Kombination mehrerer Techniken – Quellendokumente, Antwortverweigerung, Quellenzwang und eigene Überprüfung – bietet einen viel stärkeren Schutz als eine einzelne Methode .