Ein Chatbot kann manchmal helfen, das innere Durcheinander in Worte zu fassen: Was ist passiert? Was fühle ich? Was brauche ich als Nächstes? Die entscheidende Frage ist aber nicht nur, ob KI zuhören kann – sondern wo sie aufhören muss. Die American Psychological Association (APA) hält in ihrem Gesundheitshinweis von 2025 fest, dass generative KI-Chatbots nicht dafür geschaffen wurden, psychische Gesundheitsversorgung zu leisten; ihre Nutzung für Mental-Health-Zwecke kann unerwartete Effekte haben und sogar der psychischen Gesundheit schaden.^[6]

Wenn du akut daran denkst, dir selbst oder anderen etwas anzutun, oder wenn du das Gefühl hast, die Kontrolle zu verlieren: Verlasse dich nicht auf einen Chatbot. Wende dich sofort an den örtlichen Notruf, einen Krisendienst, medizinisches Personal oder eine vertraute Person. APA Services weist außerdem darauf hin, dass kein KI-Chatbot von der US-Arzneimittelbehörde FDA zugelassen wurde, psychische Gesundheitsprobleme zu diagnostizieren, zu behandeln oder zu heilen.^[7]

Kurzfassung: KI kann eine Brücke sein, nicht das Behandlungszimmer

Am sichersten ist es, KI als Sortierhilfe zu verstehen: Sie kann dir helfen, Gedanken zu ordnen, eine Nachricht an eine vertraute Person vorzubereiten oder Gesprächspunkte für eine Beratung zu formulieren. Das ist Selbststrukturierung – keine Psychotherapie.^[6]

Problematisch wird es, wenn ein allgemeiner Chatbot entscheiden soll, ob du Depressionen, ein Trauma oder eine andere psychische Erkrankung hast, oder wenn er Therapie-, Medikamenten- oder Krisenpläne entwerfen soll. APA Services beschreibt die Nutzung generischer KI-Chatbots für Mental-Health-Support als gefährlichen Trend und betont, dass kein KI-Chatbot von der FDA für Diagnose, Behandlung oder Heilung psychischer Gesundheitsprobleme zugelassen ist.^[7]

Schnellcheck: Was geht – und wo ist Stopp?

Situation	Eignet sich KI?	Sichererer Rahmen
Du möchtest eine belastende Situation erzählen und deine Gefühle sortieren	Ja, aber nur bei niedrigem Risiko	Bitte die KI nur darum, Ereignisse, Gedanken, Gefühle und mögliche nächste Schritte zu strukturieren – nicht um Diagnosen.[6]
Du möchtest Tagebuch schreiben oder ein Gespräch mit einer echten Person vorbereiten	Ja	Nutze die Antwort als Entwurf und bespreche sie mit einer vertrauten Person, Beratungsstelle oder medizinischem Fachpersonal.
Du willst wissen, ob du eine Depression, ein Trauma oder eine andere psychische Erkrankung hast	Nein	Dafür braucht es eine qualifizierte psychologische oder medizinische Einschätzung; Chatbots sind dafür nicht FDA-zugelassen.[7]
Du möchtest KI statt Psychotherapie nutzen	Nicht empfohlen	Ein in ASU News befragter Psychologe rät davon ab, KI-Chatbots vor Einführung ausreichender Schutzmechanismen als Alternative zu menschlicher Therapie zu verwenden.[2]
Es besteht Gefahr von Selbstverletzung, Suizid, Gewalt gegen andere oder unmittelbarem Kontrollverlust	Nein	Sofort menschliche Hilfe suchen: örtlicher Notruf, Krisendienst, medizinisches Personal oder eine vertraute Person.[6][7]

Wofür KI eher geeignet ist

Bei niedrigem Risiko kann KI vor allem beim Formulieren helfen. Sinnvolle, begrenzte Einsätze sind zum Beispiel:

• Gefühle benennen: Eine lange Schilderung in „Was ist passiert?“, „Was denke ich?“, „Was fühle ich?“ und „Was brauche ich?“ aufteilen.
• Tagebuch strukturieren: Aus einem ungeordneten Text eine kurze Reflexion, Stichpunkte oder eine Zusammenfassung machen.
• Hilfe vorbereiten: Eine Nachricht an Freundinnen, Freunde, Familie, Beratende oder medizinische Fachpersonen formulieren.
• Ein Gespräch üben: Drei Punkte herausarbeiten, die du in einem echten Gespräch zuerst sagen möchtest.
• Einen kleinen nächsten Schritt finden: Zum Beispiel Abstand zur auslösenden Situation nehmen, Wasser trinken, schlafen gehen oder eine reale Unterstützungsperson kontaktieren.

Der gemeinsame Nenner: Die KI sortiert Sprache. Sie trifft keine klinischen Entscheidungen. Die APA weist darauf hin, dass emotionale Unterstützung – etwa andere Perspektiven, Beziehungstipps oder Vorschläge zur Stimmungsverbesserung – 2025 zu den häufigen Nutzungen generativer KI-Chatbots gehört, obwohl allgemeine GenAI-Chatbots nicht für psychische Gesundheitsversorgung entwickelt wurden.^[6]

Warum generische Chatbots besondere Vorsicht brauchen

1. Sie sind keine psychotherapeutischen Produkte

Die APA unterscheidet klar: Generative KI-Chatbots wurden nicht geschaffen, um Mental Health Care zu leisten, und Wellness-Apps wurden nicht dafür entwickelt, psychische Störungen zu behandeln; trotzdem werden beide Arten von Tools häufig genau dafür genutzt.^[6] Dass ein Chatbot warm, geduldig oder verständnisvoll klingt, bedeutet nicht, dass er klinische Ausbildung, Verantwortung oder Krisenkompetenz hat.

2. Bestätigung fühlt sich gut an – ist aber nicht automatisch sicher

Expertinnen und Experten des Teachers College der Columbia University weisen darauf hin, dass generative KI-Chatbots oft so gestaltet sind, dass sie bestätigend reagieren. Diese validierende Qualität kann sich wie Beziehungssupport anfühlen. Gleichzeitig betonen sie, dass die Psychologie solche Werkzeuge evaluieren, Langzeitfolgen verfolgen und die Öffentlichkeit über Risiken und Nutzen informieren muss.^[1]

Mit anderen Worten: Eine Antwort kann sich tröstlich anfühlen und trotzdem unzuverlässig, unvollständig oder für deine Lage ungeeignet sein.

3. Spezielle Wellness-Tools sind nicht dasselbe wie allgemeine Chatbots

Die APA verweist auf Studien, in denen speziell für Wellness entwickelte Technologien mit geringeren selbstberichteten Symptomen von Stress, Einsamkeit, Depression und Angst sowie mit positiven Verhaltensänderungen und besser berichtetem Wohlbefinden in Verbindung gebracht wurden.^[3]

Wichtig ist aber die Einschränkung: Diese Hinweise auf mögliche Vorteile beziehen sich laut APA nicht auf allgemeine GenAI-Chatbots; die Forschung zur Nutzung allgemeiner generativer Chatbots für psychische Gesundheit ist weiterhin begrenzt.^[3] Deshalb sollte man spezialisierte, getestete Mental-Health- oder Wellness-Werkzeuge nicht mit beliebigen Chatbots gleichsetzen.^[3][7]

Wenn du KI trotzdem nutzt: vier Sicherheitslinien

1. Die Rolle klar begrenzen

Starte mit einer klaren Anweisung: keine Diagnose, keine Therapieplanung, keine Medikamentenempfehlung. Genau diese Grenze ist wichtig, weil APA Services festhält, dass kein KI-Chatbot von der FDA für Diagnose, Behandlung oder Heilung psychischer Gesundheitsprobleme zugelassen wurde.^[7]

2. Eher spezialisierte Tools als allgemeine Chatbots wählen

Ein in ASU News befragter Psychologe empfiehlt Menschen, die Chatbots für emotionale Unterstützung, Therapieähnliches oder als Ergänzung zu formaler Psychotherapie nutzen, eher Werkzeuge zu verwenden, die für Mental-Health-Zwecke entwickelt wurden – nicht allgemeine KI-Plattformen. Bis ausreichende Schutzmechanismen bestehen, empfiehlt er KI-Chatbots nicht als Alternative zu menschlicher Therapie.^[2]

3. Nach Forschung und klinischer Prüfung fragen

APA Services schreibt, dass KI-Chatbots eher hilfreich sein können, wenn sie auf psychologischer Forschung beruhen und von erfahrenen Klinikerinnen und Klinikern getestet wurden.^[7] Eine freundliche, schnelle oder scheinbar empathische Antwort allein ist kein Nachweis für Qualität.

4. Bei Krise oder klinischen Fragen sofort zu Menschen wechseln

Sobald es um Suizidgedanken, Selbstverletzung, Gefahr für andere, starken Kontrollverlust, Diagnose, Medikamente oder Therapieentscheidungen geht, sollte KI nicht die zentrale Anlaufstelle sein. Die APA warnt vor möglichen unerwünschten Effekten und Schäden bei Mental-Health-Nutzung generativer Chatbots; APA Services betont zusätzlich die Grenze bei Diagnose, Behandlung und Heilung.^[6][7]

Sichere Prompt-Beispiele zum Kopieren

Diese Formulierungen halten die KI bewusst in der Rolle einer Sortierhilfe:

• „Bitte stelle keine Diagnose und gib keine Therapie- oder Medikamentenempfehlung. Hilf mir nur, die folgenden Gefühle in Themen zu ordnen.“
• „Bitte teile meinen Text auf in: Was ist passiert? Was denke ich? Was fühle ich? Welche drei Punkte könnte ich einer echten Person erzählen?“
• „Hilf mir, eine kurze Nachricht an eine Freundin, einen Freund, ein Familienmitglied oder eine Beratungsstelle zu schreiben. Der Ton soll einfach und direkt sein.“
• „Bitte bereite eine Liste mit Informationen vor, die ich einer Ärztin, einem Arzt oder einer Beratungsperson schildern kann – ohne selbst eine Diagnose zu stellen.“
• „Bitte erinnere mich daran, in welchen Situationen ich aufhören sollte, KI zu fragen, und stattdessen menschliche Unterstützung brauche.“

Solche Prompts machen aus einem Chatbot keinen professionellen Helfer. Sie reduzieren nur den Nutzungsbereich auf eine vorsichtigere, weniger riskante Aufgabe.^[6][7]

Wann du nicht weiter mit KI sprechen solltest

Suche vorrangig menschliche Unterstützung, wenn einer dieser Punkte zutrifft:

• Du hast Gedanken an Suizid, Selbstverletzung oder Gewalt gegen andere – oder befürchtest, gleich gefährlich zu handeln.
• Du brauchst eine Diagnose, eine Therapieentscheidung, Hilfe bei Medikamenten oder eine Einschätzung, ob eine psychische Erkrankung vorliegt.
• Deine Belastung beeinträchtigt Alltag, Arbeit, Studium, Schlaf oder Beziehungen deutlich.
• Du bist bereits bei Psychotherapeutinnen, Ärzten, Beratenden oder Psychiatern in Behandlung und die KI-Antwort widerspricht deren Einschätzung.

Der Punkt ist nicht, dass KI grundsätzlich nutzlos wäre. Die sicherere Einordnung lautet: Allgemeine Chatbots können bei manchen Formen der emotionalen Selbstsortierung helfen. Sie sollten aber nicht die Rolle von ausgebildeten Menschen übernehmen, die Verantwortung, klinische Erfahrung und Krisenkompetenz mitbringen.^[2][6][7]

Fazit

KI kann beim Sortieren von Gefühlen nützlich sein: benennen, zusammenfassen, Tagebuch strukturieren, ein Gespräch vorbereiten. Sobald es um Therapie, Diagnose, Medikamente, Krise, Suizid- oder Selbstverletzungsrisiko geht, ist die rote Linie erreicht. Dann gehört die Situation zu echten Menschen – nicht in einen Chatbot.^[6][7]