OpenAIs Trusted Contact: Was hinter ChatGPTs neuer Schutzfunktion steckt

OpenAI will ChatGPT in sensiblen Situationen eine Brücke in die echte Welt geben. Die neue Funktion Trusted Contact soll genau das leisten: Erwachsene ChatGPT-Nutzerinnen und -Nutzer können freiwillig eine Vertrauensperson hinterlegen — etwa eine Freundin, einen Freund oder ein Familienmitglied. Wenn ein Gespräch Hinweise auf Selbstverletzung oder Suizidgefahr enthält, kann diese Person automatisch zu einem Check-in aufgefordert werden .

Was Trusted Contact leisten soll

Trusted Contact ist eine Sicherheitseinstellung für erwachsene ChatGPT-Nutzende. Sie wird nicht automatisch für alle aktiviert, sondern muss bewusst eingerichtet werden: Die nutzende Person wählt vorab jemanden aus, der im Ernstfall geeignet erscheint, nachzufragen oder Unterstützung anzustoßen .

Wenn ChatGPT in einem Gespräch mögliche Selbstverletzungs- oder Suizidgedanken erkennt, kann der Dienst die nutzende Person dazu ermutigen, sich an diese Vertrauensperson zu wenden . Zusätzlich kann ChatGPT der ausgewählten Person eine automatische Nachricht schicken, die sie bittet, sich bei der Nutzerin oder dem Nutzer zu melden .

Damit unterscheidet sich die Funktion von einem reinen Hinweis auf Krisenangebote: Sie kann eine menschliche Unterstützungsebene einziehen — allerdings nur mit einer Person, die zuvor von der Nutzerin oder dem Nutzer selbst ausgewählt wurde .

Der Ablauf in drei Schritten

Der bisher beschriebene Mechanismus ist vergleichsweise klar:

1. Freiwillige Aktivierung: Eine erwachsene Person aktiviert Trusted Contact und benennt vorab eine Vertrauensperson .
2. Erkennung eines Risikos: Die Schutzfunktion greift, wenn ein Chat auf mögliche Selbstverletzungs- oder Suizidgedanken hindeutet .
3. Check-in statt stiller Warnung: ChatGPT kann die nutzende Person zum Kontakt auffordern und der Vertrauensperson eine automatische Nachricht senden, damit diese nachfragt .

Wichtig ist die Grenze der Funktion: Die verfügbaren Informationen beschreiben die Nachricht als Check-in-Aufforderung. Sie machen aus der Vertrauensperson keine professionelle Krisenhilfe, keine Therapeutin oder keinen Notdienst .

Warum OpenAI diese zusätzliche Ebene einführt

Trusted Contact passt zu OpenAIs breiterem Versuch, ChatGPT in psychisch belastenden Gesprächen vorsichtiger reagieren zu lassen. OpenAI beschreibt seine Schutzmechanismen als mehrschichtig: Modelle sollen keine Anleitungen zur Selbstverletzung geben, in unterstützende und empathische Sprache wechseln und Menschen bei Bedarf auf Krisenressourcen oder reale Hilfe verweisen .

Nach Angaben des Unternehmens arbeitete OpenAI außerdem mit mehr als 170 Fachleuten aus dem Bereich psychische Gesundheit zusammen, damit ChatGPT Anzeichen von Belastung zuverlässiger erkennt, fürsorglicher reagiert und Nutzerinnen und Nutzer besser in Richtung realer Unterstützung lenkt . Trusted Contact geht dabei einen Schritt über die Chatbot-Antwort hinaus: Eine vorab ausgewählte Person kann aktiv darauf aufmerksam gemacht werden, dass ein Check-in sinnvoll sein könnte .

Was Nutzerinnen und Nutzer vor dem Einschalten wissen sollten

Der zentrale Punkt ist Zustimmung. Trusted Contact ist ein Opt-in: Die Funktion wird nur genutzt, wenn eine erwachsene Person sie aktiviert und selbst eine Kontaktperson auswählt . Umso wichtiger ist die Auswahl. Geeignet ist jemand, der erreichbar ist, verantwortungsvoll reagieren kann und im Zweifel weiß, wie reale Unterstützung organisiert wird.

Gleichzeitig sollte Trusted Contact nicht als Ersatz für akute Hilfe missverstanden werden. OpenAIs eigene Sicherheitsmaterialien beschreiben ChatGPTs Rolle vor allem darin, Belastung zu erkennen, sorgfältig zu antworten und Menschen zu realer Unterstützung oder Krisenangeboten zu führen . Wenn unmittelbare Gefahr besteht, sind lokale Notruf- oder Krisendienste der richtige Weg — nicht das Warten auf eine Chatbot-Benachrichtigung.

Was noch offen bleibt

Die bisher verfügbaren Informationen erklären den Grundmechanismus: Ein erwachsener Nutzer aktiviert Trusted Contact, ChatGPT erkennt mögliche Hinweise auf Selbstverletzung oder Suizidgefahr, und eine automatische Nachricht kann die ausgewählte Person zum Nachfragen auffordern . Unabhängige Daten dazu, ob die Funktion in der Praxis tatsächlich Schaden reduziert, liegen in den hier genannten Quellen nicht vor.

Ebenfalls nicht abschließend beschrieben ist, wie genau die automatische Nachricht formuliert ist und ob oder welche Gesprächsinhalte mit der Vertrauensperson geteilt werden . Wer die Funktion aktivieren möchte, sollte daher die aktuellen Produkt- und Datenschutzhinweise in ChatGPT sorgfältig prüfen.

Fazit

Trusted Contact ist OpenAIs neue freiwillige Sicherheitsfunktion für erwachsene ChatGPT-Nutzende, die in möglichen Selbstverletzungs- oder Suizidrisiko-Situationen eine vorher ausgewählte Person einbeziehen möchten. Wenn die Funktion aktiviert ist, kann ChatGPT zum Kontakt ermutigen und der Vertrauensperson eine automatische Check-in-Nachricht senden — als zusätzliche menschliche Unterstützungsebene neben bestehenden Krisen-Schutzmaßnahmen .