Wie OpenAI mit MentalHealthBench KI-Antworten zu psychischer Gesundheit testet

Eine Antwort kann freundlich klingen und trotzdem am Anliegen vorbeigehen. Genau hier setzt OpenAIs öffentlich zugänglicher Benchmark MentalHealthBench an: Er prüft, ob eine KI auf ein konkretes Gespräch über psychische Gesundheit hilfreich und sicher reagiert. Dafür nutzt er 1.215 simulierte Gespräche mit jeweils passenden Bewertungskriterien. OpenAI will damit eine Lücke schließen: Bisherige Tests konzentrierten sich häufig auf Krisenfälle und allgemeine Sicherheitsregeln, weniger auf die Bandbreite möglicher Unterstützung im Alltag. 13

So werden die Antworten bewertet

Die Gespräche sind synthetisch, also eigens für den Test erstellt. Manche enthalten einen längeren Verlauf. Dadurch lässt sich prüfen, ob ein Modell wichtige frühere Angaben berücksichtigt, wenn es auf die letzte Nachricht antwortet. Die Auswahl ist eine Sammlung von Testfällen – keine Aussage darüber, wie häufig diese Situationen bei ChatGPT vorkommen. 1

Mehr als 80 zugelassene Fachleute für psychische Gesundheit aus 22 Ländern waren an der Entwicklung beteiligt. Sie prüften die Gespräche und formulierten Kriterien für die Antwort auf die jeweils letzte Nachricht. Jedes Gespräch wurde von mindestens drei Fachleuten begutachtet; laut OpenAI gelangte ein Kriterium nur dann in den fertigen Benchmark, wenn alle Prüfenden ihm zustimmten. 14

Insgesamt enthält der veröffentlichte Test 5.262 solcher Kriterien. Sie beschreiben einzelne Verhaltensweisen einer Antwort: Hilfreiche Schritte werden positiv, schädliche negativ gewichtet. Ein automatisiertes Bewertungssystem prüft anschließend die Modellantwort Kriterium für Kriterium. Das Ergebnis zeigt somit, wie gut eine Antwort zu den fachlich formulierten Maßstäben passt – nicht, ob es einer betroffenen Person dadurch tatsächlich besser geht. 14

Welche Situationen deckt der Test ab?

Die Szenarien reichen von alltäglichen, nicht akuten Belastungen über schwere psychische Krisen bis zu dringenden Notfällen. Sie betreffen unter anderem Erwachsene, Jugendliche, Angehörige und Behandelnde und variieren nach Sprache und Region. Bewertet werden kann etwa, ob eine Antwort nötige Rückfragen stellt, die Selbstbestimmung der Person wahrt, angemessene praktische Hinweise gibt und die Dringlichkeit richtig einordnet. 14

Was lässt sich aus den Ergebnissen ablesen?

OpenAI berichtet von Verbesserungen bei den getesteten KI-Systemen. Schwierigkeiten bestehen demnach weiterhin darin, passenden Kontext zu erfragen und die Dringlichkeit einer Situation richtig einzuschätzen. Die vorliegenden Angaben erlauben für diesen Artikel keine belastbare Rangliste einzelner Modelle. Auch ein besseres Testergebnis garantiert keine sichere Antwort in jedem realen Gespräch. 1

OpenAI bezog außerdem Rückmeldungen von Menschen ein, die ChatGPT tatsächlich nutzen. Diese Perspektive kann die Einschätzung von Fachleuten ergänzen, ersetzt aber keine klinischen und sicherheitsbezogenen Kriterien. Welche konkreten Prioritäten Nutzende und Fachleute unterschiedlich setzten, geht aus dem vorliegenden Material nicht hervor. 1

Benchmark und Schutzfunktionen sind nicht dasselbe

MentalHealthBench ist ein Messinstrument, keine Krisenhilfe in ChatGPT. Unabhängig davon gibt OpenAI an, den Zugang zu Krisenhotlines erweitert, manche sensiblen Gespräche an sicherere Modelle weitergeleitet und bei langen Unterhaltungen Pausenerinnerungen eingeführt zu haben. Diese Maßnahmen sind Teil der Sicherheitsarbeit, machen ChatGPT aber nicht zum Ersatz für Therapie, professionelle Versorgung oder Hilfe durch Menschen vor Ort in einem Notfall. 1115