Das ist allerdings keine lückenlose Altersverifikation. Ein solches System kann Erwachsene irrtümlich einschränken – ein False Positive – oder Minderjährige übersehen. Zudem können Nutzer falsche Angaben machen oder das Konto einer anderen Person verwenden. Die verfügbaren Informationen sprechen deshalb dafür, die Altersprognose als eine Schutzmaßnahme zu verstehen, nicht als vollständiges Altersnachweissystem.
Die Lernfunktionen sollen ChatGPT eher zu einem digitalen Lernpartner als zu einer Maschine für fertige Antworten machen:
Damit folgt OpenAI dem erklärten Ziel, Lernen zu unterstützen, ohne schulische Aufgaben einfach vollständig im Namen der Schülerinnen und Schüler zu erledigen. Eine pädagogisch immer passende Antwort oder eine ehrliche Nutzung wird dadurch trotzdem nicht garantiert.
Eltern oder Erziehungsberechtigte können ihr eigenes Konto freiwillig mit dem Konto eines Jugendlichen über Parental Controls verknüpfen. Danach lassen sich ausgewählte Sicherheits- und Produkteinstellungen verwalten, darunter:
Zusätzlich können verknüpfte Eltern:
Die Funktion ist ausdrücklich kein Überwachungs-Dashboard für Familien. Eltern bekommen weder die Chats noch Transkripte oder den Chatverlauf ihres Kindes zu sehen. Auch die Sicherheitsmeldungen sind keine Echtzeitüberwachung.
ChatGPT für Jugendliche zeigt Hinweise an, die nach längerer Nutzung zu einer Pause auffordern sollen. OpenAI hat für Jugendliche häufigere Erinnerungen beschrieben; Berichte zum Start nannten einen Hinweis nach 90 Minuten Aktivität innerhalb eines Zeitfensters von drei Stunden.
Die Sicherheitsmeldungen sind bewusst eng begrenzt. OpenAI zufolge kann ein verknüpftes Elternkonto benachrichtigt werden, wenn speziell geschulte Prüfer einen ernsthaften Hinweis auf Selbstgefährdung erkennen. Meldungen können sich außerdem auf bestimmte Kontodeaktivierungen im Zusammenhang mit Gewalt beziehen. OpenAI hat zudem eine Ausweitung auf Gespräche über Essstörungen beschrieben.
Solche Hinweise können Risiken übersehen und ersetzen weder den Notruf noch professionelle Hilfe oder die direkte Unterstützung durch eine vertraute erwachsene Person.
OpenAI zufolge gelten für die Unter-18-Erfahrung zusätzliche Regeln in Bereichen, die für Minderjährige besonders riskant sein können.
In ernsten Fällen sollen Antworten stärker eingeschränkt und auf Interventionen ausgerichtet werden, die zu Unterstützung und Eskalation an geeignete Hilfsangebote führen. Für verknüpfte Eltern gibt es dafür begrenzte Benachrichtigungswege.
Die Schutzmechanismen sollen schädliche Anleitungen sowie grafische oder entwicklungsunangemessene Inhalte reduzieren. Gespräche über Essstörungen gehören außerdem zu der von OpenAI beschriebenen erweiterten Benachrichtigungsabdeckung.
Für gewaltbezogene Inhalte und gefährliche Aktivitäten gelten engere Grenzen. In bestimmten Fällen, in denen es um konkrete Gewalthandlungen geht, kann ein Konto deaktiviert werden. Ein verknüpftes Elternkonto kann dann eine begrenzte Sicherheitsmeldung erhalten.
Für unter 18-Jährige gelten strengere Einschränkungen bei explizitem oder grafischem Material sowie bei sexualisiertem oder romantischem Rollenspiel. Über die Elternkontrollen lassen sich zusätzlich Filter für sexuelles oder romantisches Rollenspiel, gewalttätiges Rollenspiel und weitere sensible Kategorien aktivieren.
Die Verhaltensregeln für Minderjährige sollen verhindern, dass das Modell gegenüber Jugendlichen romantische Sprache verwendet, emotionale Abhängigkeit fördert oder den Eindruck erweckt, selbst Gefühle oder ein Bewusstsein zu besitzen. Ziel ist laut OpenAI, gesunde Beziehungen außerhalb des Chatbots zu stärken.
Diese Regeln beschreiben Produktverhalten und Richtlinien. Sie sind kein Beleg dafür, dass jede unsichere Anfrage blockiert oder jedes riskante Gespräch erkannt wird.
OpenAI stellt ChatGPT für Jugendliche als Versuch dar, die bereits bestehende Nutzung generativer KI altersgerechter und stärker auf Lernen auszurichten – statt Jugendliche grundsätzlich von der Technologie auszuschließen. Die Einführung baut auf früheren Arbeiten zu Elternkontrollen, Altersprognosen, Leitlinien für die Sicherheit Jugendlicher und speziellen Regeln für Unter-18-Jährige auf.
Der Zeitpunkt fällt zugleich in eine Phase wachsender Kritik an möglichen Risiken von Chatbots für Kinder und Jugendliche. Dazu zählen Gespräche über Selbstverletzung, unsichere Ratschläge, sexuelle Interaktionen, emotionale Abhängigkeit und zwanghafte Nutzung. Auch große soziale Plattformen haben ihre Angebote für Jugendliche um Altersprognosen, Inhaltsbeschränkungen, Betreuungstools sowie Zeit- und Pausenerinnerungen erweitert. ChatGPT für Jugendliche bringt OpenAI damit stärker in den Wettbewerb darum, wie Verbraucher-KI für junge Nutzer gestaltet und begrenzt werden soll.
Die entscheidende offene Frage lautet nicht nur, welche Schutzfunktionen existieren, sondern wie zuverlässig sie im Alltag funktionieren. Kinderschutz-Experten und andere Kritiker begrüßen strengere Standardeinstellungen, bezweifeln aber, dass automatisierte Schutzmechanismen bei unterschiedlichen Formulierungen und realer Nutzung immer zuverlässig greifen.
Vier praktische Einschränkungen sind besonders wichtig:
Die sachlich am besten belegte Schlussfolgerung ist daher enger als die Aussage, ChatGPT für Jugendliche sei „sicher“: OpenAI hat für unter 18-Jährige einen restriktiveren und lernorientierten Standard mit nützlichen Familienfunktionen und gezielten Schutzmaßnahmen geschaffen. Ob diese Maßnahmen in echten Gesprächen zuverlässig funktionieren, müssen weitere Tests und unabhängige Bewertungen zeigen.