Doświadczenie jest automatycznie stosowane, gdy informacje zapisane na koncie wskazują na wiek 13–17 lat albo system przewidywania wieku OpenAI oceni użytkownika jako osobę niepełnoletnią. Firma deklaruje, że w razie niepewności wybiera bezpieczniejsze ustawienia dla osób poniżej 18. roku życia. OR
Nie jest to jednak równoznaczne z idealną weryfikacją wieku. Taki system może błędnie ograniczyć konto osoby dorosłej albo nie rozpoznać części nieletnich użytkowników. Problemem może być również podanie nieprawdziwego wieku lub korzystanie z cudzego konta. Dostępne informacje wskazują więc, że wykrywanie wieku należy traktować jako jeden ze środków ochronnych, a nie kompletny system potwierdzania wieku. RG
Narzędzia edukacyjne mają sprawić, że ChatGPT będzie raczej partnerem w nauce niż generatorem gotowych odpowiedzi:
Celem tych funkcji jest wspieranie uczenia się bez wyręczania ucznia w wykonywaniu całej pracy. Nie oznacza to jednak, że każda odpowiedź będzie poprawna z punktu widzenia dydaktyki albo że każdy użytkownik będzie korzystał z systemu uczciwie.
Rodzic lub opiekun może opcjonalnie połączyć swoje konto z kontem nastolatka za pomocą funkcji kontroli rodzicielskiej. Po połączeniu może zarządzać wybranymi ustawieniami bezpieczeństwa i produktu, między innymi ochroną przed treściami wrażliwymi, zapisaną pamięcią, udziałem w trenowaniu modeli, trybem głosowym oraz wybranymi narzędziami, takimi jak generowanie obrazów, Cloud Browser czy dostęp sieciowy Codex. H
Połączone konto rodzica pozwala także:
To nie jest rodzinny panel szpiegowski. Rodzice nie otrzymują rozmów, transkrypcji ani historii czatów nastolatka. Powiadomienia nie oznaczają też monitoringu w czasie rzeczywistym. HG
ChatGPT dla nastolatków wyświetla przypomnienia zachęcające do przerwania korzystania z usługi i odejścia od ekranu po dłuższym czasie. OpenAI zapowiadało częstsze przypomnienia dla nastolatków korzystających z ChatGPT przez długi czas; relacje dotyczące wdrażania funkcji opisywały komunikat po 90 minutach aktywności w ciągu trzygodzinnego okna. OC
Powiadomienia bezpieczeństwa mają celowo wąski zakres. OpenAI podaje, że połączony rodzic może zostać powiadomiony, gdy specjalnie przeszkoleni weryfikatorzy rozpoznają poważne obawy dotyczące samookaleczenia. Alerty mogą dotyczyć także niektórych przypadków dezaktywacji konta związanych z przemocą. Firma opisała również rozszerzenie ochrony o problemy związane z zaburzeniami odżywiania. HOE
Takie alerty mogą nie wykryć wszystkich zagrożeń. Nie zastępują numerów alarmowych, profesjonalnej pomocy ani bezpośredniego wsparcia zaufanego dorosłego. H
OpenAI twierdzi, że doświadczenie dla nastolatków wprowadza dodatkowe zasady dotyczące obszarów, które mogą wiązać się ze szczególnym ryzykiem dla osób niepełnoletnich.
Odpowiedzi mają podlegać silniejszym ograniczeniom, a w poważnych przypadkach system ma stosować interwencje nastawione na eskalację problemu i skierowanie użytkownika do realnego wsparcia. Dla połączonych kont rodziców przewidziano ograniczoną ścieżkę powiadomień bezpieczeństwa. OH
Zabezpieczenia mają ograniczać szkodliwe wskazówki oraz kontakt z drastycznymi lub nieodpowiednimi dla wieku treściami. Problemy związane z zaburzeniami odżywiania objęto również rozszerzonym zakresem opisanych przez OpenAI powiadomień dla rodziców. OE
Wersja dla nastolatków stosuje ostrzejsze ograniczenia dotyczące przemocy i niebezpiecznych działań. W niektórych sytuacjach związanych z aktami przemocy konto może zostać dezaktywowane, a połączony rodzic może otrzymać ograniczone powiadomienie. OH
OpenAI deklaruje surowsze limity dotyczące jawnych treści seksualnych, materiałów drastycznych oraz seksualizowanych lub romantycznych odgrywań ról. Ustawienia kontroli rodzicielskiej mogą dodatkowo filtrować romantyczne i seksualne odgrywanie ról, odgrywanie przemocy oraz inne wrażliwe kategorie. OH
Zasady dla osób poniżej 18 lat mają powstrzymywać model przed używaniem romantycznego języka wobec nastolatków, zachęcaniem do zależności emocjonalnej oraz sugerowaniem, że ma uczucia lub świadomość. Deklarowanym celem jest wzmacnianie zdrowych relacji poza chatbotem. OE
Są to zasady i zachowania produktu, a nie dowód, że każda niebezpieczna prośba zostanie zablokowana albo każda ryzykowna rozmowa będzie rozpoznana.
OpenAI przedstawia ChatGPT dla nastolatków jako próbę dostosowania korzystania z generatywnej AI do wieku młodych użytkowników i przesunięcia akcentu w stronę nauki, zamiast całkowitego wykluczania nastolatków z tej technologii. Premiera rozwija wcześniejsze działania firmy obejmujące kontrolę rodzicielską, przewidywanie wieku, wytyczne dotyczące bezpieczeństwa nastolatków oraz zasady zachowania modelu wobec osób poniżej 18 lat. O
Moment premiery wiąże się także z rosnącą krytyką chatbotów i pytaniami o ich rolę w rozmowach dotyczących samookaleczeń, niebezpiecznych porad, kontaktów seksualnych, zależności emocjonalnej i kompulsywnego korzystania z usług przez dzieci. Jednocześnie duże platformy społecznościowe rozwijają konta dla nastolatków, systemy szacowania wieku, ograniczenia treści, narzędzia nadzoru oraz przypomnienia o czasie spędzanym online i przerwach. ChatGPT dla nastolatków włącza OpenAI bardziej bezpośrednio w szerszą rywalizację o to, jak produkty AI dla konsumentów powinny służyć młodym użytkownikom — i gdzie powinny stawiać im granice. RG
Największe pytanie dotyczy skuteczności. Eksperci zajmujący się bezpieczeństwem dzieci i inni krytycy doceniają bezpieczniejsze ustawienia domyślne, ale zastanawiają się, czy automatyczne zabezpieczenia będą konsekwentnie działać przy różnych sposobach formułowania poleceń i w codziennych, nieprzewidywalnych rozmowach. GCE
W praktyce trzeba uwzględnić cztery ograniczenia:
Najostrożniejszy, najlepiej poparty dowodami wniosek brzmi więc inaczej niż „ChatGPT dla nastolatków jest bezpieczny”. OpenAI stworzyło bardziej restrykcyjne i nastawione na naukę ustawienia domyślne dla osób poniżej 18 lat, a także użyteczne narzędzia rodzinne i punktowe zabezpieczenia. To, czy rozwiązania te niezawodnie działają w prawdziwych rozmowach, pozostaje pytaniem dla dalszych testów i niezależnych ocen.