ChatGPT for teenagere: Studiehjælp med stærkere sikkerhedsregler

Hvem får ChatGPT for teenagere?

En bruger bliver automatisk placeret i teen-oplevelsen, hvis kontooplysningerne viser en alder på 13-17 år, eller hvis OpenAI’s aldersforudsigelse vurderer, at brugeren er under 18. OpenAI oplyser, at systemet vælger den sikrere oplevelse for under-18-årige, når det er usikkert. ^OR

Det er ikke det samme som en fejlfri alderskontrol. Et aldersforudsigelsessystem kan give falske positive resultater, som begrænser voksne brugere, eller falske negative resultater, som efterlader nogle mindreårige i standardoplevelsen. Brugere kan også give urigtige oplysninger eller benytte en andens konto. Den tilgængelige dokumentation peger derfor på, at aldersvurderingen bør ses som ét beskyttelsestiltag – ikke som et komplet system til alderssikring. ^RG

Sådan fungerer Study Mode og lektiehjælpen

Læringsfunktionerne skal gøre ChatGPT mere til en studiepartner end en maskine, der bare afleverer svaret:

• Study Mode bruger vejledende spørgsmål, trinvis hjælp, faglig støtte og videnstjek, så den unge kan arbejde sig gennem et problem. OpenAI siger, at funktionen er udviklet sammen med lærere, forskere og specialister i pædagogik. ^O
• Påmindelser om ansvarlige lektier kan genkende, når en forespørgsel ser ud til at forsøge at springe en opgave over, og i stedet lede brugeren hen mod Study Mode og fælles problemløsning. Det er et skub i den rigtige retning – ikke en fejlfri snydedetektor. ^O
• Quizzer og øvelsesværktøjer kan hjælpe brugere med at teste deres forståelse og arbejde med træningsspørgsmål, når funktionerne er tilgængelige. ^H
• Study Hours kan få nye, relevante chats til at starte i Study Mode. Indstillingen bestemmer, hvordan en chat begynder; den blokerer ikke adgangen til ChatGPT. ^HH

Værktøjerne afspejler OpenAI’s erklærede mål om at støtte læring uden blot at lave skolearbejdet på den unges vegne. De garanterer dog hverken, at alle svar er pædagogisk gode, eller at alle elever bruger systemet på en ærlig måde.

Hvilken forældrekontrol findes der?

En forælder eller værge kan frivilligt forbinde sin konto med den unges konto via Parental Controls. Når kontiene er forbundet, kan den voksne styre udvalgte sikkerheds- og produktindstillinger, blandt andet beskyttelse mod følsomt indhold, gemt hukommelse, deltagelse i modeltræning, Voice Mode og visse værktøjer som billedgenerering, Cloud Browser og netværksadgang i Codex. ^H

Forbundne forældre kan også:

• Sætte Study Mode som standard, når nye, relevante chats starter.
• Konfigurere Study Hours, hvor nye, relevante chats begynder i Study Mode.
• Indstille Quiet Hours, hvor den unge ikke kan bruge ChatGPT – heller ikke ChatGPT Work. ^H
• Modtage begrænsede sikkerhedsnotifikationer i særlige situationer med høj risiko. ^H

Indstillingerne er ikke et digitalt overvågningspanel for familien. Forældre får ikke adgang til den unges chats, udskrifter eller chathistorik, og notifikationerne er ikke det samme som overvågning i realtid. ^HG

Hvad gør pausepåmindelser og sikkerhedsnotifikationer?

ChatGPT for teenagere indeholder påmindelser, der opfordrer brugeren til at holde en pause efter længere tids brug. OpenAI har beskrevet hyppigere påmindelser til teenagere, der bruger ChatGPT i længere tid. I forbindelse med udrulningen blev der omtalt en besked efter 90 minutters aktivitet inden for et tidsvindue på tre timer. ^OC

Sikkerhedsnotifikationerne er bevidst snævre. OpenAI oplyser, at en forbundet forælder kan blive kontaktet, hvis særligt uddannede kontrollører identificerer en alvorlig bekymring om selvskade. Notifikationer kan også knytte sig til deaktivering af konti efter bestemte voldshandlinger, og OpenAI har beskrevet yderligere dækning af bekymringer om spiseforstyrrelser. ^HOE

Alarmerne kan overse problemer og kan ikke erstatte alarmcentralen, professionel hjælp eller direkte støtte fra en voksen, man stoler på. ^H

Hvilke regler er strengere for brugere under 18?

OpenAI siger, at teen-oplevelsen anvender ekstra adfærds- og produktsikkerhed på områder, der kan indebære særlige risici for mindreårige.

Selvskade og selvmord

Svarene skal følge strengere beskyttelsesregler og i alvorlige tilfælde indeholde indsatser, der kan føre brugeren videre til hjælp. Der findes også begrænsede muligheder for sikkerhedsnotifikationer til forbundne forældre. ^OH

Spiseforstyrrelser og farlige aktiviteter

Sikkerhedsforanstaltningerne skal begrænse skadelig vejledning samt grafisk eller udviklingsmæssigt upassende materiale. Bekymringer om spiseforstyrrelser er desuden en del af den udvidede notifikationsdækning, OpenAI har beskrevet. ^OE

Vold

Teen-oplevelsen har strammere regler for voldeligt indhold og farlige aktiviteter. I visse sager, der involverer voldshandlinger, kan en konto blive deaktiveret, og en forbundet forælder kan modtage en begrænset notifikation. ^OH

Seksuelt og romantisk indhold

OpenAI siger, at beskyttelsen af brugere under 18 indebærer strengere begrænsninger på eksplicit eller grafisk seksuelt materiale samt seksualiseret eller romantisk rollespil. Forældrenes indstillinger kan desuden tilføje filtre for seksuelt eller romantisk rollespil, voldeligt rollespil og andre følsomme kategorier. ^OH

Følelsesmæssig afhængighed og påstande om bevidsthed

Reglerne for under-18-årige skal forhindre modellen i at bruge romantisk sprog over for teenagere, opmuntre til følelsesmæssig afhængighed eller antyde, at den selv har følelser eller bevidsthed. Målet er ifølge OpenAI at understøtte sunde relationer uden for chatbotten. ^OE

Det er dog politikker og produktadfærd – ikke et bevis på, at alle farlige prompts bliver afvist, eller at alle risikable samtaler bliver opdaget.

Hvorfor lancerede OpenAI tjenesten nu?

OpenAI fremstiller ChatGPT for teenagere som et forsøg på at gøre unges brug af generativ AI mere alderssvarende og læringsorienteret frem for blot at udelukke dem fra teknologien. Udgivelsen bygger videre på tidligere arbejde med forældrekontrol, aldersforudsigelse, vejledning om teenagere og modelregler for brugere under 18. ^O

Tidspunktet afspejler også den voksende opmærksomhed på chatbots’ mulige rolle i samtaler om selvskade, farlige råd, seksuelle interaktioner, følelsesmæssig afhængighed og tvangspræget brug blandt børn. Samtidig har store sociale platforme udvidet teenagekonti, aldersestimering, indholdsbegrænsninger, forældreværktøjer og påmindelser om tidsforbrug eller pauser. ChatGPT for teenagere placerer derfor OpenAI mere direkte i den bredere konkurrence om, hvordan forbruger-AI skal bruges af – og begrænses for – unge. ^RG

De vigtigste begrænsninger for forældre og teenagere

Det centrale ubesvarede spørgsmål er, om det virker i praksis. Eksperter i børnesikkerhed og andre kritikere har hilst strengere standardindstillinger velkommen, men stiller spørgsmål ved, om automatiske sikkerhedsbarrierer konsekvent kan håndtere forskellige formuleringer og virkelige samtaler. ^GCE

Der er især fire praktiske begrænsninger:

1. Aldersvurderingen kan tage fejl. Sikrere standardindstillinger mindsker en del af risikoen, men sikrer ikke, at alle mindreårige bliver identificeret.
2. Sikkerhedsbarrierer er ikke ufejlbarlige. En strengere politik betyder ikke, at et skadeligt svar aldrig kan forekomme.
3. Forældrekontrol kræver tilvalg. Kontiene skal forbindes, og forældrene får udvalgte indstillinger – ikke fuld indsigt i samtalerne. ^H
4. Notifikationerne er begrænsede og bevidst ikke øjeblikkelige. De er ikke kontinuerlig overvågning og bør ikke opfattes som et system til akut hjælp. ^H

Den bedst underbyggede konklusion er derfor mere nuanceret end, at “ChatGPT for teenagere er sikkert”. OpenAI har skabt en mere restriktiv og læringsorienteret standardoplevelse for brugere under 18 med nyttige familieværktøjer og målrettede beskyttelser. Om foranstaltningerne fungerer stabilt på tværs af virkelige samtaler, er fortsat det spørgsmål, som løbende tests og uafhængige evalueringer må besvare.