ChatGPT teini-ikäisille: näin opiskeluominaisuudet ja turvarajat toimivat

OpenAI:n ChatGPT teini-ikäisille on 13–17-vuotiaille tarkoitettu suojatumpi ChatGPT-käyttökokemus. Se otetaan automaattisesti käyttöön, jos käyttäjä ilmoittaa olevansa tässä ikäryhmässä tai OpenAI:n järjestelmät arvioivat tilin käyttäjän olevan alle 18-vuotias. Kokonaisuuteen kuuluu oppimiseen suunniteltuja työkaluja, tiukempia sääntöjä arkaluontoiselle sisällölle, vanhempien asetuksia ja taukomuistutuksia. ^OR

Tärkeä rajaus on kuitenkin syytä pitää mielessä: kyse on turvakerroksesta, ei turvallisuustakuusta. Ikäarvio on todennäköisyyteen perustuva, vanhemmille lähetettävät ilmoitukset ovat rajallisia ja suojaukset voivat edelleen epäonnistua riskialttiissa keskusteluissa. ^RGH

Kenelle ChatGPT teini-ikäisille tulee käyttöön?

Käyttökokemus aktivoituu automaattisesti, kun tilitiedot kertovat käyttäjän olevan 13–17-vuotias tai OpenAI:n ikäarviointijärjestelmä päättelee käyttäjän olevan alle 18-vuotias. OpenAI kertoo suosivansa epävarmassa tilanteessa turvallisempaa alle 18-vuotiaille tarkoitettua kokemusta. ^OR

Tämä ei kuitenkaan tarkoita täydellistä iänvarmistusta. Järjestelmä voi tunnistaa aikuisen nuoreksi ja rajoittaa hänen käyttöään tai jättää osan alaikäisistä tavalliseen käyttökokemukseen. Käyttäjä voi myös antaa väärät ikätiedot tai käyttää toisen henkilön tiliä. Saatavilla oleva näyttö tukee siksi tulkintaa, jonka mukaan ikäarvio on yksi suojatoimi – ei kattava ratkaisu käyttäjän iän varmistamiseen. ^RG

Miten Study Mode ja kotitehtävämuistutukset toimivat?

OpenAI pyrkii tekemään ChatGPT:stä nuorelle enemmän opiskelukumppanin kuin valmiiden vastausten jakelijan:

• Study Mode eli opiskelutila käyttää ohjaavia kysymyksiä, vaiheittaista tukea, oppimisen jäsentämistä ja osaamisen tarkistuksia. Tarkoitus on auttaa nuorta ratkaisemaan tehtävä itse. OpenAI kertoo kehittäneensä ominaisuutta opettajien, tutkijoiden ja pedagogiikan asiantuntijoiden kanssa. ^O
• Responsible Homework Reminder eli vastuullinen kotitehtävämuistutus voi tunnistaa pyynnön, joka vaikuttaa yritykseltä oikaista tehtävän tekemisessä, ja ohjata käyttäjän Study Modeen. Kyse on ohjauksesta, ei aukottomasta lunttauksen tunnistimesta. ^O
• Tietovisat ja harjoittelutyökalut auttavat testaamaan omaa ymmärrystä ja ratkaisemaan harjoitustehtäviä silloin, kun työkalut ovat saatavilla. ^H
• Study Hours -asetuksella uudet, asetuksen piiriin kuuluvat keskustelut voivat alkaa automaattisesti Study Modessa. Asetus vaikuttaa keskustelun aloitustapaan, mutta ei estä ChatGPT:n käyttöä. ^HH

Työkalujen tavoitteena on tukea oppimista ilman, että tekoäly tekee koulutyön nuoren puolesta. Ne eivät silti takaa, että jokainen vastaus olisi pedagogisesti hyvä tai että käyttäjä hyödyntäisi järjestelmää rehellisesti.

Mitä vanhemmat voivat hallita?

Vanhempi tai huoltaja voi halutessaan yhdistää oman tilinsä nuoren tiliin Parental Controls -asetusten kautta. Yhdistetty tili antaa aikuiselle mahdollisuuden hallita tiettyjä turvallisuus- ja tuoteasetuksia, kuten arkaluontoisen sisällön suojauksia, tallennettua muistia, mallin koulutukseen osallistumista, äänitilaa sekä joitakin työkaluja, kuten kuvien luomista, Cloud Browseria ja Codexin verkkoyhteyttä. ^H

Yhdistetty vanhempi voi lisäksi:

• asettaa Study Moden uusien, siihen oikeutettujen keskustelujen oletusaloitustilaksi
• määrittää Study Hours -ajat, jolloin uudet keskustelut alkavat Study Modessa
• määrittää Quiet Hours -ajat, jolloin nuori ei voi käyttää ChatGPT:tä, mukaan lukien ChatGPT Work -palvelua ^H
• saada rajattuja turvallisuusilmoituksia tietyissä vakavissa riskitilanteissa. ^H

Kyse ei ole perheen valvontapaneelista. Vanhempi ei saa näkyviinsä nuoren keskusteluja, keskusteluhistoriaa tai litterointeja, eikä ilmoitusjärjestelmä mahdollista reaaliaikaista seurantaa. ^HG

Mitä taukomuistutukset ja turvallisuusilmoitukset tekevät?

ChatGPT teini-ikäisille voi muistuttaa käyttäjää pitämään tauon ja siirtymään hetkeksi pois palvelusta pitkän käyttöjakson jälkeen. OpenAI on kertonut lisäävänsä muistutusten määrää nuorilla, jotka käyttävät ChatGPT:tä pitkään. Julkisuudessa kerrotun käyttöönoton yhteydessä muistutus saattoi tulla, kun käyttöä oli kertynyt 90 minuuttia kolmen tunnin aikana. ^OC

Turvallisuusilmoitukset on rajattu tarkasti. OpenAI:n mukaan yhdistetty vanhempi voi saada ilmoituksen, jos erityisesti koulutetut arvioijat tunnistavat vakavan itsetuhoisuuteen liittyvän huolen. Ilmoitukset voivat liittyä myös väkivaltaan liittyviin tilin deaktivointeihin, ja OpenAI on kuvannut ilmoitusten kattavan laajemmin myös syömishäiriöihin liittyviä huolia. ^HOE

Ilmoitukset voivat jäädä tulematta, vaikka keskustelussa olisi todellinen huoli. Ne eivät korvaa hätäpalveluita, ammattilaisen apua tai luotettavan aikuisen suoraa tukea. ^H

Mitä sisältöjä koskevat suojaukset ovat tiukempia?

OpenAI kertoo soveltavansa alle 18-vuotiaille lisäsuojauksia aiheisiin, joihin voi liittyä erityisiä riskejä:

Itsensä vahingoittaminen ja itsemurhat

Vastausten on tarkoitus noudattaa tiukempia suojauksia ja vakavissa tilanteissa toimia tavalla, joka ohjaa avun ja tuen piiriin. Linkitetyille vanhemmille on olemassa rajattu turvallisuusilmoitusreitti. ^OH

Syömishäiriöt ja vaaralliset toiminnat

Suojauksilla pyritään vähentämään haitallisia ohjeita sekä graafisen tai kehitystasolle sopimattoman materiaalin näkyvyyttä. OpenAI:n kuvaamassa ilmoituskäytännössä syömishäiriöihin liittyvät huolet kuuluvat laajennettuun kattavuuteen. ^OE

Väkivalta

Teini-ikäisille tarkoitettu käyttökokemus asettaa väkivaltaiselle sisällölle ja vaarallisille toimille tiukempia rajoja. Joissakin väkivallantekoihin liittyvissä tapauksissa tili voidaan poistaa käytöstä ja yhdistetylle vanhemmalle voidaan lähettää rajattu ilmoitus. ^OH

Seksuaalinen ja romanttinen sisältö

OpenAI kertoo rajoittavansa alle 18-vuotiaille tarkoitettuun kokemukseen kuuluvaa eksplisiittistä seksuaalista ja graafista materiaalia sekä seksualisoitua tai romanttista roolipelaamista. Vanhempien asetuksilla voidaan suodattaa lisää esimerkiksi seksuaalista tai romanttista roolipelaamista ja väkivaltaista roolipelaamista. ^OH

Tunteisiin sitouttaminen ja väitteet tietoisuudesta

Alle 18-vuotiaiden toimintaperiaatteiden on tarkoitus estää mallia käyttämästä romanttista kieltä nuorta kohtaan, kannustamasta tunneperäiseen riippuvuuteen tai vihjaamasta, että sillä olisi tunteita tai tietoisuus. Tavoitteena on vahvistaa nuoren todellisia ihmissuhteita chatbotin ulkopuolella. ^OE

Nämä ovat toimintaperiaatteita ja tuotetason suojauksia – eivät todiste siitä, että jokainen haitallinen pyyntö estetään tai jokainen riskialtis keskustelu havaitaan.

Miksi OpenAI julkaisi palvelun nyt?

OpenAI esittelee ChatGPT teini-ikäisille -kokemuksen tapana tehdä nuorten generatiivisen tekoälyn käytöstä ikätasolle sopivampaa ja oppimiskeskeisempää sen sijaan, että nuoret vain suljettaisiin teknologian ulkopuolelle. Julkaisu jatkaa yhtiön aiempaa työtä vanhempien asetusten, ikäarvioinnin, nuorten turvallisuutta koskevien ohjeiden ja alle 18-vuotiaiden mallisääntöjen parissa. ^O

Taustalla on myös kasvava huoli chatbottien mahdollisesta roolista itsetuhoisuutta koskevissa keskusteluissa, vaarallisissa neuvoissa, seksuaalisessa vuorovaikutuksessa, tunneperäisessä riippuvuudessa ja pakonomaisessa käytössä. Samaan aikaan suuret sosiaalisen median palvelut ovat laajentaneet nuorille tarkoitettuja tilejä, ikäarviointia, sisältörajoituksia, valvontatyökaluja ja käyttöaikaan liittyviä taukomuistutuksia. ChatGPT teini-ikäisille tuo OpenAI:n aiempaa selvemmin kilpailuun siitä, miten kuluttajille suunnatun tekoälyn pitäisi palvella nuoria – ja missä sen pitäisi asettaa rajoja. ^RG

Mitkä ovat palvelun tärkeimmät rajoitukset?

Keskeinen avoin kysymys on toimivuus. Lasten turvallisuuden asiantuntijat ovat suhtautuneet myönteisesti tiukempiin oletusasetuksiin, mutta kysyneet, kestävätkö automaattiset suojaukset erilaisia kehotteita ja todellista arkikäyttöä. ^GCE

Vanhempien ja nuorten on hyvä huomioida ainakin nämä neljä rajoitusta:

1. Ikätunnistus voi mennä väärin. Turvallisempi oletusasetus pienentää riskiä, mutta ei takaa, että jokainen alaikäinen tunnistetaan.
2. Suojaukset eivät ole aukottomia. Tiukempi toimintaperiaate ei takaa, ettei haitallista vastausta voisi koskaan syntyä.
3. Vanhempien asetukset ovat valinnaisia. Tilit täytyy yhdistää, ja käytettävissä on valikoituja hallintatoimintoja – ei täyttä näkyvyyttä keskusteluihin. ^H
4. Ilmoitukset ovat rajattuja ja tarkoituksella hitaita. Ne eivät ole jatkuvaa valvontaa eivätkä hätätilanteisiin tarkoitettu vastejärjestelmä. ^H

Paras näyttöön perustuva johtopäätös ei siis ole, että ChatGPT teini-ikäisille olisi yksiselitteisesti turvallinen. OpenAI on rakentanut alle 18-vuotiaille rajoitetumman ja oppimiseen painottuvan oletuskokemuksen, jossa on hyödyllisiä perheasetuksia ja kohdennettuja suojauksia. Se, kuinka luotettavasti nämä toimet toimivat aidoissa keskusteluissa, selviää vasta jatkuvassa testauksessa ja riippumattomissa arvioissa.