YK varoittaa: Liiketoimintamallit ja sääntelemätön tekoäly ruokkivat lasten verkkokriisiä

Tärkeimmät varoitukset: sukupolvi alttiina

Yli 82 prosenttia 15–24-vuotiaista on verkossa, ja he kohtaavat suhteettoman paljon disinformaatiota, häirintää, algoritmista vinoumaa ja tekoälyn pahantahtoisia käyttötapoja . Raportti varoittaa, että toiminnan ikkuna on sulkeutumassa nopeasti: tekoäly kehittyy nopeammin kuin sääntelykehykset, joita ei koskaan suunniteltu sitä varten, ja tuo mukanaan uusia riskejä synteettisestä sisällöstä tekoälyn mahdollistamaan hyväksikäyttöön .

Liiketoimintamallit: haitat eivät ole sattumaa

Raportissa tehdään selväksi, että nuorten kohtaamat verkkohaitat eivät ole sattumaa. Ne ovat suora seuraus liiketoimintamalleista, jotka rahastavat huomiolla ja henkilötiedoilla, sekä suunnitteluratkaisuista, jotka on luotu maksimoimaan sitoutumista ja kulutusta . Raportti nostaa esiin erityisesti "pimeät kuviot" (dark patterns), loot boxit ja muut taktiikat, jotka ajavat lapsia pakonomaiseen käyttöön – juuri silloin, kun heidän tapansa ja identiteettinsä ovat vielä muotoutumassa . Raportti varoittaa myös yhä piilotetummista mainontataktiikoista, jotka käyttävät lapsia hyväksi verkkomenojen kasvattamiseksi .

Tekoäly: olemassa olevien riskien kärjistäjä

Tekoäly kärjistää olemassa olevia riskejä nopeammin kuin turvatoimet ehtivät mukaan. Raportti luettelee riskejä tekoälyn tuottamasta sisällöstä tekoälyn mahdollistamaan hyväksikäyttöön . Pääsihteeri António Guterres siteerataan suoraan: "Yksikään lapsi ei saa olla sääntelemättömän tekoälyn koekaniini... Kun lapsi vahingoittuu, vastaus ei voi koskaan olla 'algoritmi teki sen'" .

Nuorten osallisuus: ei vain uhreja, vaan myös vaikuttajia

Raportti korostaa, että lapset ja nuoret eivät ole vain uhreja – he ovat sisällöntuottajia, puolestapuhujia ja järjestäytyjiä . Heidän näkökulmansa ovat kuitenkin aliedustettuja niillä foorumeilla, joilla politiikkaa muotoillaan, ja tutkimuksessa, joka ohjaa sitä . Raportti painottaa: "Heidän suojelemisensa ja mukaan ottamisensa eivät ole toisiaan poissulkevia tavoitteita. Meidän on tehtävä molempia" .

Lasten oikeuksien kirjaamisen kiireellisyys tekoälyn hallintaan

Raportti vaatii, että lasten oikeudet kirjataan osaksi tekoälyn hallintakehyksiä nyt, kun lakeja vasta kehitetään – se varoittaa, että "ikkuna, joka ei pysy auki kauan" on sulkeutumassa . Se kehottaa valtioita, teknologiayrityksiä, mainostajia, mediaa ja tutkijoita toimimaan yhdessä. Raportti viittaa Lasten oikeuksien ja suojelun koalitioon tekoälyn aikakaudella (Coalition for Children's Rights and Protection in the Age of Artificial Intelligence) ja pääsihteerin vaatimukseen tekoälyn lapsiturvallisuuslupauksesta (AI Child Safety Pledge), jonka tulisi kattaa kaikki järjestelmät, joihin lapsi voi päästä käsiksi .