FN slår alarm: Forretningsmodeller og uregulert KI skaper en nettkrise for barn

En generasjon i skuddlinjen

Over 82 prosent av alle mellom 15 og 24 år er på nett, og de er uforholdsmessig ofte utsatt for desinformasjon, trakassering, algoritmisk skjevhet og ondsinnet bruk av KI . Rapporten advarer om at mulighetsvinduet for handling er i ferd med å lukke seg: KI utvikler seg raskere enn regelverk som aldri var laget for teknologien, og introduserer nye farer – fra syntetisk innhold til KI-basert utnyttelse .

Forretningsmodellene: Skadene er ikke tilfeldige

Rapporten framhever et sentralt poeng: Skadene barn opplever på nett er ikke tilfeldige. De er et direkte resultat av forretningsmodeller som tjener penger på oppmerksomhet og personopplysninger, og av designfunksjoner som er laget for å maksimere tid og pengebruk . Den peker spesielt på «dark patterns», såkalte «loot boxes» og andre mekanismer som driver tvangsmessig bruk blant barn – en gruppe der vaner og identitet fortsatt er under utvikling . Rapporten advarer også mot stadig mer skjult reklame som utnytter barn til å øke forbruket på nett .

Kunstig intelligens: Forsterker eksisterende farer

KI forsterker eksisterende risikoer raskere enn sikkerhetstiltakene klarer å følge opp. Rapporten trekker fram alt fra KI-generert innhold til KI-basert utnyttelse . FNs generalsekretær António Guterres siteres direkte: «Ingen barn skal være et forsøksdyr for uregulert KI … Når et barn blir skadelidende, må svaret aldri være «algoritmen gjorde det»» .

Ung deltakelse: Ikke bare ofre, men pådrivere

Rapporten understreker at barn og unge ikke bare er ofre – de er skapere, talspersoner og organisatorer . Likevel blir deres perspektiver underrepresentert i forumene der politikk utformes, og i forskningen som ligger til grunn for politikken . Rapporten slår fast: «Å beskytte dem og å inkludere dem er ikke motstridende mål. Vi må gjøre begge deler» .

Haster: Barns rettigheter må inn i KI-styringen nå

Rapporten krever at barns rettigheter skrives inn i rammeverket for KI-styring nå, mens lovene fortsatt er under utvikling – og advarer om at «et vindu som ikke vil være åpent lenge» er i ferd med å lukke seg . Den oppfordrer stater, teknologiselskaper, annonsører, medier og forskere til å handle sammen. Den viser til Koalisjonen for barns rettigheter og beskyttelse i kunstig intelligens' tidsalder og til generalsekretærens oppfordring om et KI-løfte for barns sikkerhet som skal dekke alle systemer et barn kan nå .