FN varnar: Affärsmodeller och oreglerad AI driver en kris för barnen på nätet

En generation i farozonen

Mer än 82 procent av alla 15–24-åringar är online, och de är oproportionerligt utsatta för desinformation, trakasserier, algoritmiska snedvridningar och skadlig användning av AI . Rapporten varnar för att handlingsutrymmet krymper snabbt: AI utvecklas snabbare än de regelverk som aldrig var designade för tekniken, och introducerar nya risker som syntetiskt innehåll och AI-underlättat utnyttjande .

Affärsmodellerna: skadan är ingen olycka

Rapporten gör en tydlig poäng: de skador unga upplever online är inte olycksfall i arbetet. De är en direkt följd av affärsmodeller som tjänar pengar på användarnas uppmärksamhet och personuppgifter och av designval som är gjorda för att maximera engagemang och konsumtion . Den pekar särskilt på "dark patterns", lootlådor och andra knep som driver kompulsivt användande bland barn, vars vanor och identiteter fortfarande formas . Rapporten varnar också för allt mer dolda reklamtekniker som utnyttjar barn till att spendera mer online .

Artificiell intelligens: förvärrar befintliga risker

AI förvärrar befintliga risker snabbare än skyddsmekanismerna hinner med. Rapporten pekar på risker som sträcker sig från AI-genererat innehåll till AI-underlättat utnyttjande . Generalsekreterare António Guterres citeras direkt: ”Inget barn ska vara ett försöksdjur för oreglerad AI… När ett barn skadas får svaret aldrig vara ’algoritmen gjorde det’” .

Ungas delaktighet: inte bara offer – utan opinionsbildare

Rapporten understryker att barn och unga inte bara är offer – de är skapare, förespråkare och organisatörer . Trots det är deras perspektiv underrepresenterade i de forum där politik utformas och i den forskning som ligger till grund för politiken . Rapporten är tydlig: ”Att skydda dem och att inkludera dem är inte motstridiga mål. Vi måste göra både och” .

Brådskan med att skriva in barns rättigheter i AI-styrningen

Rapporten kräver att barns rättigheter skrivs in i AI-styrningsramverken nu, medan lagarna fortfarande utvecklas – och varnar för att ”ett fönster som inte kommer att stå öppet länge” håller på att stängas . Den uppmanar stater, techbolag, annonsörer, medier och forskare att agera tillsammans. Den refererar till Koalitionen för barns rättigheter och skydd i AI-åldern samt generalsekreterarens uppmaning om ett AI-löfte för barnsäkerhet som ska täcka alla system ett barn kan nå .