VN waarschuwt: sociale media en ongereguleerde AI veroorzaken online crisis voor kinderen

Een generatie in de frontlinie

Meer dan 82% van de 15- tot 24-jarigen is online, en zij worden onevenredig vaak geconfronteerd met desinformatie, intimidatie, algoritmische vooroordelen en kwaadwillig gebruik van AI . Het rapport waarschuwt dat het venster voor actie snel sluit: AI ontwikkelt zich sneller dan de regels die ervoor zijn ontworpen, en introduceert nieuwe risico's — van synthetische content tot AI-gestuurde uitbuiting .

Verdienmodellen: de schade is geen toeval

Het rapport trekt een opvallende conclusie: de schade die jongeren online oplopen is niet toevallig. Het is het directe gevolg van businessmodellen die aandacht en persoonsgegevens verzilveren en van ontwerpkeuzes die gericht zijn op maximale betrokkenheid en uitgaven . Het rapport noemt expliciet 'dark patterns', loot boxes en andere tactieken die dwangmatig gebruik aanwakkeren bij kinderen, wiens gewoonten en identiteit nog in ontwikkeling zijn . Ook waarschuwt het voor steeds geraffineerdere verborgen advertentietechnieken die kinderen misbruiken om online uitgaven op te drijven .

Kunstmatige intelligentie: bestaande risico's verergerd

AI versterkt bestaande risico's sneller dan dat er veiligheidsmaatregelen kunnen worden getroffen. Het rapport noemt risico's variërend van AI-gegenereerde content tot AI-gestuurde uitbuiting . Secretaris-generaal António Guterres wordt geciteerd: "Geen enkel kind mag proefkonijn zijn voor ongereguleerde AI… Als een kind wordt geschaad, mag het antwoord nooit zijn: 'het algoritme deed het'" .

Jongerenparticipatie: niet alleen slachtoffers, maar ook voorvechters

Het rapport benadrukt dat kinderen en jongeren niet alleen slachtoffers zijn — ze zijn makers, pleitbezorgers en organisatoren . Toch blijven hun perspectieven ondervertegenwoordigd in de overlegorganen waar beleid wordt gemaakt en in het onderzoek dat dat beleid informeert . Het rapport is stellig: "Hen beschermen en hen betrekken zijn geen tegenstrijdige doelen. We moeten beide doen" .

De urgentie: kinderrechten nu verankeren in AI-wetgeving

Het rapport roept op om kinderrechten nu in AI-wetgeving op te nemen, terwijl die wetten nog worden ontwikkeld — met de waarschuwing dat "een venster dat niet lang open zal blijven" snel sluit . Het roept staten, techbedrijven, adverteerders, media en onderzoekers op om samen te handelen. Het verwijst naar de Coalitie voor Kinderrechten en Bescherming in het Tijdperk van Kunstmatige Intelligentie en de oproep van de secretaris-generaal voor een AI-kinderveiligheidsbelofte voor elk systeem dat een kind kan bereiken .