EU KIDS Act: Sådan vil EU begrænse sociale medier og AI for børn

EU-Kommissionens foreslåede EU KIDS Act skal skabe fælles aldersregler for sociale medier i hele EU – og samtidig tvinge digitale tjenester, som børn bruger, til at være mere sikre allerede i deres design. Forslaget blev fremlagt 17. september, men er ikke gældende lov: Europa-Parlamentet og EU-landenes ministre i Rådet skal først forhandle og vedtage en endelig tekst. 1617

Aldersgrænserne: Tre trin for sociale medier

Forslaget skelner mellem aldersgrupper frem for at behandle alle under 18 ens:

• Under 13 år: Ingen adgang til sociale medietjenester. Børn kan dog fortsat bruge børnevenlige videodelingstjenester via en konto, som administreres af en forælder eller værge. 2
• 13 og 14 år: Adgang via en forældre- eller værgestyret minikonto med begrænsede funktioner og en daglig tidsgrænse på én time. 2517
• Fra 15 år: Unge skal kunne oprette selvstændige konti på sociale medier, men udbyderne skal tilbyde beskyttende konti, der er sikre fra designfasen. 117

Kommissionens formål er blandt andet at undgå vidt forskellige nationale regler i EU og at mindske risici for børns privatliv, sikkerhed og tryghed på tjenester, der vurderes at indebære særlige risici.

Det gælder ikke kun sociale medier

Kravene i KIDS Act er bredere end sociale netværk. De vil omfatte digitale tjenester, der bruges af mindreårige, herunder videodelingsplatforme, onlinespil, AI-ledsagere, chatbots og appbutikker. 217

Det afgørende er derfor ikke kun, hvem der kan oprette en konto. Forslaget handler også om, hvordan digitale produkter indrettes og præsenteres for brugere under 18 år.

Platformene skal dokumentere, at de er sikre

Et hovedprincip er, at ansvaret flyttes tydeligere over på virksomhederne. Udbyderne skal kunne vise, at deres tjenester er alderssvarende og sikre fra designfasen, i stedet for at myndighederne først skal dokumentere skade bagefter. 117

Forslaget lægger op til begrænsninger af funktioner og praksisser, der kan fastholde børn for længe eller udsætte dem for uønsket kontakt. Det omfatter blandt andet:

• endeløst scroll uden pauser;
• belønningsmekanismer eller andre greb, der skal drive engagement;
• pushnotifikationer i sovetiden;
• uopfordret kontakt fra fremmede;
• anbefalingsfeeds baseret på profilering og personaliseret reklame til børn; samt
• forbrugsfælder rettet mod mindreårige. 517

Dermed er KIDS Act mere end en aldersgrænse. Forslaget forsøger også at begrænse designvalg, der kan maksimere opmærksomhed eller indtjening på bekostning af yngre brugeres sikkerhed.

Særlige regler for AI-ledsagere og chatbots

AI-ledsagere og chatbots er specifikt nævnt i forslaget. For mindreårige skal sådanne funktioner være slået fra som standard, og design, der efterligner menneskelige relationer på en måde, som kan skabe følelsesmæssig afhængighed, skal forbydes. 517

Overtrædelser af visse regler for AI-ledsagere og almindelige samtalechatbots kan udløse administrative bøder på op til 6 % af virksomhedens samlede globale årsomsætning.

Hvad sker der nu?

Kommissionen har vedtaget og sendt sit forslag videre, men der er endnu ikke tale om en endelig EU-forordning. Europa-Parlamentet og Rådet, som repræsenterer medlemslandene, skal behandle og forhandle teksten efter EU's almindelige lovgivningsprocedure. Aldersgrænser, rækkevidde, alderssikring, håndhævelse og konkrete forpligtelser kan derfor blive ændret, før reglerne eventuelt træder i kraft. 6

Det er en vigtig skelnen: Reglerne bør på nuværende tidspunkt læses som et forslag, ikke som regler, der allerede gælder i Danmark eller resten af EU.

Kritik: Alderskontrol, privatliv og platformenes forretningsmodel

Aldersgrænserne vil formentlig blive et centralt stridspunkt. Kritikere peger på, at alderskontrol kan være svær at håndhæve, at børn kan angive en forkert alder, og at effektive kontrolsystemer kan blive indgribende for privatlivet. Der er også rejst bekymring for, om meget brede forpligtelser kan ramme vidt forskellige digitale tjenester på samme måde og få utilsigtede konsekvenser.

En beslægtet kritik er, at adgangsgrænser kan fokusere på børns alder uden i tilstrækkelig grad at ændre platformenes incitamenter omkring engagement, data og annoncering. KIDS Act forsøger delvist at svare på den indvending med regler mod afhængighedsskabende funktioner, profileringsbaserede feeds og personaliserede annoncer til mindreårige. Om de dele bevares – og hvordan de skal håndhæves – bliver afgørende i de kommende forhandlinger. 517

Spørgsmål om rådgivere og internationale tiltag

Kommissionen oplyser, at det forberedende arbejde har involveret eksperter samt repræsentanter for branchen, forældre og unge. 2 Det tilgængelige kildemateriale dokumenterer ikke konkrete påstande om enkelte rådgiveres forbindelser til techbranchen, interessekonflikter eller anden uredelighed. Der er derfor ikke grundlag for at drage stærkere konklusioner.

Regler om børns onlinesikkerhed og aldersbaseret adgang diskuteres også uden for EU. Men det foreliggende materiale giver ikke et tilstrækkeligt detaljeret og sammenligneligt billede af konkrete tiltag i andre lande. Det sikre er, at EU-forslaget indgår i en bredere politisk bevægelse mod mere beskyttelse af børn online – mens de vanskelige spørgsmål om privatliv, praktisk gennemførelse og platformenes ansvar fortsat er åbne.