Von der Leyen vil bremse den mest avancerede AI – men sætte fart på den i industrien

Ursula von der Leyens hovedbudskab i sin tale om EU's tilstand er ikke, at al kunstig intelligens skal sættes på pause. I stedet tegner hun en todelt kurs: De mest avancerede AI-modeller skal udvikles med større forsigtighed og sikkerhedskontrol, mens AI hurtigere skal tages i brug i europæiske nøglesektorer. Samtidig vil Kommissionen styrke beskyttelsen af børn på digitale tjenester. 1

De mest kapable modeller skal udvikles i et mere kontrolleret tempo

Kommissionsformanden vil invitere de førende laboratorier bag såkaldt frontlinje-AI til en drøftelse af, hvordan myndigheder kan understøtte branchens egne bestræbelser på at "pace the frontier" – altså dæmpe tempoet i kapabilitetsløbet helt i front. Det er et udspil til dialog og sikkerhedssamarbejde, ikke et øjeblikkeligt EU-moratorium eller et generelt forbud mod AI-udvikling. 16

Bekymringen retter sig især mod stadig mere kapable modeller, herunder modeller, der kan forbedre sig selv. Von der Leyen advarede om, at de kan muliggøre hacking i en skala, man tidligere ikke havde forestillet sig, og at de snart kan komme i modstanderes hænder. 115

Udspillet kommer efter en intern strid i AI-branchen om, hvor hurtigt teknologien bør udvikles. Reuters skrev, at Anthropics topchef Dario Amodei havde opfordret til lavere tempo og fået opbakning fra OpenAI-chefen Sam Altman og Elon Musk. Samtidig har advarslerne udløst debat om, hvorvidt der er tale om rimelig forsigtighed eller overdreven frygt for AI-risici. 17

Von der Leyen vil desuden udbygge samarbejdet med Canada, Storbritannien og andre ligesindede lande om AI-sikkerhed, herunder vurdering af frontlinjemodeller og relevante sikkerhedsforanstaltninger. 9

EU Kids Act: Aldersopdelt adgang og ansvar hos platformene

Kommissionens foreslåede EU Kids Act skal række længere end klassiske sociale medier. Forslaget omfatter sociale medier og videodelingsplatforme, onlinespil og AI-chatbots, med forskellige værn alt efter alder. Det er vigtigt at understrege, at der er tale om et forslag: reglerne bliver ikke automatisk gældende, blot fordi de er annonceret. 1

Den model, von der Leyen beskrev, indebærer:

• Ingen adgang til sociale medier for børn under 13 år. 1
• Begrænsede konti for 13- og 14-årige, oprettet og overvåget af forældre, med begrænsede funktioner og tidsgrænser. 1
• Krav om sikkerhed indbygget i designet for tjenester, der bruges af unge mellem 15 og 18 år.

Det centrale princip er, at ansvaret ikke alene skal ligge hos børn og forældre. Platformene skal efter planen selv gøre deres tjenester sikre fra starten. Dækningen af forslaget peger også på krav om aldersverifikation og indsats mod vanedannende produktfunktioner som endeløs scrolling. 7

Mere AI i sundhed, transport og europæisk industri

Samtidig fremstillede von der Leyen AI som en grundteknologi for både økonomi og sikkerhed. Hun nævnte blandt andet selvkørende transport og forsvar som mulige anvendelser og argumenterede for, at Europa skal omsætte teknologien til konkret nytte. 1

Kommissionen peger på fem områder, hvor industri-AI efter dens vurdering har særlig høj værdi, og hvor Europa har relevante data og kompetencer:

1. Sundhed
2. Transport
3. Landbrug og fødevarer
4. Avanceret produktion
5. Forsvar og rumfart 1

Kommissionen vil præsentere det, den kalder banebrydende initiativer på områderne, i november. 1

Hvad betyder kursen?

EU's linje er i praksis delt i to. Ved den teknologiske front ønsker Kommissionen bedre evaluering, international koordinering og et mere sikkerhedsbevidst tempo i udviklingen af de mest risikofyldte kapabiliteter. I resten af økonomien ønsker den derimod hurtigere, praktisk brug af AI i sektorer, der er vigtige for offentlige tjenester, industriel konkurrenceevne og sikkerhed. 19

Det er derfor ikke en opfordring til at bremse alle AI-produkter eller anvendelser. Budskabet er større forsigtighed omkring frontlinjemodeller – og samtidig mere fart på AI, der kan bruges i Europas strategiske industrier. 1