EU vill bromsa de mest avancerade AI-modellerna – men skynda på AI i industrin

EU-kommissionens ordförande Ursula von der Leyen vill inte bromsa all artificiell intelligens. I sitt tal om tillståndet i unionen presenterade hon i stället en dubbel strategi: större försiktighet kring de allra mest kraftfulla AI-modellerna, men snabbare användning av AI där den kan stärka Europas ekonomi, samhällsservice och säkerhet. 1

EU vill ”hålla tillbaka fronten” för de mest kapabla modellerna

Von der Leyen sade att hon ska bjuda in ledande utvecklare av så kallad frontier AI – de mest avancerade AI-laboratorierna – till samtal om hur myndigheter kan stödja branschens försök att ”pace the frontier”, alltså dämpa takten i utvecklingen vid AI-fronten. Det är ett initiativ för samtal och säkerhetssamarbete, inte ett omedelbart EU-moratorium eller ett generellt förbud mot AI-utveckling. 16

Oroväckande är enligt henne särskilt modeller som blir allt mer kapabla, även system som kan förbättra eller vidareutveckla sig själva. Sådana modeller kan möjliggöra cyberangrepp i en skala som tidigare varit svår att föreställa sig och kan snart hamna hos motståndare, varnade hon. 115

Utspelet kommer mitt i en konflikt inom AI-branschen om hur snabbt toppmodellerna bör utvecklas. Anthropic-chefen Dario Amodei har förespråkat en långsammare takt och fick stöd av OpenAI-chefen Sam Altman och Elon Musk. Samtidigt har varningarna utlöst en debatt om huruvida de är rimliga försiktighetsåtgärder eller överdriven katastroforienterad AI-retorik. 17

Von der Leyen vill också fördjupa samarbetet med Kanada, Storbritannien och andra likasinnade partner om AI-säkerhet, bland annat kring utvärdering av frontier-modeller och relaterade säkerhetsåtgärder. 9

EU Kids Act: olika regler för olika åldrar

Det föreslagna EU Kids Act ska omfatta mer än traditionella sociala medier. Planen gäller även videodelningsplattformar, onlinespel och AI-chattbotar, med olika skydd beroende på barnets ålder. Det handlar fortfarande om ett förslag från kommissionen, inte om regler som redan gäller. 1

Den beskrivna modellen innehåller:

• Ingen tillgång till sociala medier för barn under 13 år. 1
• Begränsade konton för 13–14-åringar, som ska skapas och övervakas av föräldrar samt ha begränsade funktioner och tidsgränser. 1
• Krav på säker utformning för användare mellan 15 och 18 år.

En central tanke är att ansvaret inte enbart ska läggas på barn och föräldrar. Tjänsterna ska utformas med säkerhet från början. Enligt rapporteringen ska företagen bland annat behöva kontrollera användarnas ålder och motverka beroendeframkallande funktioner, exempelvis ändlös scrollning. 7

Snabbare AI-användning i strategiska sektorer

Parallellt med riskkontrollerna beskrev von der Leyen AI som en grundläggande teknik för Europas ekonomi och säkerhet. Hon nämnde bland annat självkörande fordon och försvar, och framhöll att Europa bör ta praktisk nytta av tekniken. 1

Kommissionen har pekat ut fem områden där industriell AI anses ha särskilt stort värde och där Europa enligt kommissionen har relevant data och kompetens:

1. Hälso- och sjukvård
2. Transport
3. Jordbruks- och livsmedelssektorn
4. Avancerad tillverkning
5. Försvar och rymd 1

I november ska kommissionen presentera vad den beskriver som ”banbrytande initiativ” inom dessa områden. 1

Vad politiken innebär

Inriktningen är alltså tydligt uppdelad. Vid AI-fronten vill kommissionen se bättre utvärderingar, internationell samordning och en långsammare, mer säkerhetsinriktad utveckling av de mest riskfyllda kapacitetssprången. I resten av ekonomin vill den i stället öka tempot för AI-tillämpningar i sektorer som är viktiga för välfärd, industriell konkurrenskraft och säkerhet. 19

Det är den avgörande skillnaden: von der Leyens besked är inte ett krav på att sakta ned alla AI-produkter eller användningsområden. Det är ett försök att lägga större försiktighet kring de mest avancerade modellerna, samtidigt som användbar industriell AI ska rullas ut snabbare i Europa. 1