Von der Leyen vil bremse topp-AI – og samtidig skalere opp industriell bruk

Budskapet fra Ursula von der Leyens tale om EUs tilstand var ikke at all kunstig intelligens skal bremses. EU-kommisjonens president la i stedet fram en todelt linje: Mer forsiktighet og sikkerhetsarbeid for de mest kapable AI-modellene, men raskere bruk av AI der teknologien kan styrke europeisk industri, offentlige tjenester og sikkerhet. 1

Vil «styre tempoet ved fronten»

Von der Leyen sa at hun vil invitere de ledende laboratoriene som utvikler såkalt frontier-AI – de mest avanserte modellene – til samtaler om hvordan myndighetene kan støtte bransjens arbeid med å «pace the frontier», altså styre tempoet i kappløpet om stadig kraftigere modeller. Det er varslet samtaler og sikkerhetssamarbeid, ikke et umiddelbart EU-moratorium eller et generelt forbud mot AI-utvikling. 16

Bekymringen retter seg særlig mot stadig mer kapable modeller, blant annet modeller som kan forbedre seg selv. Von der Leyen advarte om at slike systemer kan muliggjøre hacking i en skala man tidligere ikke har sett for seg, og at de snart kan bli tilgjengelige for motstandere. 115

Utspillet kommer etter en bredere strid i AI-bransjen om hvor fort de mest avanserte kapasitetene bør utvikles. Reuters rapporterte at Anthropics toppsjef Dario Amodei hadde tatt til orde for lavere tempo, med støtte fra OpenAI-sjef Sam Altman og Elon Musk. Samtidig har advarslene utløst en debatt om de uttrykker nødvendig føre-var-tenkning eller overdreven «AI-doomerism». 17

Von der Leyen ba også om tettere samarbeid med Canada, Storbritannia og andre likesinnede partnere om AI-sikkerhet, blant annet evaluering av frontier-modeller og tilknyttede sikkerhetstiltak. 9

EU Kids Act: Aldersstyrt tilgang og ansvar for plattformene

Kommisjonens foreslåtte EU Kids Act skal favne mer enn vanlige sosiale medier. Forslaget er ment å dekke sosiale medier, videodelingsplattformer, nettspill og AI-chatboter, med ulike sikkerhetstiltak for ulike aldersgrupper. Dette er et forslag og innebærer derfor ikke at nye regler blir håndhevbare umiddelbart. 1

Modellen som ble beskrevet, omfatter:

• Ingen tilgang til sosiale medier for barn under 13 år. 1
• Begrensede kontoer som opprettes og følges opp av foreldre for 13- og 14-åringer, med begrensede funksjoner og tidsgrenser. 1
• Krav om sikker utforming av tjenestene for brukere fra 15 til 18 år.

Et sentralt prinsipp er at ansvaret ikke bare skal ligge hos barn og foreldre. Tjenestene skal ha plikter knyttet til sikker utforming, og rapporteringen om forslaget sier at selskapene vil måtte kontrollere brukernes alder og håndtere avhengighetsskapende funksjoner som endeløs skrolling. 7

AI raskere ut i strategiske sektorer

Samtidig som hun tok til orde for strengere kontroll ved AI-fronten, beskrev von der Leyen AI som et grunnleggende lag i Europas økonomi og sikkerhet. Hun trakk fram blant annet selvkjørende transport og forsvar, og argumenterte for at Europa må hente ut praktisk verdi fra teknologien. 1

Kommisjonen har pekt ut fem områder der industriell AI skal ha spesielt stort potensial, og der Europa ifølge kommisjonen har relevante data og forutsetninger:

1. Helse
2. Transport
3. Landbruk og mat
4. Avansert industri
5. Forsvar og romfart 1

Kommisjonen sier den vil presentere «banebrytende initiativer» på disse områdene i november. 1

Dette er den politiske retningen

Planen bør forstås som en delt strategi. For de mest avanserte modellene ønsker Kommisjonen bedre evalueringer, internasjonal samordning og en langsommere, sikkerhetsbevisst utvikling av de mest risikofylte kapasitetsløftene. I resten av økonomien vil den få AI raskere i bruk i sektorer knyttet til konkurransekraft, offentlige tjenester og sikkerhet. 19

Det sentrale skillet er derfor klart: Dette er ikke en oppfordring til å bremse alle AI-produkter eller bruksområder. Det er et forsøk på å legge større varsomhet rundt frontier-modeller, samtidig som nyttige, industrirettede AI-løsninger skal rulles ut raskere i Europa. 1