Hvad kræver en reel opbremsning af AI – og hvilken rolle kan Singapore spille?

En meningsfuld opbremsning af AI bør sætte tempoet ned for udviklingen af de mest avancerede systemer – ikke sætte AI på pause i hele økonomien. Nye offentlige opfordringer fra fremtrædende AI-ledere har bragt uafhængige evalueringer og koordinering på dagsordenen. Men troværdige sikkerhedsforanstaltninger kræver mere end frivillige løfter: Evalueringerne skal være uafhængige, beslutninger om lancering skal have konsekvenser, og reglerne bør tilpasses risikoen.

Singapore har flere relevante byggesten, blandt andet en ramme for styring af agentisk AI, testværktøjer under AI Verify og et program, der anerkender tredjepartsvirksomheder, som tester AI. Den næste udfordring er at forbinde værktøjerne med tydelige, evidensbaserede beslutninger om de systemer, der faktisk bliver taget i brug. 4

Hvad opfordringerne til at sætte farten ned betyder – og ikke betyder

De nye forslag handler om tempoet i udviklingen af frontier-AI – de mest avancerede systemer, hvor udviklernes sikkerhedsforanstaltninger og ekstern kontrol kan have svært ved at følge med de teknologiske fremskridt. Blandt forslagene, der er omtalt, er løbende adgang for eksterne evaluatorer til virksomheder, der udvikler frontier-AI, fælles sikkerhedsstandarder og bredere internationalt samarbejde.

Forslagene viser, at interessen vokser, men de udgør ikke en fastlagt politik eller en bindende aftale mellem AI-virksomheder. Den internationale AI-sikkerhedsrapport beskriver risikostyringen som stadig under udvikling og bemærker, at de fleste virksomhedstiltag fortsat er frivillige. Det er en vigtig forskel: Et løfte fra en virksomhed om at teste en model er ikke i sig selv en håndhævelig regel, der kræver, at lanceringen udsættes, hvis der stadig er alvorlige risici.

Gør lanceringen afhængig af risikoen

En praktisk tilgang vil stille strengere krav til systemer med større kapacitet eller mere omfattende beføjelser, uden at indføre et generelt forbud mod almindelig AI-brug. Et værktøj med lav risiko, der hjælper med at skrive udkast, bør ikke automatisk mødes med de samme krav som en agent, der må foretage handlinger med store konsekvenser. Singapores ramme for agentisk AI anbefaler allerede, at organisationer vurderer og afgrænser risici og indfører menneskelig godkendelse ved væsentlige eller følsomme handlinger. 46

For frontier-modeller og anvendelser med stor indvirkning kunne beslutningstagere bygge videre på dette princip med en lanceringsproces, der omfatter:

• Uafhængig evaluering før lancering: Giv kvalificerede eksterne evaluatorer sikker adgang til relevante systemer og dokumentation, så de kan vurdere farlige egenskaber og forudsigelig misbrug. Løbende adgang for evaluatorer er blevet foreslået i nyere opfordringer til at sætte tempoet ned for frontier-AI; det er ikke et generelt gældende krav.
• Klare tærskler og opfølgning: Beskriv offentligt – eller på anden tydelig vis – hvilke fund der udløser yderligere sikkerhedsforanstaltninger, begrænset adgang eller en forsinkelse. Hvis en evaluering ikke bestås, bør det føre til en dokumenteret reaktion og, når risikoen tilsiger det, at lanceringen sættes på hold – ikke blot endnu en intern gennemgang. Det er forslag til styring, ikke krav i Singapores nuværende ramme. 4
• Kontrol, der passer til anvendelsen: Når agenter får beføjelser til at foretage handlinger med væsentlige konsekvenser, bør man overveje begrænset adgang, menneskelig godkendelse ved vigtige beslutningspunkter, overvågning og tydeligt ansvar. Singapores ramme understøtter risikobegrænsning og reel menneskelig kontrol; de konkrete tiltag bør afhænge af systemet og dets anvendelse. 48
• Ny vurdering ved væsentlige ændringer: Vurder systemet igen, når modellen, dens værktøjer eller anvendelseskontekst ændrer sig væsentligt, frem for at betragte en tidligere test som en varig garanti. Det er et forslag til, hvordan evalueringen kan forblive relevant, når systemet ændres.

Anvendelser med lavere risiko bør have en enklere og lettere vej til ibrugtagning. Risikobaserede regler kan give plads til, at virksomheder tager AI i brug, uden at en bestået test bliver behandlet som bevis på, at systemet er sikkert i enhver sammenhæng. EU's AI-forordning er et eksempel på regulering, der er organiseret efter risikoen ved forskellige AI-anvendelser.

Hold reglerne offentlige og testene uafhængige

International koordinering kan gøre evalueringer mere sammenlignelige og mindske incitamentet til at søge mod den mindst krævende kontrol. Regeringer kan arbejde for fælles testmetoder, deling af oplysninger om hændelser og minimumskrav til systemer med den højeste risiko. Uafhængige evaluatorer kan derefter indsamle dokumentation op mod de fælles krav. De nyere forslag om at sætte tempoet ned efterlyser ligeledes koordinering mellem virksomheder og på tværs af landegrænser.

Det er vigtigt at fordele ansvaret rigtigt. Offentlige myndigheder bør fastsætte håndhævelige tærskler og afgøre, hvad der sker, hvis de overskrides. Virksomheder kan bidrage med teknisk viden, men bør ikke være de eneste, der vurderer, om deres egne systemer lever op til kravene. Uafhængige testere bør bruge gennemsigtige metoder og oplyse om interessekonflikter. Det er principper for et foreslået kontrolsystem, ikke elementer, der allerede er fastlagt i de omtalte brancheforslag.

Hvad Singapore kan bygge videre på

Singapores Model AI Governance Framework for Agentic AI giver vejledning til organisationer, der tager AI-agenter i brug. Den omfatter blandt andet risikovurdering, menneskeligt ansvar og kontrolforanstaltninger. Rammen er vejledning om ansvarlig brug – ikke i sig selv en bindende godkendelse, der skal være på plads før en lancering. 468

AI Verify stiller testværktøjer til rådighed, mens AI Tester Accreditation Programme anerkender tredjepartsvirksomheder med relevante tekniske kompetencer og operationel parathed. Tilsammen kan initiativerne understøtte mere ensartede vurderinger på tværs af erhvervsliv og finanssektor. Singapore kunne også fremme fælles profiler for sikkerhedsdokumentation og kontrakter, der tydeliggør, hvad modeludbydere, systemintegratorer, dem, der tager systemerne i brug, og testere hver især forventes at dokumentere. Det er mulige næste skridt, ikke politikker, der allerede følger af de citerede rammer.

Et nyttigt mål kunne være, at lande anerkender testresultater og metoder på tværs af grænser – ikke at hævde, at ét nationalt certifikat garanterer sikkerheden ved ethvert system eller enhver anvendelse. Rammen og testværktøjerne kan gøre dokumentationen mere struktureret; myndigheder og organisationer skal stadig vurdere, om den dækker den konkrete anvendelse og dens risici.

Vurder AI-sikkerhed, softwarepålidelighed og cybersikkerhed samlet

Det er kun en del af vurderingen af en AI-agent at teste dens svar. En fuldstændig vurdering bør også undersøge softwaresystemet omkring modellen og sikkerheden i de værktøjer og tilladelser, den har adgang til. Det er beslægtede, men forskellige spørgsmål: Hvilken skadelig adfærd kan AI'en udvise? Hvordan opfører den samlede løsning sig, når noget fejler eller ændres? Og kan en angriber kompromittere eller omdirigere systemet?

Denne samlede vurdering er en anbefalet udvidelse af sikkerhedsarbejdet – ikke en påstand om, at alle eksisterende værktøjer allerede dækker alle tre områder. AI Verify Toolkit beskriver tekniske tests af traditionelle maskinlæringssystemer, herunder tests af retfærdighed, forklarlighed og robusthed. Derfor er det vigtigt at præcisere, hvilken yderligere end-to-end-test der er nødvendig for agentiske systemer, i stedet for at antage, at et resultat på modelniveau godkender hele løsningen.

Sådan ser man, om opbremsningen virker

En opbremsning er meningsfuld, når uafhængig dokumentation faktisk kan ændre, hvad der sker: En lancering med høj risiko kan blive udsat, begrænset eller ændret, hvis sikkerhedsforanstaltningerne ikke er tilstrækkelige, mens almindelige anvendelser med lavere risiko stadig har en rimelig vej til ibrugtagning. Singapores rammer og testprogrammer giver et grundlag for at udvikle den slags sikkerhedsvurdering, men tærsklerne for lancering, håndhævelsen og omfanget af evalueringerne skal gøres tydelige.