Hvorfor Singapore sammenligner AI-sikkerhed med flysikkerhed

De fleste går om bord på et fly med en forventning om, at nogen har testet udstyret, uddannet personalet og fastlagt regler for sikkerheden. Singapores minister for digital udvikling og information, Josephine Teo, mener, at kunstig intelligens med tiden kan få brug for en tilsvarende tillid, hvis teknologien skal bruges stadig mere og til stadig flere opgaver. Hendes sammenligning fra 17. september 2026 er en ambition – ikke en påstand om, at AI allerede er reguleret som luftfarten. 31924

Tillid kræver mere end en god model

Teos pointe er, at sikkerhed skal bygges i flere lag. I luftfarten hviler den ikke alene på flyproducenten. Tilsvarende kan ansvaret for AI ikke stoppe hos dem, der udvikler modellerne: Systemerne skal også testes, tages ansvarligt i brug og håndteres af mennesker med de rette kompetencer. 1924

Det bliver særligt vigtigt, når AI indgår i beslutninger med konsekvenser for mennesker. Teo har blandt andet nævnt AI-støttede kreditvurderinger som et eksempel på, hvorfor brugerne må kunne stole på, at et system ikke behandler dem skævt. Hun har også fremhævet risikoen for at miste menneskeligt tilsyn. Singapores testværktøj er blevet udvidet med fokus på blandt andet læk af følsomme data, fejlagtige AI-svar og skadeligt indhold. Omtalen af hendes septemberudtalelser nævner desuden cyberangreb og biologisk misbrug som bekymringer – ikke som dokumenterede hændelser udløst af hendes forslag. 25262739

Teo har i en anden sammenhæng omtalt skadelige AI-genererede billeder og en pligt for tjenester til at fjerne sådant indhold, når de får besked om det. De foreliggende kilder knytter dog ikke flysammenligningen til én bestemt nylig hændelse. 13

Hvad gør Singapore allerede?

Singapore har udviklet AI Verify, en ramme og et værktøjssæt til at teste AI mere ansvarligt og skabe større gennemsigtighed. Teo har desuden annonceret en ordning, der skal akkreditere uafhængige AI-testere, så organisationer får bedre grundlag for at vælge, hvem der skal vurdere deres systemer. 827

Landet har også gennemført et pilotprojekt om test af generative AI-applikationers pålidelighed. Erfaringerne indgår i et startsæt med testmetoder fra IMDA, Singapores myndighed for informations- og medieudvikling. En særskilt styringsramme for agentbaseret AI – systemer, der kan handle mere selvstændigt – lægger vægt på risikostyring og fortsat menneskeligt tilsyn. 299

Arbejdet stopper ikke ved landegrænsen. AI-produkter bruges på tværs af lande, og Singapore efterlyser evidensbaserede evalueringsmetoder, som kan fungere under forskellige regelsæt. Ifølge Teo bliver internationalt anerkendte standarder vigtige, men de tager tid at udvikle. Indtil da er budskabet at udbygge og forbedre sikkerhedsforanstaltningerne, mens brugen af AI vokser – ikke at betragte de nuværende værktøjer som et færdigt sikkerhedssystem. 6730