Hvorfor Singapore sammenligner AI-sikkerhed med flysikkerhed

Når vi sætter os i et fly, stoler vi ikke kun på, at det blev bygget ordentligt. Vi stoler også på vedligeholdelse, styring af luftrum og lufthavne samt uddannet personale, der følger sikkerhedsprocedurerne i praksis. Det er den samlede indsats, Singapores minister for digital udvikling og information, Josephine Teo, peger på i debatten om kunstig intelligens. 79

I et LinkedIn-opslag den 17. september argumenterede hun for, at AI med tiden kan få brug for sikkerhedsordninger, der minder om civil luftfarts. Pointen er ikke, at et sådant regelsæt allerede findes for AI. Det er, at mennesker skal have tillid til beskyttelsen, hvis de regelmæssigt skal kunne stole på teknologien. 23

Fra én test til et helt sikkerhedssystem

Flymetaforen rejser nogle praktiske spørgsmål for dem, der udvikler, tager i brug og fører tilsyn med AI: Hvordan testes et system før brug? Hvem vurderer det, når det ændrer sig? Og hvilken vejledning har brugerne brug for? Spørgsmålene er ikke i sig selv en færdig opskrift på regulering. Teo har beskrevet luftfartens sikkerhed som en indsats i flere lag og understreget, at Singapore må lære hurtigt, fordi der endnu ikke findes en færdig drejebog for AI-sikkerhed. 5

Hvad gør Singapore allerede?

Teos linje er at opbygge sikkerhedsforanstaltninger samtidig med, at AI tages i brug, selv om der stadig er behov for forskning og test. Blandt Singapores eksisterende initiativer er AI Verify, som skal fremme ansvarlig test og åbenhed om AI-systemer, samt Singapore AI Safety Institute. 1222

Teo har også beskrevet et program, der skal akkreditere uafhængige AI-testere. Formålet er at give organisationer større tillid til dem, der vurderer deres systemer. Det er skridt mod bedre kontrol – ikke dokumentation for, at alle AI-risici er løst. 22

AI og dens risici stopper ikke ved landegrænser. Singapore har været vært for International Scientific Exchange on AI Safety, bidraget til Singapore Consensus om globale forskningsprioriteter for AI-sikkerhed og deltaget i fælles testarbejde. Samarbejdet styrker forskning og evaluering, men udgør ikke en bindende international myndighed efter forbillede fra luftfarten. 181

Skal udviklingen også sættes ned i tempo?

Teos vægt på sikker brug kommer midt i advarsler om blandt andet tab af menneskelig kontrol, cyberangreb og bioterrorisme. Den 12. september opfordrede Anthropic-chef Dario Amodei til at sænke tempoet i forbedringerne af de mest avancerede AI-modeller, så sikkerhedsarbejde og uafhængig kontrol kan følge med. Hans advarsel om, at fremtidige AI-agenter potentielt kan skabe omfattende forstyrrelser på internettet, er en prognose – ikke noget, der allerede er sket. 131011

De to tilgange er ikke ens: Teo fremhæver stærkere beskyttelse, mens brugen vokser; Amodei vil også give sikkerhedsarbejdet mere tid, før de mest avancerede modeller bliver endnu stærkere. Begge kredser om det samme åbne spørgsmål: Kan sikkerheden følge med den teknologi, vi forventes at stole på? 1311