Singapores svar på AI-dommedag: Test systemerne, og sæt grænser for agenterne

Hvad gør man ved advarsler om, at AI kan blive farlig i en skala, ingen kan overskue? Stemmer i Singapores AI-branche peger på en konkret opgave: Lad uafhængige parter undersøge systemerne, kræv indsigt i sikkerhedsarbejdet, og begræns, hvad AI må få adgang til og gøre i praksis. Det er hverken et argument for fri udvikling uden kontrol eller for at standse alt AI-arbejde. 732

Advarslerne bag debatten

I september 2026 forlod Jacob Coxon AI-virksomheden Anthropic. Han havde tidligere også arbejdet hos OpenAI og beskyldte begge selskaber for uansvarligt at konkurrere om at udvikle selvlærende superintelligens. Anthropic-forskeren Evan Hubinger tilsluttede sig bekymringen og anslog personligt risikoen for, at AI fører til menneskehedens udryddelse inden for det næste årti, til over 10 procent. Det er hans vurdering – ikke en målt sandsynlighed eller dokumentation for, at en sådan katastrofe er nært forestående. 34

Anthropics topchef, Dario Amodei, opfordrede den 12. september til at sætte tempoet ned. Hans forslag omfattede også adgang for uafhængige evaluatorer, så de kunne kontrollere, om sikkerhedsprocedurer og udmeldinger bliver fulgt, og rapportere hændelser. Dermed bliver et centralt spørgsmål ikke kun, hvor stor er risikoen?, men også: Hvad kan andre efterprøve? 1332

Test giver indsigt – ikke en garanti

Singapore lancerede i 2022 værktøjet AI Verify, som kan bruges til at undersøge, om AI-resultater er retfærdige, robuste og forklarlige. Et program for akkreditering af AI-testere skal desuden bidrage til testkapaciteten. Ingen af delene kan bevise, at alle fremtidige systemer vil være sikre. 1933

Uafhængig kontrol kræver mere end en leverandørs forsikring om, at modellen har bestået en intern test. Evaluatorer må have tilstrækkelig adgang til at efterprøve sikkerhedspraksis og afdække hændelser. Organisationer, der vil koble AI til egne data og arbejdsgange, har samtidig brug for indsigt og kontrolmuligheder fra leverandøren. Adgang til en models vægte fortæller ikke i sig selv hele historien om dens træning, fejl og sikkerhedsforanstaltninger. 3234

Det udelukker ikke et målrettet stop. En ekspert med base i Singapore argumenterer for at sætte en konkret aktivitet på pause, hvis udvikleren ikke kan holde systemet tilstrækkeligt under kontrol eller forklare, hvordan alvorlige risici håndteres. Det er noget andet end et generelt stop for alle anvendelser. 32

Giv ikke AI-agenter frie hænder

En AI-agent kan bruge værktøjer og udføre handlinger på tværs af arbejdsgange. Derfor bliver spørgsmålet om beføjelser presserende: Hvilke systemer og data må agenten tilgå, og hvem har ansvaret for dens handlinger?

Singapores myndighed for digital udvikling, Infocomm Media Development Authority (IMDA), lancerede i januar 2026 en ramme for styring af AI-agenter. Den anbefaler, at organisationer vurderer risici på forhånd og sætter grænser for agenternes selvstændighed og adgang til værktøjer og data. En opdateret version fremhæver princippet om mindst mulige adgang: Agenten skal kun have de rettigheder, opgaven kræver. Rammen er vejledning, ikke et generelt lovforbud mod at bruge AI-agenter. 504852

I praksis betyder det en navngiven ansvarlig for hver agent, snævre tilladelser, løbende overvågning og handlinger, der så vidt muligt kan spores og gøres om. Det er mere håndgribeligt end blot at erklære en agent sikker. 34 Minister Josephine Teo har sammenlignet den tillid, sikkerhedsforanstaltninger og standarder kan skabe, med sikkerhedsarbejdet i civil luftfart. 17

Kernen er ansvarlighed trods usikkerhed: Test det, der kan testes, giv plads til uafhængig kontrol, og undlad at give systemer beføjelser, som ikke kan styres forsvarligt. Det afgør ikke debatten om AI’s langsigtede risici, men giver udviklere og brugere noget konkret at handle på nu. 3248