Sådan forbereder Singapore sig på cyberangreb med frontier-AI mod kritisk infrastruktur

Frontier-AI er ved at ændre økonomien bag cyberangreb. Modeller med avancerede evner inden for softwareanalyse og angrebslogik kan hjælpe angribere med hurtigere at finde svagheder, skrive angrebskode og skræddersy phishing- og manipulationskampagner – med mindre behov for specialiserede kompetencer. Singapores cybersikkerhedsmyndigheder ser derfor udviklingen som en acceleration af kendte risici, ikke som en grund til at opgive AI. Pointen er i stedet at sikre systemerne, før tidsvinduet til at reagere bliver endnu mindre.

Den største risiko: Angribere kan arbejde hurtigere

Den alvorligste bekymring er den kortere tid mellem opdagelsen af en sårbarhed og det tidspunkt, hvor den bliver udnyttet. Singapores Cyber Security Agency, CSA, vurderer, at frontier-AI kan hjælpe trusselsaktører med at finde sårbarheder hurtigere. Det forkorter den periode, hvor organisationer kan opdage, udbedre og teste deres systemer. En CSA-advarsel fremhæver især internetvendte systemer, fordi de er mere udsatte for automatiserede angreb og kan få stor samfundsmæssig betydning, hvis de kompromitteres.

Risikoen gælder ikke kun almindelige kontorsystemer. Offentlige platforme, cloudtjenester og kritisk informationsinfrastruktur – såkaldt CII – kan give adgang til vigtige tjenester og miljøer med operationel teknologi. Hvis angribere kan automatisere rekognoscering og udnyttelse på tværs af eksponerede systemer, kan én overset svaghed blive lettere at finde og misbruge i stor skala.

Frontier-modeller kan også gøre phishing og identitetssvindel mere overbevisende. CSA peger på, at AI kan masseproducere realistiske lokkemidler, skabe troværdige stemmekloner og deepfake-videoer samt udvikle værktøjer, der forsøger at omgå multifaktor-login. Dermed bliver angrebsfladen bredere: Tekniske sårbarheder er stadig centrale, men identiteter, brugerrettigheder og menneskelige beslutninger bliver lige så attraktive mål.

Hvad ved man om Claude Mythos Preview?

Anthropic har beskrevet Claude Mythos Preview som en meget stærk model til cybersikkerhedsopgaver og har lanceret Project Glasswing, hvor modellen bruges defensivt til at sikre kritisk software. De mest vidtgående offentlige påstande bør dog vurderes med forsigtighed. Den uafhængige verificering er fortsat begrænset, og Anthropic har valgt kontrolleret adgang frem for en bred offentlig lancering.

Singapores regering har oplyst, at den ikke har adgang til Mythos og ikke regner med at få tidlig adgang til alle fremtidige frontier-modeller. I stedet samarbejder regeringen med AI-laboratorier, cybersikkerhedsfirmaer og andre partnere, der følger udviklingen i modellernes evner og vurderer sikkerhedskonsekvenserne.

Det er en vigtig skelnen. Organisationer kan ikke basere deres sikkerhedsplan på at kunne undersøge én bestemt model. De har brug for kontrolforanstaltninger, der fortsat virker, når nye modeller, værktøjer og angrebsmetoder bliver tilgængelige.

Singapores vigtigste forsvarstiltag her og nu

CSA og GovTech har orienteret ejere af kritisk informationsinfrastruktur og offentlige myndigheder om risikoen ved frontier-AI. De umiddelbare anbefalinger er praktiske:

• Opdatér de mest udsatte systemer først. Udbedr alle kritiske og alvorlige sårbarheder på internetvendte systemer, og prioritér de aktiver, hvor et indbrud kan føre til omfattende kompromittering.
• Beskyt administrative adgange. Aktivér multifaktor-login på administrative grænseflader, gateways og konsoller til cloudadministration. Hvis multifaktor-login ikke er teknisk muligt, bør adgangen begrænses med eksempelvis IP-allowlisting.
• Gennemgå brugerrettigheder. Kontrollér privilegerede konti, gamle eller inaktive konti og unødvendige adgangsrettigheder. Adgang efter princippet om mindst mulige privilegier og netværkssegmentering kan begrænse, hvor langt en angriber kommer efter det første indbrud.
• Skab bedre overblik. Før en præcis fortegnelse over kritiske systemer, internetvendte aktiver, cloudtjenester og afhængigheder af tredjeparter, og overvåg dem løbende.
• Vær klar til at reagere. Beredskabsplaner bør indeholde tydelige eskalationsveje, testede sikkerhedskopier og øvelser, der tager højde for hurtigere og mere automatiserede angreb.

Ingen af tiltagene er nye i sig selv, men frontier-AI gør det farligere at vente. Målet er at mindske antallet af svagheder, som angribere kan udnytte, og forkorte tiden fra opdagelse til udbedring.

Brug AI til forsvaret – men sikr også selve AI’en

AI-baseret cybersikkerhed kan hjælpe sikkerhedsteams med at opdage trusler, sortere alarmer, undersøge hændelser og identificere eller udbedre sårbarheder hurtigere. Singapores CSIT beskriver AI-understøttede arbejdsgange og fuzzing-systemer, der skal finde såkaldte zero-day-sårbarheder i samfundskritisk software. Organisationen arbejder også med simulerede modstanderangreb, som kan afsløre arkitektoniske svagheder, før rigtige angribere finder dem.

Defensiv AI skaber samtidig sine egne sikkerhedskrav. CSA understreger, at det ikke er nok kun at hærde modellen. Systemejere bør vurdere risici gennem hele AI-livscyklussen: planlægning og design, udvikling, implementering, drift og vedligeholdelse samt udfasning. Det indebærer beskyttelse af trænings- og driftsdata, grænseflader, afhængigheder, leverandørkæder, adgangskontroller og overvågning – ikke kun af modellens adfærd.

Menneskelig kontrol er fortsat afgørende, især når et AI-system foreslår en programrettelse, klassificerer en hændelse eller anbefaler en reaktion, som kan påvirke operationel teknologi eller offentlige tjenester.

Et fælles ansvar for infrastruktur og virksomheder

Singapores linje kombinerer grundlæggende sikkerhed med løbende test. Ejere af kritisk informationsinfrastruktur bruger allerede eksterne revisioner og regelmæssige penetrationstests, hvis resultater sendes til CSA. Regeringen har samtidig understreget, at sikkerhedskontrollerne skal styrkes kontinuerligt og ikke kun kontrolleres ved periodiske revisioner.

Arbejdsprincippet kan sammenfattes sådan: Lås ned, opdag først, udbedr hurtigt. I praksis betyder det opdaterede fortegnelser over aktiver, løbende scanning, hurtig patching, segmentering af netværk og brugerrettigheder, test af software og afhængigheder samt øvelser i genopretning. Virksomheder, der ikke er udpeget som CII-ejere, bør anvende samme prioriteter på internetvendte tjenester, identitetssystemer, cloudkonsoller og følsomme forbindelser til tredjeparter.

Samarbejde og trusselsinformation

Ingen organisation kan overvåge alle frontier-AI-modellers evner eller alle mulige angrebsveje. Offentlige myndigheder, CII-operatører, cloud- og teknologileverandører, sikkerhedsforskere og universiteter bør derfor dele brugbare indikatorer, oplysninger om sårbarheder og erfaringer fra øvelser så hurtigt som muligt.

Noget efterretningsmateriale vil nødvendigvis være klassificeret. Singapore har sagt, at landet selektivt vil dele klassificerede trusselsoplysninger med CII-ejere og samtidig give dem defensive værktøjer. Organisationer bør derfor reagere på CSA’s advarsler og bruge renset, delbar efterretning, når detaljerede kilder ikke kan distribueres.

Nationale øvelser er en del af denne model. Critical Infrastructure Defence Exercise har brugt AI-baserede angrebssimulationer på tværs af 11 kritiske sektorer sammen med branchepartnere for at styrke den nationale modstandsdygtighed og forbedre koordineringen.

Den praktiske konklusion

Frontier-AI erstatter ikke cybersikkerhedens grundprincipper – den gør det dyrere at ignorere dem. Singapores stærkeste forsvar på kort sigt er en kombination af hurtig patching, multifaktor-login, adgang efter mindst-privilegium-princippet, løbende overvågning, modstandertest, sikker brug af AI og hurtig deling af information.

De organisationer, der finder deres svagheder, før en automatiseret angriber gør det, står stærkest, mens frontier-modellernes evner fortsætter med at udvikle sig.