Slik forbereder Singapore seg på cyberangrep med avansert KI

Frontier-KI er i ferd med å endre økonomien i cyberangrep. Modeller med avanserte evner innen programvareanalyse og sikkerhetsresonnering kan hjelpe angripere med å finne svakheter, skrive angrepskode og skreddersy sosial manipulering raskere – og med mindre behov for spesialkunnskap. Singapore behandler derfor utviklingen som en akselerasjon av kjente risikoer, ikke som en grunn til å avstå fra KI. Målet er å sikre systemene før tidsvinduet for å oppdage og stenge sårbarheter blir enda kortere.

Den største risikoen: Angrepene går raskere

Den alvorligste bekymringen er tiden mellom oppdagelsen av en sårbarhet og det faktiske angrepet. Singapores Cyber Security Agency (CSA) mener frontier-KI kan hjelpe trusselaktører med å oppdage sårbarheter raskere. Dermed får virksomheter kortere tid til å identifisere, lappe og teste systemene sine. CSA trekker særlig frem internettilkoblede systemer, fordi de er mer utsatt for automatiserte angrep og kan gi store konsekvenser dersom de blir kompromittert.

Dette handler om mer enn vanlig kontor-IT. Offentlige plattformer, skytjenester og kritisk informasjonsinfrastruktur – såkalt CII – kan gi tilgang til tjenester samfunnet er avhengig av, samt miljøer for operasjonsteknologi. Dersom angripere kan automatisere kartlegging og utnyttelse på tvers av eksponerte systemer, kan én oversett svakhet bli enklere å finne og misbruke i stor skala.

Frontier-modeller kan også gjøre phishing og identitetssvindel mer overbevisende. CSA peker på at KI kan masseprodusere troverdige lokkemidler, lage realistiske stemmekloner og videomanipulasjoner og utvikle verktøy som forsøker å omgå flerfaktorautentisering. Dermed blir angrepsflaten bredere: Tekniske sårbarheter er fortsatt viktige, men identitet, tilganger og menneskelige beslutninger blir like attraktive mål.

Hva vet man om Claude Mythos Preview?

Anthropic har beskrevet Claude Mythos Preview som en svært kapabel modell for datasikkerhetsoppgaver. Selskapet har også lansert Project Glasswing, der modellen brukes til defensivt arbeid med kritisk programvare. De mest oppsiktsvekkende påstandene bør likevel tolkes med varsomhet: Den uavhengige verifiseringen er fortsatt begrenset, og Anthropic har holdt modellen under kontrollert tilgang i stedet for å gjøre den bredt tilgjengelig.

Singapores regjering har sagt at den ikke har tilgang til Mythos, og at landet ikke legger til grunn at det vil få tidlig tilgang til alle fremtidige frontier-modeller. I stedet samarbeider myndighetene med KI-laboratorier, cybersikkerhetsselskaper og andre partnere som kan følge utviklingen i modellkapasitet og vurdere sikkerhetskonsekvensene.

Forskjellen er viktig. Organisasjoner kan ikke bygge sikkerhetsplanen sin rundt overvåking av én navngitt modell. De trenger tiltak som fortsatt fungerer når nye modeller, verktøy og angrepsmetoder blir tilgjengelige.

Singapores viktigste strakstiltak

CSA og GovTech har varslet eiere av kritisk informasjonsinfrastruktur og offentlige etater om risikoen fra frontier-KI. De umiddelbare tiltakene er praktiske:

• Oppdater eksponerte systemer først. Rett alle kritiske sårbarheter og sårbarheter med høy alvorlighetsgrad på internettilkoblede systemer. Prioriter systemer der en kompromittering kan få omfattende konsekvenser.
• Sikre administrativ tilgang. Aktiver flerfaktorautentisering på administrative grensesnitt, inngangsportaler og konsoller for skyadministrasjon. Hvis MFA ikke er teknisk mulig, bør tilgangen begrenses med tiltak som IP-hvitlisting.
• Gå gjennom rettigheter. Kontroller privilegerte kontoer, gamle kontoer og unødvendige tilganger. Minste privilegium og segmentering av nettverk kan begrense hva en angriper får tilgang til etter et første innbrudd.
• Få bedre oversikt. Ha et oppdatert register over kritiske systemer, internettilkoblede ressurser, skytjenester og avhengigheter til tredjeparter – og overvåk dem kontinuerlig.
• Vær klar til å håndtere hendelser. Beredskapsplaner bør ha tydelige eskaleringslinjer, testede sikkerhetskopier og øvelser som tar høyde for raskere og mer automatiserte angrep.

Ingen av tiltakene er nye i seg selv. Men frontier-KI gjør det farligere å vente. Hensikten er å redusere antallet svakheter angripere kan utnytte, og å korte ned tiden fra oppdagelse til utbedring.

Bruk KI i forsvaret – men sikre KI-systemene

KI-basert cybersikkerhet kan hjelpe team med å oppdage trusler, sortere varsler, etterforske hendelser og identifisere eller utbedre sårbarheter raskere. Singapores sikkerhetsmiljø CSIT beskriver KI-støttede arbeidsflyter og fuzzing-systemer som skal avdekke såkalte zero-day-sårbarheter i samfunnskritisk programvare. Målet er å kunne tette hullene før angriperne finner dem. CSIT bruker også motstanderbaserte simuleringer for å avdekke svakheter i arkitekturen.

Defensiv KI skaper samtidig egne sikkerhetskrav. CSA understreker at det ikke er nok å herde selve modellen. Systemeierne bør vurdere risiko gjennom hele KI-livsløpet: planlegging og design, utvikling, utrulling, drift og vedlikehold – og avvikling. Det innebærer å beskytte trenings- og driftsdata, grensesnitt, avhengigheter, leverandørkjeder, tilgangskontroller og overvåking, ikke bare modellens oppførsel.

Menneskelig kontroll er fortsatt nødvendig, særlig når et KI-system anbefaler en oppdatering, klassifiserer en hendelse eller foreslår et tiltak som kan påvirke operasjonsteknologi eller offentlige tjenester.

En felles oppgave for kritisk infrastruktur og næringslivet

Singapores linje kombinerer grunnleggende sikkerhetstiltak med kontinuerlig testing. Eiere av kritisk informasjonsinfrastruktur bruker allerede eksterne revisjoner og jevnlige penetrasjonstester, og rapportene sendes til CSA. Myndighetene har samtidig understreket at sikkerhetskontroller må styrkes fortløpende, ikke bare kontrolleres ved periodiske revisjoner.

Prinsippet kan oppsummeres slik: lås ned, finn først, fiks raskt. I praksis betyr det oppdaterte ressursregistre, kontinuerlig skanning, rask patching, segmentering av nettverk og privilegier, testing av programvare og avhengigheter og øvelser på gjenoppretting. Virksomheter som ikke er formelle CII-eiere, bør bruke de samme prioriteringene for internettilkoblede tjenester, identitetssystemer, skykonsoller og sensitive forbindelser til tredjeparter.

Samarbeid og deling av trusselinformasjon

Ingen enkeltorganisasjon kan ha oversikt over alle frontier-KI-modeller eller alle mulige angrepsveier. Offentlige etater, operatører av kritisk infrastruktur, sky- og teknologileverandører, sikkerhetsforskere og akademia bør derfor dele brukbare indikatorer, informasjon om sårbarheter og erfaringer fra øvelser så raskt som mulig.

Noe informasjon vil nødvendigvis forbli gradert. Singapore har sagt at landet selektivt vil dele gradert trusselinformasjon med eiere av kritisk informasjonsinfrastruktur, samtidig som disse får defensive verktøy. Organisasjoner bør derfor handle på CSA-varsler og bruke renset, delbar trusselinformasjon når detaljerte kilder ikke kan distribueres.

Nasjonale øvelser er en del av denne modellen. Critical Infrastructure Defence Exercise har brukt KI-styrte angrepssimuleringer på tvers av 11 kritiske sektorer sammen med industripartnere for å bygge motstandsdyktighet og bedre samordningen.

Det viktigste å ta med seg

Frontier-KI erstatter ikke grunnprinsippene i cybersikkerhet. Den gjør det bare dyrere å ignorere dem. Singapores nærmeste forsvarslinje består av rask patching, MFA, tilgang etter minste privilegium, kontinuerlig overvåking, motstanderbasert testing, sikker bruk av KI og rask deling av informasjon.

Virksomhetene som finner svakhetene sine før en automatisert angriper gjør det, vil ha det beste utgangspunktet når kapasiteten til frontier-modellene fortsetter å utvikle seg.