AI-agentene tar over nettet – og åpner nye sikkerhetshull

Cloudflare beskriver et vendepunkt for internett: Trafikk fra AI-agenter skal ha økt med mer enn 1 700 prosent sammenlignet med året før, og utgjøre rundt 60 prosent av trafikken i Cloudflares nettverk. Etter selskapets syn betyr det at nettet er på vei fra hovedsakelig menneskestyrt aktivitet til en virkelighet der autonome programvareagenter gjør stadig mer av arbeidet. 9

Et nytt trusselbilde

AI-agenter gjør mer enn å skrive tekst. De kan åpne nettsider, hente informasjon, kalle på verktøy, koble seg til interne systemer og utføre handlinger på vegne av brukeren. Dermed kan en feil eller et manipulert svar få direkte konsekvenser.

Risikoen omfatter blant annet:

• Instruksjonsangrep: Skjulte eller manipulerte instrukser kan få agenten til å ignorere hensikten med oppgaven eller utføre uønskede handlinger.
• For omfattende tilgang: En agent kan få større tilgang enn den trenger, og dermed lese eller endre data utenfor oppdraget sitt.
• Misbruk av innlogginger: Lagring eller bruk av tokens og annen påloggingsinformasjon kan åpne for misbruk.
• Datatyveri: Følsomme opplysninger kan sendes til feil tjeneste eller trekkes ut gjennom en kompromittert agent eller et verktøy.

Et særlig problem er det Cloudflare kaller skygge-AI: Ansatte tar i bruk AI-tjenester som ikke er godkjent av virksomheten. Da kan bedriftshemmeligheter, personopplysninger eller annen intern informasjon havne utenfor organisasjonens sikkerhets- og personvernkontroller.

Det samme gjelder såkalt skygge-MCP. MCP, eller Model Context Protocol, brukes til å koble AI-agenter sammen med verktøy og datakilder. Uautoriserte MCP-forbindelser kan opprette ukontrollerte veier mellom agenter, verktøy og interne data – uten at identitet, tilgang, logging eller sikkerhetsvurderinger er på plass.

Cloudflares anbefalte tiltak

Cloudflare anbefaler først og fremst at virksomheter finner ut hva som faktisk foregår i nettverket, i stedet for å anta at all AI-bruk er godkjent.

Selskapet sier at Cloudflare Gateway kan identifisere MCP-trafikk ved hjelp av protokollbaserte kjennetegn. Det skal gjøre det mulig for sikkerhetsteam å oppdage skygge-MCP og se hvilke forbindelser som går utenom etablerte kontrollpunkter. 11

Deretter bør virksomheter bruke regler av typen DLP, eller Data Loss Prevention, for å oppdage og blokkere sensitive opplysninger før de sendes til AI-tjenester. Det kan for eksempel gjelde kildekode, kundeinformasjon, persondata eller forretningshemmeligheter i en melding til en modell.

For godkjente MCP-servere anbefaler Cloudflare en strengere modell:

1. Gjør serverne tilgjengelige gjennom en kontrollert portal.
2. Krev identitetsbasert tilgang med minst mulige rettigheter.
3. Bruk en nulltillitstilnærming, der hver forbindelse må verifiseres.
4. Blokker direkte tilkoblinger til serverne fra administrerte nettverksbaner. 11

Målet er ikke å stanse agentbruk, men å sørge for at agentene bruker godkjente verktøy på en sporbar og begrenset måte.

«Q Day» kan komme før datoen er kjent

Cloudflare knytter også utviklingen til overgangen til postkvantekryptografi. «Q Day» betegner tidspunktet da kvantedatamaskiner med tilstrekkelig kapasitet kan bryte dagens utbredte kryptografi med offentlig nøkkel.

Det skaper også en såkalt «samle inn nå, dekrypter senere»-risiko: Kryptert informasjon kan bli kopiert i dag og dekryptert på et senere tidspunkt, når teknologien gjør det mulig. 34

Cloudflare har satt som mål å være fullt postkvantesikkert på tvers av hele produktporteføljen innen 2029. 34 Selskapet har allerede startet arbeidet med postkvanteautentisering for forbindelser til kunders opprinnelsesservere gjennom Authenticated Origin Pulls og Custom Origin Trust Store. Dette beskrives som et første steg mot postkvanteautentisering i alle Cloudflare-produkter. 15

Diskusjonen i Asia-Stillehavsregionen skal ha pekt mot at den praktiske kvantefaren kan oppstå rundt 2030. Poenget er derfor å begynne migreringen før en nøyaktig dato for Q Day er kjent. 9

Kitesurf: En nettleser for maskiner, ikke mennesker

Cloudflares nye Kitesurf-nettleser er en del av den samme strategien. Den er tilgjengelig gratis i betaversjon gjennom Browser Run og er utviklet først og fremst for AI-agenter, ikke for mennesker som surfer visuelt på nettet. 12

Kitesurf er stateless og kjører på Cloudflare Workers. Den er laget for oppgaver som skjermbilder og uthenting av HTML, og kutter bort funksjoner som en menneskelig nettleser vanligvis trenger – som tradisjonell visuell gjengivelse, faner og andre grensesnittelementer. 128

Cloudflare oppgir at Kitesurf bruker tre til sju ganger mindre CPU og minne enn Chromium i vanlige agentoppgaver. Det kan gjøre det mulig å kjøre flere samtidige agentøkter og skalere raskere når belastningen varierer. 2

At nettleseren kjører på Workers og i V8-isolater, knytter den tettere til Cloudflares øvrige systemer for identitet, nettverkspolicyer, sikkerhet og overvåking. 8

Infrastruktur for agentenes internett

Cloudflares plan handler dermed om mer enn å beskytte seg mot AI-trafikk. Selskapet bygger også infrastrukturen som skal la AI-agenter operere på nettet mer effektivt.

Den nye modellen kombinerer derfor flere lag: kartlegging av agent- og MCP-bruk, kontroll av data som sendes i meldinger, nulltillitsbasert autorisering, sikrere nettleserinfrastruktur og en gradvis overgang til kryptografi som tåler kvantedatamaskiner.

Hvis Cloudflares trafikktall holder seg, blir den viktigste sikkerhetsoppgaven fremover ikke bare å skille mennesker fra roboter. Den blir å vite hvilke agenter som handler, hvilke verktøy de bruker, hvilke data de kan se – og hvem som faktisk har gitt dem tillatelse.