Prediktive systemer fungerer ofte godt når målet er tydelig, datagrunnlaget er relevant og kostnaden ved ulike feil kan måles. De kan behandle store informasjonsmengder raskt, følge samme prosedyre hver gang og oppdage mønstre mennesker lett overser.

Begrensningen ligger i den samme egenskapen som gjør systemene håndterlige: De er vanligvis laget for én bestemt oppgave. En svindelmodell kan gi en transaksjon en risikoscore, men kan ikke nødvendigvis forklare et regelverk, skrive en rapport eller tilpasse seg en ukjent situasjon.

Resultatet avhenger også av kvaliteten på treningsdataene og hva systemet er optimalisert for å forutsi. Historiske data kan videreføre samfunnsskjevheter. Det kan gi urettferdige utslag innen kreditt, ansettelser, forsikring og helse. Ugjennomsiktige poengsystemer kan dessuten gjøre det vanskelig å forstå eller bestride en avgjørelse. Bekymringer rundt skjevhet, feilinformasjon og misbruk gjelder derfor AI generelt – ikke bare chatbotter.

Ansvarlig styring bør blant annet innebære et klart definert formål, testing av nøyaktighet og rettferdighet på tvers av relevante grupper, personvern, forklaringer og menneskelig vurdering når avgjørelsene får store konsekvenser.

2. Generativ AI: fra merkelapper til innhold

Generativ AI endrer brukeropplevelsen fra «Hvilken kategori tilhører dette?» til «Lag eller endre noe basert på denne instruksen».

Store modeller kan produsere tekst, bilder, lyd og kode. Det gir bruksområder som:

• utkast til svar i kundeservice;
• oversettelse;
• undervisning og veiledning;
• oppsummering av juridisk materiale;
• programvareutvikling; og
• kreativt arbeid.

Generative systemer kan redusere tiden og kostnaden ved å lage et førsteutkast. De kan også gi en samtalebasert inngang til komplisert informasjon og hjelpe fagfolk med å arbeide i nye formater. I mange tilfeller fungerer de som støtte for mennesker, heller enn som automatisering av én fast beslutning.

Den viktigste svakheten: Overbevisende betyr ikke sant

En generativ modell kan formulere en selvsikker, men oppdiktet eller unøyaktig påstand, kilde, juridisk henvisning, medisinsk vurdering eller kodebit. NIST bruker begrepet konfabulering om «produksjon av feilaktig eller usant innhold som presenteres med selvtillit». På folkemunne kalles dette ofte en hallusinasjon.

Derfor er kontroll av innholdet avgjørende når fakta har betydning. Nyttige tiltak er å hente informasjon fra pålitelige kilder, bruke sitater og kildehenvisninger, gjennomføre strukturerte evalueringer, teste systemet i det aktuelle fagområdet og la kvalifiserte mennesker kontrollere resultatet.

Et velformulert svar bør behandles som et utkast eller en prediksjon – ikke som et bevis på at påstanden er riktig.

Risikoene rundt generative systemer

Generativ AI reiser også spørsmål om personvern, opphavsrett, feilinformasjon og hvor innholdet faktisk stammer fra. EU-kommisjonens veiledning for forskning fremhever disse risikoene og understreker at mennesker fortsatt har ansvaret for arbeidet de publiserer, selv når AI har bidratt.

Utdanning viser en særlig tydelig utfordring. Hvis elever og studenter regelmessig overlater skriving, resonnering og problemløsing til AI, kan de få et polert resultat uten å øve like mye på ferdighetene bak. Veiledning for utdanningssektoren trekker frem unøyaktig eller skjevt innhold, skadelig materiale, datalekkasjer, brudd på immaterielle rettigheter og utfordringer for akademisk integritet.

Sikkerhetsfeil kan bli ekstra alvorlige i sårbare samtaler. Generative systemer kan produsere hatefulle, voldelige, seksuelle eller manipulerende svar, eller reagere dårlig når noen uttrykker tanker om selvskading. NIST peker blant annet på farlige eller voldelige anbefalinger, personvern og skadelig skjevhet som risikoer som må håndteres.

I situasjoner med høy risiko bør AI derfor ikke erstatte kvalifisert hjelp eller menneskelig oppfølging. Systemene trenger tydelige avvisninger av farlige forespørsler, rutiner for å varsle eller koble inn mennesker, personvernkontroller og en klar vei til umiddelbar menneskelig støtte.

3. Agentisk AI: å planlegge, bruke verktøy og handle

Agentisk AI legger en handlingssløyfe rundt modellen. I stedet for å svare én gang på en forespørsel kan en agent tolke et mål, dele det opp i trinn, bruke verktøy som nettleser, kodekjører, e-posttjeneste eller API, undersøke resultatene, endre planen og fortsette.

Stanford beskriver agentisk AI som autonome eller delvis autonome systemer som kan tolke mål, sekvensere handlinger, bruke verktøy, reagere på tilbakemeldinger og tilpasse seg for å fullføre oppgaver innenfor bestemte begrensninger.

Forskjellen kan illustreres slik:

• Et prediktivt system gir en risikoscore til en transaksjon.
• Et generativt system skriver et svar om transaksjonen.
• En agent kan, dersom den har nødvendig tilgang, undersøke transaksjonen, oppdatere en sak og sende en melding.

Google Jules viser hvordan dette kan brukes i programvareutvikling. Google beskriver Jules som en asynkron kodeagent som integreres med kodearkiver, kloner en kodebase til en virtuell maskin i skyen og arbeider med kodeoppgaver som senere kan gjennomgås.

Andre verktøybaserte agenter bygger på åpen kildekode, mens produkter som LinkedIn Hiring Assistant viser hvordan agentiske arbeidsflyter også kan brukes til søk og rekruttering.

Agentene er attraktive fordi de kan fullføre arbeid i flere trinn, i stedet for bare å foreslå neste steg. En kodeagent kan for eksempel undersøke en feil, endre flere filer, kjøre tester og klargjøre en pull request til gjennomgang. En arbeidsflytagent kan samle inn informasjon, organisere den og lage kommunikasjon som må godkjennes.

Hvorfor autonomi øker risikoen

Planlegging er ikke det samme som pålitelig forståelse. En agent kan misforstå en nettside, velge en dårlig plan, følge en ondsinnet instruks eller forsterke en liten feil gjennom mange trinn.

Stanford AI Index 2026 viser at agenter økte oppgavesuksessen fra 12 prosent til rundt 66 prosent på OSWorld, en test av reelle datamaskinoppgaver. Likevel mislyktes de fortsatt i omtrent ett av tre forsøk.

En hallusinasjon fra en chatbot er ofte først og fremst et kommunikasjonsproblem. En agent med innloggingsinformasjon, nettlesertilgang eller betalingsfullmakt kan derimot gjøre samme type feil om til en faktisk handling. Derfor må styringen av agenter handle om mer enn kvaliteten på svaret. Den må også omfatte tilganger, muligheten til å angre og tydelig ansvar.

De viktigste sikkerhetsrisikoene for AI-agenter

De største farene oppstår når en agent kan påvirke systemer, penger, data eller andre mennesker:

• Uautoriserte betalinger: Agenten kan velge feil vare, overskride et budsjett eller bli manipulert av en ondsinnet nettside.
• Personvernlekkasjer og datatyveri: Tilgang til e-post, filer, kundedata, kildekode eller API-nøkler kan føre til at informasjon deles. Prompt injection – manipulerende instruksjoner som forsøker å styre agenten – kan forsterke risikoen.
• Sikkerhets- og programvareskader: Agenten kan introdusere usikker kode, endre konfigurasjoner, slette ressurser eller eksponere hemmeligheter gjennom logger og eksterne verktøy.
• Uklart ansvar: Det kan bli uklart om ansvaret ligger hos modellleverandøren, utvikleren, virksomheten som tar systemet i bruk, verktøyleverandøren eller brukeren.
• Manipulering: Vedvarende og samtalebaserte agenter kan påvirke mennesker utilbørlig, særlig når brukeren er sårbar eller systemet fremstår som mer kompetent og pålitelig enn det faktisk er.

Slik kan ansvarlig AI-styring se ut

Kontrollene bør stå i forhold til systemets evner og konsekvensene av en feil.

For prediktiv AI bør virksomheter definere formålet, måle nøyaktighet og rettferdighet, beskytte personopplysninger og sørge for at berørte personer kan få en forklaring eller bestride beslutninger med stor betydning.

For generativ AI bør de kontrollere viktige påstander, teste for hallusinasjoner og skadelig innhold, beskytte sensitive data, avklare spørsmål om opphav og immaterielle rettigheter og la kvalifiserte mennesker ha ansvaret for juridiske, medisinske, økonomiske og sikkerhetsrelaterte beslutninger.

For agenter trengs mer omfattende tekniske og organisatoriske tiltak:

1. Avgrens bruksområdet. Bestem hva agenten kan og ikke kan gjøre før den tas i bruk.
2. Begrens tilgangen. Bruk minst mulig omfattende rettigheter, begrensede verktøy, transaksjonsgrenser og sandkassemiljøer.
3. Krev godkjenning ved viktige kontrollpunkter. Økonomiske, juridiske, personvernrelaterte og sikkerhetskritiske handlinger bør ikke utføres uten passende menneskelig godkjenning.
4. Gjør aktiviteten etterprøvbar. Loggfør handlinger, overvåk atferd og plasser ansvaret for hendelser tydelig.
5. Test under motstand. Undersøk hvordan systemet håndterer prompt injection, uthenting av data, skadelig atferd og gjenoppretting etter feil – både før og under utrulling.
6. Bevar menneskelig kontroll. Mennesker må kunne stoppe, overstyre og stille spørsmål ved handlinger med store konsekvenser.

Singapores Infocomm Media Development Authority har samlet denne risikobaserte tilnærmingen i sitt Model AI Governance Framework for Agentic AI. Rammeverket er laget for virksomheter som utvikler agenter internt eller tar i bruk løsninger fra tredjeparter.

Hovedbudskapet er at autonomi bør trappes gradvis opp: Begynn med hjelp som bare leser og foreslår, gå videre til handlinger med lav risiko, og reserver irreversible eller svært konsekvensfulle handlinger for uttrykkelig godkjenning.

Utviklingen videre

AI-utviklingen bør forstås som en voksende kapabilitetsstabel, ikke som tre helt separate epoker.

Tradisjonelle systemer forutsier og klassifiserer. Generative systemer skaper og omformer. Agentiske systemer legger til planlegging, verktøybruk og handling.

Styringen må utvikle seg i samme tempo. Nøyaktighet og rettferdighet er fortsatt nødvendig, men ikke lenger tilstrekkelig. Generative systemer trenger grundig faktasjekk, sporbarhet og tiltak mot skadelig innhold. Agenter trenger i tillegg tydelige tillatelser, grenser for hva de kan gjøre, kontrollpunkter, sikkerhetsovervåking og klart plassert ansvar.

Jo mer et AI-system kan gjøre på egen hånd, desto viktigere blir det å avgjøre – på forhånd – hva det faktisk skal få lov til å gjøre.

Prediktive systemer fungerer ofte godt når målet er tydelig, datagrunnlaget er relevant og kostnaden ved ulike feil kan måles. De kan behandle store informasjonsmengder raskt, følge samme prosedyre hver gang og oppdage mønstre mennesker lett overser.

Begrensningen ligger i den samme egenskapen som gjør systemene håndterlige: De er vanligvis laget for én bestemt oppgave. En svindelmodell kan gi en transaksjon en risikoscore, men kan ikke nødvendigvis forklare et regelverk, skrive en rapport eller tilpasse seg en ukjent situasjon.

Resultatet avhenger også av kvaliteten på treningsdataene og hva systemet er optimalisert for å forutsi. Historiske data kan videreføre samfunnsskjevheter. Det kan gi urettferdige utslag innen kreditt, ansettelser, forsikring og helse. Ugjennomsiktige poengsystemer kan dessuten gjøre det vanskelig å forstå eller bestride en avgjørelse. Bekymringer rundt skjevhet, feilinformasjon og misbruk gjelder derfor AI generelt – ikke bare chatbotter.

Ansvarlig styring bør blant annet innebære et klart definert formål, testing av nøyaktighet og rettferdighet på tvers av relevante grupper, personvern, forklaringer og menneskelig vurdering når avgjørelsene får store konsekvenser.

2. Generativ AI: fra merkelapper til innhold

Generativ AI endrer brukeropplevelsen fra «Hvilken kategori tilhører dette?» til «Lag eller endre noe basert på denne instruksen».

Store modeller kan produsere tekst, bilder, lyd og kode. Det gir bruksområder som:

• utkast til svar i kundeservice;
• oversettelse;
• undervisning og veiledning;
• oppsummering av juridisk materiale;
• programvareutvikling; og
• kreativt arbeid.

Generative systemer kan redusere tiden og kostnaden ved å lage et førsteutkast. De kan også gi en samtalebasert inngang til komplisert informasjon og hjelpe fagfolk med å arbeide i nye formater. I mange tilfeller fungerer de som støtte for mennesker, heller enn som automatisering av én fast beslutning.

Den viktigste svakheten: Overbevisende betyr ikke sant

En generativ modell kan formulere en selvsikker, men oppdiktet eller unøyaktig påstand, kilde, juridisk henvisning, medisinsk vurdering eller kodebit. NIST bruker begrepet konfabulering om «produksjon av feilaktig eller usant innhold som presenteres med selvtillit». På folkemunne kalles dette ofte en hallusinasjon.

Derfor er kontroll av innholdet avgjørende når fakta har betydning. Nyttige tiltak er å hente informasjon fra pålitelige kilder, bruke sitater og kildehenvisninger, gjennomføre strukturerte evalueringer, teste systemet i det aktuelle fagområdet og la kvalifiserte mennesker kontrollere resultatet.

Et velformulert svar bør behandles som et utkast eller en prediksjon – ikke som et bevis på at påstanden er riktig.

Risikoene rundt generative systemer

Generativ AI reiser også spørsmål om personvern, opphavsrett, feilinformasjon og hvor innholdet faktisk stammer fra. EU-kommisjonens veiledning for forskning fremhever disse risikoene og understreker at mennesker fortsatt har ansvaret for arbeidet de publiserer, selv når AI har bidratt.

Utdanning viser en særlig tydelig utfordring. Hvis elever og studenter regelmessig overlater skriving, resonnering og problemløsing til AI, kan de få et polert resultat uten å øve like mye på ferdighetene bak. Veiledning for utdanningssektoren trekker frem unøyaktig eller skjevt innhold, skadelig materiale, datalekkasjer, brudd på immaterielle rettigheter og utfordringer for akademisk integritet.

Sikkerhetsfeil kan bli ekstra alvorlige i sårbare samtaler. Generative systemer kan produsere hatefulle, voldelige, seksuelle eller manipulerende svar, eller reagere dårlig når noen uttrykker tanker om selvskading. NIST peker blant annet på farlige eller voldelige anbefalinger, personvern og skadelig skjevhet som risikoer som må håndteres.

I situasjoner med høy risiko bør AI derfor ikke erstatte kvalifisert hjelp eller menneskelig oppfølging. Systemene trenger tydelige avvisninger av farlige forespørsler, rutiner for å varsle eller koble inn mennesker, personvernkontroller og en klar vei til umiddelbar menneskelig støtte.

3. Agentisk AI: å planlegge, bruke verktøy og handle

Agentisk AI legger en handlingssløyfe rundt modellen. I stedet for å svare én gang på en forespørsel kan en agent tolke et mål, dele det opp i trinn, bruke verktøy som nettleser, kodekjører, e-posttjeneste eller API, undersøke resultatene, endre planen og fortsette.

Stanford beskriver agentisk AI som autonome eller delvis autonome systemer som kan tolke mål, sekvensere handlinger, bruke verktøy, reagere på tilbakemeldinger og tilpasse seg for å fullføre oppgaver innenfor bestemte begrensninger.

Forskjellen kan illustreres slik:

• Et prediktivt system gir en risikoscore til en transaksjon.
• Et generativt system skriver et svar om transaksjonen.
• En agent kan, dersom den har nødvendig tilgang, undersøke transaksjonen, oppdatere en sak og sende en melding.

Google Jules viser hvordan dette kan brukes i programvareutvikling. Google beskriver Jules som en asynkron kodeagent som integreres med kodearkiver, kloner en kodebase til en virtuell maskin i skyen og arbeider med kodeoppgaver som senere kan gjennomgås.

Andre verktøybaserte agenter bygger på åpen kildekode, mens produkter som LinkedIn Hiring Assistant viser hvordan agentiske arbeidsflyter også kan brukes til søk og rekruttering.

Agentene er attraktive fordi de kan fullføre arbeid i flere trinn, i stedet for bare å foreslå neste steg. En kodeagent kan for eksempel undersøke en feil, endre flere filer, kjøre tester og klargjøre en pull request til gjennomgang. En arbeidsflytagent kan samle inn informasjon, organisere den og lage kommunikasjon som må godkjennes.

Hvorfor autonomi øker risikoen

Planlegging er ikke det samme som pålitelig forståelse. En agent kan misforstå en nettside, velge en dårlig plan, følge en ondsinnet instruks eller forsterke en liten feil gjennom mange trinn.

Stanford AI Index 2026 viser at agenter økte oppgavesuksessen fra 12 prosent til rundt 66 prosent på OSWorld, en test av reelle datamaskinoppgaver. Likevel mislyktes de fortsatt i omtrent ett av tre forsøk.

En hallusinasjon fra en chatbot er ofte først og fremst et kommunikasjonsproblem. En agent med innloggingsinformasjon, nettlesertilgang eller betalingsfullmakt kan derimot gjøre samme type feil om til en faktisk handling. Derfor må styringen av agenter handle om mer enn kvaliteten på svaret. Den må også omfatte tilganger, muligheten til å angre og tydelig ansvar.

De viktigste sikkerhetsrisikoene for AI-agenter

De største farene oppstår når en agent kan påvirke systemer, penger, data eller andre mennesker:

• Uautoriserte betalinger: Agenten kan velge feil vare, overskride et budsjett eller bli manipulert av en ondsinnet nettside.
• Personvernlekkasjer og datatyveri: Tilgang til e-post, filer, kundedata, kildekode eller API-nøkler kan føre til at informasjon deles. Prompt injection – manipulerende instruksjoner som forsøker å styre agenten – kan forsterke risikoen.
• Sikkerhets- og programvareskader: Agenten kan introdusere usikker kode, endre konfigurasjoner, slette ressurser eller eksponere hemmeligheter gjennom logger og eksterne verktøy.
• Uklart ansvar: Det kan bli uklart om ansvaret ligger hos modellleverandøren, utvikleren, virksomheten som tar systemet i bruk, verktøyleverandøren eller brukeren.
• Manipulering: Vedvarende og samtalebaserte agenter kan påvirke mennesker utilbørlig, særlig når brukeren er sårbar eller systemet fremstår som mer kompetent og pålitelig enn det faktisk er.

Slik kan ansvarlig AI-styring se ut

Kontrollene bør stå i forhold til systemets evner og konsekvensene av en feil.

For prediktiv AI bør virksomheter definere formålet, måle nøyaktighet og rettferdighet, beskytte personopplysninger og sørge for at berørte personer kan få en forklaring eller bestride beslutninger med stor betydning.

For generativ AI bør de kontrollere viktige påstander, teste for hallusinasjoner og skadelig innhold, beskytte sensitive data, avklare spørsmål om opphav og immaterielle rettigheter og la kvalifiserte mennesker ha ansvaret for juridiske, medisinske, økonomiske og sikkerhetsrelaterte beslutninger.

For agenter trengs mer omfattende tekniske og organisatoriske tiltak:

1. Avgrens bruksområdet. Bestem hva agenten kan og ikke kan gjøre før den tas i bruk.
2. Begrens tilgangen. Bruk minst mulig omfattende rettigheter, begrensede verktøy, transaksjonsgrenser og sandkassemiljøer.
3. Krev godkjenning ved viktige kontrollpunkter. Økonomiske, juridiske, personvernrelaterte og sikkerhetskritiske handlinger bør ikke utføres uten passende menneskelig godkjenning.
4. Gjør aktiviteten etterprøvbar. Loggfør handlinger, overvåk atferd og plasser ansvaret for hendelser tydelig.
5. Test under motstand. Undersøk hvordan systemet håndterer prompt injection, uthenting av data, skadelig atferd og gjenoppretting etter feil – både før og under utrulling.
6. Bevar menneskelig kontroll. Mennesker må kunne stoppe, overstyre og stille spørsmål ved handlinger med store konsekvenser.

Singapores Infocomm Media Development Authority har samlet denne risikobaserte tilnærmingen i sitt Model AI Governance Framework for Agentic AI. Rammeverket er laget for virksomheter som utvikler agenter internt eller tar i bruk løsninger fra tredjeparter.

Hovedbudskapet er at autonomi bør trappes gradvis opp: Begynn med hjelp som bare leser og foreslår, gå videre til handlinger med lav risiko, og reserver irreversible eller svært konsekvensfulle handlinger for uttrykkelig godkjenning.

Utviklingen videre

AI-utviklingen bør forstås som en voksende kapabilitetsstabel, ikke som tre helt separate epoker.

Tradisjonelle systemer forutsier og klassifiserer. Generative systemer skaper og omformer. Agentiske systemer legger til planlegging, verktøybruk og handling.

Styringen må utvikle seg i samme tempo. Nøyaktighet og rettferdighet er fortsatt nødvendig, men ikke lenger tilstrekkelig. Generative systemer trenger grundig faktasjekk, sporbarhet og tiltak mot skadelig innhold. Agenter trenger i tillegg tydelige tillatelser, grenser for hva de kan gjøre, kontrollpunkter, sikkerhetsovervåking og klart plassert ansvar.

Jo mer et AI-system kan gjøre på egen hånd, desto viktigere blir det å avgjøre – på forhånd – hva det faktisk skal få lov til å gjøre.