Kunstig intelligens har gått fra å forutsi til å skape – og handle

Kunstig intelligens har ikke utviklet seg gjennom en enkel rekke der én teknologi erstatter den forrige. Evnene har i stedet bygget seg opp lag på lag. Regelbaserte og prediktive systemer er fortsatt svært nyttige, generative modeller kan lage tekst, bilder, lyd, video og kode, og agentiske systemer kobler modeller til verktøy slik at de kan forfølge mål gjennom flere trinn.

Den enkleste måten å forstå utviklingen på er som en overgang fra å beslutte, via å skape, til å handle. Risikoen endrer seg samtidig: Prediktive systemer må testes for nøyaktighet og rettferdighet. Generative systemer må kontrolleres for sannhetsgehalt, sikkerhet og kildeopprinnelse. Agenter må i tillegg begrenses gjennom tilganger, godkjenningspunkter og revisjonsspor.

En utvikling over sju tiår

Det moderne KI-feltet tok form på 1950-tallet, etter banebrytende arbeid med maskinell problemløsning, spill og nevrale nettverk. Senere fulgte perioder med symbolske systemer og ekspertsystemer, maskinlæring på 1990-tallet og dyp læring på 2010-tallet.

Periodene bør likevel ikke forstås som klart adskilte. Et moderne produkt kan for eksempel bruke en prediktiv modell til å klassifisere en henvendelse, en generativ modell til å skrive et svar og vanlig programvare til å avgjøre om en bestemt handling er tillatt.

1. Tradisjonell KI: regler, klassifisering og prediksjon

Tradisjonell KI omfatter særlig to tilnærminger:

• Symbolske eller regelbaserte systemer, der mennesker legger inn logikk, fagkunnskap og beslutningsprosedyrer.
• Maskinlæringssystemer, som lærer statistiske sammenhenger fra historiske data for å klassifisere input eller anslå sannsynlige utfall.

Tidlige spillprogrammer viste hvordan datamaskiner kunne søke gjennom mulige trekk i et avgrenset miljø. Senere ble lignende metoder, sammen med statistisk læring, tatt i bruk i praktiske oppgaver som:

• å oppdage uvanlige eller svindelrelaterte transaksjoner;
• å vurdere kreditt- og misligholdsrisiko;
• å anslå helserisiko, som forverring eller reinnleggelse;
• å rangere produkter, videoer, musikk og innlegg i anbefalingssystemer; og
• å kombinere talegjenkjenning, intensjonsklassifisering og forhåndsdefinerte arbeidsflyter i taleassistenter som Siri.

Slike systemer fungerer ofte godt når oppgaven er smal, gjentakende og målbar. De kan behandle store mengder saker raskt og gi konsistente resultater. Regelbaserte systemer kan også være enklere å undersøke enn komplekse modeller, fordi beslutningslogikken er synlig.

Prediksjonens begrensninger

Tradisjonell KI forstår ikke automatisk hvorfor et utfall oppstår. En modell kan finne en statistisk sammenheng uten å påvise årsakssammenheng, og et system som er trent på skjeve historiske data, kan gjenskape eller forsterke skjevheten. Regler kan dessuten bli lite robuste utenfor situasjonene de ble laget for, mens avanserte prediktive modeller kan være vanskelige å forklare.

Ytelsen kan falle når virkeligheten endrer seg – et problem som ofte kalles datadrift. Ved bruk i områder med store konsekvenser, som utlån, ansettelser, forsikring, politiarbeid og helse, krever ansvarlig bruk derfor datakvalitetskontroller, testing for skjevhet, relevante forklaringer, menneskelig vurdering, overvåking og mulighet til å klage.

2. Generativ KI: maskiner som skaper innhold

Generativ KI lærer mønstre fra store mengder tekst, bilder, lyd, video eller kode og bruker mønstrene til å lage nye resultater. Store språkmodeller genererer tekst trinnvis, mens multimodale systemer kan arbeide på tvers av flere formater.

Dette endret måten mennesker bruker KI på. I stedet for å velge mellom et fast sett med kommandoer eller motta en klassifiseringsscore, kan brukeren beskrive et mål med vanlig språk og be systemet skrive, omforme eller forklare innhold.

Hvor brukes generativ KI?

Vanlige bruksområder er:

• Kundeservice: skrive utkast til svar, oppsummere samtaler, oversette og hente informasjon fra kunnskapsbaser.
• Juridisk arbeid: oppsummere dokumenter, finne klausuler, sammenligne rettskilder og lage førsteutkast. Jurister må fortsatt kontrollere primærkilder og juridiske påstander.
• Utdanning: forklare konsepter, lage øvingsoppgaver og gi tilbakemeldinger.
• Kreativt arbeid: idéutvikling, tekstutkast og produksjon av bilder, musikk, videokonsepter og programkode.
• Programmering: forklare kode, skrive tester, foreslå feilrettinger og effektivisere rutineutvikling.

De viktigste fordelene er høyere tempo, lavere kostnader ved utkastarbeid, naturlig språk som grensesnitt og muligheten til å lage flere personlige versjoner. Men et overbevisende svar er ikke det samme som pålitelig faglig skjønn.

De viktigste risikoene

Hallusinasjoner og overdreven sikkerhet. Store språkmodeller kan presentere oppdiktet, unøyaktig, skjev eller forenklet informasjon i en selvsikker tone. Forskning på forankring og evaluering peker på hallusinasjoner, skadelig innhold, manipulering, brudd på opphavsrett, personvern og sikkerhet som forhold som må testes og overvåkes.

Læring og akademisk redelighet. Et stort skoleeksperiment viste at AI-basert veiledning forbedret elevenes prestasjoner mens verktøyet var tilgjengelig. Elever som stolte på teknologien uten gode sikkerhetsmekanismer, kunne imidlertid prestere dårligere da tilgangen ble fjernet, noe som tyder på svakere ferdighetslæring. Hint utformet av lærere var mer beskyttende enn å gi elevene svaret direkte. Generative verktøy kan også gjøre plagiering enklere eller skjule om en elev faktisk behersker stoffet.

Opphavsrett og kildeopprinnelse. Opprinnelsen til treningsdata, etterligning av stil og resultater som gjengir beskyttet materiale, er fortsatt omstridte spørsmål. Utdanningsveiledning peker på brudd på immaterielle rettigheter som en betydelig risiko, sammen med unøyaktig, skjevt eller utrygt innhold.

Skadelig og manipulerende innhold. Generative systemer kan lage desinformasjon, trakassering, seksuelt eller voldelig materiale og farlige instrukser. Sikkerhetsveiledning anbefaler testing, beskyttelsestiltak, aktivitetslogger og overvåking – ikke en antakelse om at modellen alltid følger hensikten sin.

Barn og unges sikkerhet og trivsel. Forskning på risiko ved generativ KI for unge peker på bekymringer knyttet til psykisk helse, atferdsmessig og sosial utvikling, giftig innhold, personvern og misbruk eller utnyttelse. Risikoen blir særlig alvorlig når brukeren behandler en chatbot som en pålitelig erstatning for kvalifisert menneskelig hjelp.

Personvern og konfidensialitet. Ledetekster kan inneholde personopplysninger, forretningshemmeligheter, klientmateriale eller informasjon som er underlagt taushetsplikt. Virksomheter trenger klare regler for hvilke data som kan legges inn i hvilke tjenester. Brukere bør behandle ikke-godkjente systemer som uegnede for sensitiv informasjon.

Praktiske tiltak for generativ KI

Et fornuftig utgangspunkt er å behandle modellens svar som et utkast, ikke som dokumentasjon. Viktige faktapåstander bør kontrolleres mot autoritative kilder, og menneskelig gjennomgang bør være obligatorisk ved medisinske, juridiske, økonomiske, arbeidsrelaterte og sikkerhetskritiske beslutninger.

Nyttige tiltak omfatter søk i godkjent kildemateriale, kildehenvisninger, såkalt red-team-testing, innholdsfiltre, aldersriktig utforming, revisjonslogger, åpenhet overfor brukeren og regler for datahåndtering, akademisk bruk, kildeopprinnelse og klarering av immaterielle rettigheter. Offentlig veiledning fremhever tilsvarende risikoen for unøyaktig eller skjevt innhold, personvernbrudd, krenkelse av immaterielle rettigheter og utfordringer for akademisk redelighet.

3. Agentisk KI: systemer som kan handle

Agentisk KI legger til et handlingslag. En agent kan tolke et mål, dele det opp i trinn, bruke verktøy som nettlesere, kodelagre, databaser eller meldingstjenester, kontrollere mellomresultater og fortsette arbeidet innenfor tillatelsene den har fått.

Det gjør en agent annerledes enn en chatbot, selv når begge bruker en stor språkmodell. En chatbot kan skrive et e-postutkast. En agent kan søke etter informasjon, klargjøre meldingen, sende den og oppdatere et annet system. En kodeassistent kan forklare en feil, mens en agent kan undersøke et kodeprosjekt, redigere filer, kjøre tester og forberede en endring til gjennomgang.

Eksempler på løsninger i markedet er utviklingsagenten Google Jules, arbeidsflytverktøyet LinkedIn Hiring Assistant og personlige agentrammeverk som OpenClaw. Prosjektmaterialet beskriver OpenClaw som en personlig, åpen kildekode-basert assistent som kjører på brukerens egne enheter og kobles til kanaler og verktøy. Hva den faktisk kan gjøre, avhenger av integrasjonene og tillatelsene brukeren aktiverer.

Hvorfor agenter kan være nyttige

Agentiske systemer kan:

• fullføre arbeidsflyter i stedet for bare å skrive enkeltstående utkast;
• redusere rutinearbeid og administrativ koordinering;
• koble sammen informasjon fra adskilte virksomhetssystemer; og
• arbeide kontinuerlig innenfor definerte grenser.

Det kan gjøre komplekse arbeidsprosesser mer tilgjengelige for små virksomheter og enkeltpersoner. Samtidig flyttes hovedspørsmålet fra «Er svaret riktig?» til «Hva har systemet lov til å gjøre, og hvordan kontrolleres handlingene?»

Hvorfor autonomi øker risikoen

En generativ modell kan ta feil i et svar. En agent kan gjøre en feilslutning, en ondsinnet instruks eller et kompromittert verktøy om til en handling utenfor systemet.

En agent med tilgang til økonomisystemer kan for eksempel gjennomføre en uautorisert betaling, et kjøp, en overføring eller en kansellering. En agent med tilgang til e-post, nettleser eller skylagring kan manipuleres av en ondsinnet nettside eller et dokument til å avsløre innloggingsdetaljer eller sende konfidensielle filer. For omfattende tilganger, svake identitetskontroller og dårlig skille mellom roller kan gjøre en liten modellfeil til en alvorlig hendelse.

Det er også vanskeligere å plassere ansvaret når resultatet oppstår gjennom samspillet mellom modellen, instruksene, dataene, verktøyene og andre agenter. Den som driver systemet, trenger derfor innsyn ikke bare i sluttresultatet, men også i den foreslåtte handlingen, begrunnelsen og tillatelsene som ble brukt.

Styringen må følge systemets evner

De samme grunnprinsippene gjelder for alle tre stadiene: Utpek en ansvarlig eier, begrens systemet til et definert formål, beskytt data, test før lansering, overvåk ytelsen, ha en plan for hendelser og sørg for meningsfull menneskelig kontroll eller overstyring ved beslutninger med store konsekvenser.

Agentiske systemer trenger ytterligere kontroller fordi de kan påvirke eksterne systemer. Praktiske sikkerhetstiltak omfatter:

• tilganger etter minste privilegium og tidsbegrensede innlogginger;
• separate kontoer og tydelig identitet for hver agent;
• klare grenser for hva agenten kan lese, skrive, sende, kjøpe, slette eller sette i produksjon;
• eksplisitt bekreftelse før irreversible eller særlig inngripende handlinger;
• lister over godkjente verktøy, sandkasser og beskyttelse mot instruksjonsinjeksjon;
• transaksjonsgrenser og oppdagelse av avvik;
• detaljerte og manipulasjonssikre handlingslogger;
• arbeidsdeling og menneskelig godkjenning i forhold til risikoen; og
• en rask pause- eller nødstoppfunksjon.

Singapore lanserte sitt Model AI Governance Framework for Agentic AI 22. januar 2026. Rammeverket er veiledning for virksomheter som tar i bruk slike systemer, ikke en egen, samlet KI-lov. Det setter menneskelig og organisatorisk ansvar i sentrum og anbefaler risikostyring og kontroller som står i forhold til agentens grad av autonomi.

For finanssektoren beskriver Monetary Authority of Singapores SAFR-dokument en modell for styring i drift. Der samles informasjon i en strukturert post som viser hva agenten ønsker å gjøre, hvorfor den ønsker å gjøre det og hvilke bevis som støtter den foreslåtte handlingen.

Hovedpoenget

Utviklingen går ikke bare fra «gammel KI» til «ny KI». Regelbaserte og prediktive systemer er fortsatt riktige valg for mange avgrensede beslutninger. Generativ KI tilfører fleksibel produksjon og naturlig språk. Agentisk KI tilfører evnen til å forfølge mål ved hjelp av verktøy og handlinger utenfor selve modellen.

Styringsutfordringen vokser i takt med evnene. Prediksjon krever oppmerksomhet på nøyaktighet, skjevhet og datadrift. Generering krever kontroll av sannhetsgehalt, sikkerhet, personvern og kildeopprinnelse. Handling krever alle disse tiltakene – i tillegg til tilgangskontroll, godkjenningspunkter, ansvar og planer for å stanse eller rette opp feil.

De mest pålitelige KI-produktene vil derfor ikke bare bygge på kraftige modeller, men også på gjennomtenkt systemdesign, tydelige grenser og reell menneskelig kontroll.