Fra faste regler til AI-agenter: Sådan har kunstig intelligens udviklet sig

Det skaber vigtige etiske problemer inden for blandt andet kredit, rekruttering, forsikring og sundhed. Historiske data kan videreføre samfundsmæssige skævheder, mens uigennemsigtige scoringssystemer kan gøre afgørelser svære at udfordre. Ansvarlig styring bør derfor omfatte et klart formål, test af nøjagtighed og fairness på tværs af relevante grupper, beskyttelse af persondata, forklaringer og menneskelig kontrol ved afgørelser med stor betydning. Bekymringer om bias, misinformation og misbrug er bredere AI-politiske problemer og handler ikke kun om chatbots.

2. Generativ AI: fra kategorier til indhold

Generativ AI ændrer brugeroplevelsen fra ”Hvilken kategori hører dette til?” til ”Skab eller omform dette ud fra min instruktion”. Store modeller kan fremstille overbevisende tekst, billeder, lyd og kode. Det giver blandt andet muligheder for at udarbejde svar til kundeservice, oversætte, undervise, sammenfatte juridisk materiale, hjælpe med software og understøtte kreativt arbejde.

Generative systemer kan reducere den tid og de omkostninger, der er forbundet med at lave et første udkast. De kan også give en samtalebaseret adgang til kompleks information og hjælpe fagfolk i stedet for blot at automatisere en fast beslutning.

Den centrale svaghed: Overbevisende er ikke det samme som sandt

En generativ model kan formulere en selvsikker, men opdigtet eller upræcis påstand, kilde, juridisk henvisning, medicinsk oplysning eller kode. NIST bruger betegnelsen konfabulering om ”produktion af indhold, der fremsættes selvsikkert, men er fejlagtigt eller falsk” – det, der ofte kaldes hallucinationer.

Derfor er kontrol afgørende, når faktuel korrekthed betyder noget. Nyttige sikkerhedsforanstaltninger er blandt andet opslag i troværdigt materiale, kildehenvisninger, struktureret evaluering, domænespecifik test og kvalificeret menneskelig gennemgang. Et flydende og overbevisende svar bør betragtes som et udkast eller en forudsigelse – ikke som bevis på, at påstanden er korrekt.

De bredere risici ved generative systemer

Generativ AI rejser også spørgsmål om databeskyttelse, immaterielle rettigheder, misinformation og dokumentation af, hvor output kommer fra. Europa-Kommissionens vejledning om brug af AI i forskning fremhæver disse risici og understreger, at mennesker fortsat er ansvarlige for det arbejde, de offentliggør, også når AI har bidraget.

Uddannelse rummer en beslægtet udfordring. Hvis elever og studerende rutinemæssigt overlader skrivning, analyse og problemløsning til AI, kan de få et poleret resultat, mens de sjældnere øver de underliggende færdigheder. Vejledning om uddannelse peger på upræcist eller forudindtaget indhold, skadeligt materiale, databrud, krænkelser af immaterielle rettigheder og problemer med akademisk integritet som risici, institutionerne skal håndtere.

Sikkerhedsfejl kan være mere alvorlige i følsomme samtaler. Generative systemer kan fremstille hadefuldt, voldeligt, seksuelt eller manipulerende indhold eller reagere uhensigtsmæssigt på en person, der udtrykker tanker om selvskade. NIST fremhæver blandt andet farlige eller voldelige anbefalinger, privatlivsproblemer og skadelig bias som risici, der skal håndteres. I situationer med høj risiko bør AI ikke erstatte kvalificeret hjælp eller menneskelig omsorg. Systemerne har brug for robuste afvisninger, mulighed for eskalering, databeskyttelse og en tydelig vej til hurtig menneskelig støtte.

3. Agentisk AI: planlægning, værktøjer og handling

Agentisk AI føjer en handlingssløjfe til en model. I stedet for kun at svare én gang på en prompt kan en agent fortolke et mål, dele det op i trin, kalde værktøjer som en browser, en kodekørsel, en e-mailtjeneste eller et API, undersøge resultaterne, justere sin plan og fortsætte.

Stanford beskriver agentisk AI som autonome eller delvist autonome systemer, der kan fortolke mål, sekvensere handlinger, bruge værktøjer, reagere på feedback og tilpasse sig for at gennemføre opgaver inden for fastlagte rammer.

Forskellen i praksis er markant:

• Et forudsigende system scorer en betaling.
• Et generativt system udarbejder et svar om betalingen.
• En agent kan, hvis den har de nødvendige adgange, undersøge betalingen, opdatere en sag og sende en besked.

Googles Jules illustrerer brugen inden for softwareudvikling. Google beskriver Jules som en asynkron kodeagent, der integrerer med kodearkiver, kloner en kodebase til en cloudbaseret virtuel maskine og arbejder med udviklingsopgaver, som senere kan gennemgås. Open source-agenter, der bruger digitale værktøjer, er en anden tilgang, mens rekrutteringsprodukter som LinkedIn Hiring Assistant viser, hvordan agentiske arbejdsgange også kan bruges til sourcing og ansættelse.

Agenter er attraktive, fordi de kan gennemføre flertrinsarbejde i stedet for blot at foreslå det næste skridt. En kodeagent kan for eksempel undersøge en fejl, redigere flere filer, køre test og forberede en pull request. En arbejdsgangsagent kan indsamle oplysninger, organisere dem og klargøre kommunikation til godkendelse.

Hvorfor større selvstændighed også øger risikoen

Planlægning er ikke det samme som pålidelig forståelse. En agent kan misforstå en webside, vælge en dårlig plan, følge en skadelig instruktion eller forstærke en lille fejl over mange trin. Stanford AI Index 2026 viser, at agenter forbedrede deres succesrate fra 12 procent til omkring 66 procent på OSWorld, en benchmark for virkelige computeropgaver, men at de stadig mislykkedes i omtrent hvert tredje forsøg.

En hallucination fra en chatbot er måske primært et kommunikationsproblem. En agent med loginoplysninger, browseradgang eller betalingsbeføjelser kan derimod omsætte den samme type fejl til en handling i den virkelige verden. Derfor skal styring af agentisk AI ikke kun handle om kvaliteten af output, men også om tilladelser, muligheden for at rulle handlinger tilbage og et tydeligt ansvar.

De vigtigste sikkerhedsrisici ved AI-agenter

De største risici opstår, når en agent kan påvirke systemer, penge, data eller andre mennesker:

• Uautoriserede betalinger: En agent kan vælge den forkerte vare, overskride et budget eller blive manipuleret af en skadelig webside.
• Læk af persondata og datatyveri: Adgang til e-mail, filer, kunderegistre, kildekode eller API-nøgler skaber risiko for videregivelse, især gennem prompt injection – skadelige instruktioner, der forsøger at få agenten til at gøre noget andet end det tilsigtede.
• Sikkerhedsproblemer og skader på software: En agent kan indsætte usikker kode, ændre konfigurationer, slette ressourcer eller afsløre hemmelige nøgler gennem logfiler og eksterne værktøjer.
• Uklare ansvarsforhold: Det kan blive uklart, om ansvaret ligger hos modeludbyderen, udvikleren af applikationen, organisationen, der anvender agenten, værktøjsudbyderen eller brugeren.
• Manipulation: Vedvarende, samtalebaserede agenter kan påvirke brugere urimeligt, især hvis brugeren er sårbar, eller systemet virker mere kompetent og troværdigt, end det faktisk er.

Hvad indebærer ansvarlig styring?

Kontrollerne bør tilpasses systemets evner og konsekvenserne af en fejl.

For forudsigende AI bør organisationer definere formålet, måle nøjagtighed og fairness, beskytte persondata og tilbyde forklaringer eller mulighed for at klage over afgørelser med stor betydning.

For generativ AI bør de kontrollere vigtige påstande, teste for hallucinationer og skadeligt output, beskytte følsomme data, håndtere spørgsmål om kilder og immaterielle rettigheder og fastholde kvalificerede menneskers ansvar for juridiske, medicinske, økonomiske og sikkerhedsmæssige beslutninger.

For agenter er der behov for yderligere tekniske og organisatoriske kontroller:

1. Afgræns anvendelsen. Beslut, hvad agenten må og ikke må gøre, før den tages i brug.
2. Begræns adgangen. Brug mindst mulige rettigheder, begrænsede værktøjer, transaktionslofter og sandkassemiljøer.
3. Kræv godkendelse ved vigtige kontrolpunkter. Finansielle, juridiske, privatlivsrelaterede og sikkerhedsfølsomme handlinger bør ikke gennemføres uden passende menneskelig godkendelse.
4. Gør aktiviteten kontrollerbar. Gem logfiler, overvåg adfærden og placer et tydeligt ansvar for hændelser.
5. Test under angrebslignende forhold. Undersøg prompt injection, dataudtræk, skadelig adfærd og håndtering af fejl før og under ibrugtagning.
6. Bevar menneskelig kontrol. Mennesker skal kunne stoppe, tilsidesætte og udfordre handlinger med væsentlige konsekvenser.

Singapores Infocomm Media Development Authority, IMDA, beskriver denne risikobaserede tilgang i sin Model AI Governance Framework for Agentic AI. Retningslinjerne er målrettet organisationer, der udvikler agenter internt eller anvender løsninger fra tredjeparter. Den centrale lære er, at selvstændighed bør indføres trinvist: Begynd med hjælp, der kun kan læse, gå videre til handlinger med lav risiko, og reserver uigenkaldelige eller meget indgribende handlinger til en udtrykkelig godkendelse.

Udviklingen fortsætter som en voksende værktøjskasse

AI's udvikling giver bedst mening som en voksende kapabilitetsstak og ikke som tre helt adskilte epoker. Traditionelle systemer forudsiger og klassificerer. Generative systemer skaber og omformer. Agentiske systemer føjer planlægning, værktøjsbrug og handling til.

Styringen skal udvikle sig i samme tempo. Krav til nøjagtighed og fairness er fortsat nødvendige, men de er ikke længere tilstrækkelige. Generative systemer kræver stærk faktakontrol, dokumentation af kilder og sikkerhed omkring indhold. Agenter kræver desuden klare adgangsgrænser, kontrolpunkter før handling, sikkerhedsovervågning og et tydeligt ansvar.

Jo mere et AI-system kan gøre på egen hånd, desto vigtigere bliver det at beslutte præcist, hvad det må gøre.