AI:s utveckling: från regler och prognoser till autonoma agenter

Artificiell intelligens har inte utvecklats genom att en teknik enkelt ersatt en annan. I stället har förmågorna byggts på varandra. Regel- och prognosbaserade system är fortfarande användbara, generativa modeller kan skapa text, bilder, ljud, video och kod, och agentiska system kopplar modeller till verktyg så att de kan arbeta mot mål i flera steg.

Det tydligaste sättet att förstå utvecklingen är som en förflyttning från att besluta, till att skapa, till att agera. Riskerna förändras också. Prognossystem måste testas för träffsäkerhet och rättvisa, generativa system för sanningshalt, säkerhet och ursprung, och agenter behöver dessutom begränsas genom behörigheter, godkännandesteg och revisionsspår.

En utveckling över sju decennier

Det moderna AI-området tog form under 1950-talet, efter banbrytande arbete med maskinresonemang, spelprogram och neurala nätverk. Därefter följde perioder med symboliska system och expertsystem, maskininlärning under 1990-talet och djupinlärning under 2010-talet.

Perioderna bör ses som överlappande angreppssätt, inte som tydliga epoker som avlöser varandra. En modern produkt kan exempelvis använda en prognosmodell för att klassificera en förfrågan, en generativ modell för att skriva ett svar och traditionell programvara för att avgöra om en viss åtgärd är tillåten.

1. Traditionell AI: regler, klassificering och prognoser

Traditionell AI omfattar två breda angreppssätt:

• Symboliska eller regelbaserade system, där människor kodar logik, sakkunskap och beslutsprocedurer.
• Maskininlärningssystem, som lär sig statistiska samband från historiska data för att klassificera indata eller uppskatta sannolika utfall.

Tidiga spelprogram visade hur maskiner kunde söka igenom möjliga drag i en avgränsad miljö. Senare användes liknande metoder, tillsammans med statistisk inlärning, för praktiska uppgifter som att:

• upptäcka avvikande eller bedrägeriliknande transaktioner;
• bedöma kredit- och risken för betalningsinställelse;
• uppskatta vårdrisker, exempelvis försämring eller återinläggning;
• rangordna produkter, videor, musik och inlägg i rekommendationssystem; och
• kombinera taligenkänning, avsiktsklassificering och fördefinierade arbetsflöden i röstassistenter som Siri.

Sådana system fungerar ofta väl när uppgiften är smal, återkommande och mätbar. De kan snabbt behandla stora mängder ärenden och ge konsekventa resultat. Regelbaserade system kan också vara enklare att granska än komplexa modeller, eftersom beslutslogiken är uttrycklig.

Prognosernas begränsningar

Traditionell AI förstår inte automatiskt varför ett utfall uppstår. En modell kan hitta ett statistiskt samband utan att visa orsakssamband, och ett system som tränats på historiskt snedvridna data kan återskapa eller förstärka den snedvridningen. Regler kan dessutom bli sköra utanför de förhållanden som de utvecklades för, medan avancerade prognosmodeller kan vara svåra att förklara.

Prestandan kan försämras när verkligheten förändras – ett problem som ofta kallas dataförskjutning eller data drift. Vid användning inom områden med stora konsekvenser, som utlåning, anställning, försäkring, polisarbete och sjukvård, krävs därför kontroller av datakvalitet, tester för partiskhet, lämpliga förklaringar, mänsklig granskning, löpande övervakning och möjlighet att överklaga beslut.

2. Generativ AI: när systemen börjar skapa

Generativ AI lär sig mönster från stora samlingar av text, bilder, ljud, video eller kod och använder sedan mönstren för att skapa nya resultat. Stora språkmodeller genererar text steg för steg, medan multimodala system kan arbeta över flera format.

Det förändrade användarupplevelsen av AI. I stället för att välja bland ett fast antal kommandon eller få en klassificeringspoäng kan användaren beskriva ett mål med vardagligt språk och be systemet skriva, omforma eller förklara material.

Var används generativ AI?

Vanliga användningsområden är:

• Kundservice: skriva utkast till svar, sammanfatta samtal, översätta material och hämta information från kunskapsdatabaser.
• Juridiskt arbete: sammanfatta dokument, hitta klausuler, jämföra rättskällor och förbereda första utkast. Jurister måste fortfarande kontrollera primärkällor och juridiska påståenden.
• Utbildning: förklara begrepp, skapa övningsfrågor och ge återkoppling.
• Kreativt arbete: brainstorma, skriva textutkast och skapa bilder, musik, videokoncept och programkod.
• Programmering: förklara kod, skriva tester, föreslå lösningar och snabba upp rutinmässigt utvecklingsarbete.

De främsta fördelarna är högre hastighet, lägre kostnader för utkast, naturlig språkinteraktion och möjligheten att skapa flera personanpassade versioner. Men ett övertygande svar är inte samma sak som ett tillförlitligt expertomdöme.

De viktigaste riskerna

Hallucinationer och överdriven säkerhet. Stora språkmodeller kan ge påhittad, felaktig, vinklad eller förenklad information med självsäker ton. Forskning om förankring och utvärdering pekar på hallucinationer, skadligt innehåll, manipulation, upphovsrättsintrång, integritet och säkerhet som frågor som kräver tester och uppföljning.

Lärande och akademisk hederlighet. Ett omfattande fältexperiment i en skola visade att AI-baserad undervisning förbättrade elevernas resultat medan verktyget fanns tillgängligt. Elever som förlitade sig på det utan lämpliga skyddsåtgärder kunde däremot prestera sämre när tillgången togs bort, vilket tyder på försämrad färdighetsinlärning. Lärarskapade ledtrådar skyddade bättre än att helt enkelt ge eleverna svaren. Generativa verktyg kan också göra plagiering enklare eller dölja om en elev verkligen har tillägnat sig kunskapen.

Upphovsrätt och ursprung. Frågor om träningsdatans ursprung, stilimitation och resultat som återger skyddat material är fortfarande omstridda. Riktlinjer för utbildningssektorn pekar ut immaterialrättsliga intrång som en betydande risk, tillsammans med felaktigt, partiskt eller osäkert innehåll.

Skadligt och manipulerande innehåll. Generativa system kan skapa desinformation, trakasserier, sexuellt eller våldsamt material och farliga instruktioner. Säkerhetsrekommendationer betonar därför tester, skyddsmekanismer, aktivitetsloggar och övervakning – inte antagandet att modellen alltid följer sitt avsedda beteende.

Barns och ungas säkerhet och välbefinnande. Forskning om riskerna med generativ AI för unga identifierar bland annat oro kring psykiskt välbefinnande, beteendemässig och social utveckling, skadligt innehåll, integritet samt missbruk och exploatering. Riskerna blir särskilt allvarliga när användare ser en chattbot som ett pålitligt substitut för kvalificerat mänskligt stöd.

Integritet och konfidentialitet. Prompter kan innehålla personuppgifter, företagshemligheter, klientmaterial eller information som omfattas av juridisk sekretess. Organisationer behöver tydliga regler för vilka uppgifter som får matas in i vilka tjänster. Användare bör behandla icke godkända system som olämpliga för känslig information.

Praktiska skyddsåtgärder för generativ AI

En rimlig grundprincip är att behandla modellens resultat som ett utkast, inte som bevis. Viktiga faktapåståenden bör kontrolleras mot auktoritativa källor, och mänsklig granskning bör krävas vid medicinska, juridiska, finansiella, arbetsrelaterade och säkerhetskritiska beslut.

Användbara kontroller är informationshämtning från godkända källor, källhänvisningar, så kallade red-team-tester, innehållsskydd, åldersanpassad utformning, revisionsloggar, information till användaren och policyer för datahantering, akademisk användning, ursprung och upphovsrättslig klarering. Offentliga riktlinjer lyfter på liknande sätt fram felaktigt eller partiskt innehåll, integritetsincidenter, immaterialrättsliga intrång och utmaningar för akademisk hederlighet.

3. Agentisk AI: system som kan agera

Agentisk AI lägger till ett handlingslager. En agent kan tolka ett mål, dela upp det i steg, använda verktyg som webbläsare, kodarkiv, databaser eller meddelandetjänster, granska mellanresultat och fortsätta arbeta inom de behörigheter den har fått.

Det gör en agent annorlunda än en chattbot, även när båda använder en stor språkmodell. En chattbot kan skriva ett mejl. En agent kan söka efter information, förbereda meddelandet, skicka det och uppdatera ett annat system. En kodassistent kan förklara ett fel; en agent kan undersöka en kodbas, ändra filer, köra tester och förbereda en ändring för granskning.

Exempel på aktörer och verktyg på den nuvarande marknaden är utvecklingsagenten Google Jules, rekryteringsverktyget LinkedIn Hiring Assistant och personliga agentramverk som OpenClaw. Projektmaterialet beskriver OpenClaw som en personlig assistent med öppen källkod som körs på användarens egna enheter och ansluter via kanaler och verktyg. Vad systemet faktiskt kan göra beror på vilka integrationer och behörigheter användaren aktiverar.

Varför agenter kan vara användbara

Agentiska system kan:

• slutföra arbetsflöden i stället för enskilda skrivuppgifter;
• minska rutinmässig samordning och administration;
• koppla samman information i separerade verksamhetssystem; och
• arbeta kontinuerligt inom tydligt definierade gränser.

Det kan göra avancerade arbetsflöden mer tillgängliga för mindre organisationer och enskilda användare. Samtidigt flyttas huvudfrågan från ”Är svaret korrekt?” till ”Vad får systemet göra, och hur kan dess handlingar kontrolleras?”

Varför autonomi ökar riskerna

En generativ modell kan ha fel i ett svar. En agent kan omvandla en felaktig slutsats, en skadlig instruktion eller ett komprometterat verktyg till en handling utanför systemet.

En agent med tillgång till ekonomi kan exempelvis genomföra en obehörig betalning, ett köp, en överföring eller en avbokning. En agent med tillgång till e-post, webbläsare eller molntjänster kan manipuleras av en skadlig webbsida eller ett dokument till att avslöja inloggningsuppgifter eller skicka konfidentiella filer. För omfattande behörigheter, svaga identitetskontroller och dåligt separerade ansvarsområden kan förstora ett litet modellfel till en allvarlig incident.

Det blir också svårare att fastställa ansvar när ett resultat uppstår genom samspelet mellan modell, instruktioner, data, verktyg och andra agenter. Den som driver systemet behöver därför insyn inte bara i slutresultatet, utan även i den föreslagna handlingen, underlaget bakom den och vilka behörigheter som användes.

Styrningen måste följa förmågan

Samma grundprinciper gäller i alla tre utvecklingssteg: utse en ansvarig ägare, begränsa systemet till ett definierat syfte, skydda data, testa före lansering, följ upp prestanda, förbered incidenthantering och ge människor möjlighet att granska eller stoppa beslut med stora konsekvenser.

Agentiska system behöver ytterligare skydd eftersom de kan påverka externa system. Praktiska åtgärder är bland annat:

• minsta möjliga behörighet och tidsbegränsade inloggningsuppgifter;
• separata konton och tydlig identitet för varje agent;
• uttryckliga gränser för vad agenten får läsa, skriva, skicka, köpa, radera eller distribuera;
• bekräftelsesteg för oåterkalleliga åtgärder eller åtgärder med stor påverkan;
• listor över godkända verktyg, sandlådor och skydd mot promptinjektion;
• transaktionsgränser och avvikelsedetektering;
• detaljerade och manipulationssäkra loggar över genomförda handlingar;
• separerade arbetsuppgifter och mänskligt godkännande i proportion till risken; samt
• en snabb paus- eller nödstoppfunktion.

Singapore lanserade den 22 januari 2026 sitt Model AI Governance Framework for Agentic AI. Ramverket är vägledning för organisationer som använder dessa system, inte en fristående AI-lag. Det sätter mänskligt och organisatoriskt ansvar i centrum och rekommenderar riskhantering och kontroller som står i proportion till agentens grad av autonomi.

För finansiella tjänster beskriver Monetary Authority of Singapores SAFR-dokument en modell för styrning i realtid. Där samlas information i ett strukturerat register som visar vad en agent avser att göra, varför den vill göra det och vilket underlag som stöder den föreslagna handlingen.

Slutsatsen: från att besluta till att agera

AI:s utveckling är inte en enkel marsch från ”gammal AI” till ”ny AI”. Regel- och prognosbaserade system är fortfarande rätt val för många avgränsade beslut. Generativ AI tillför flexibel produktion och interaktion på naturligt språk. Agentisk AI tillför förmågan att driva mål framåt genom verktyg och externa handlingar.

Styrningsutmaningen växer i takt med förmågan. Prognoser kräver fokus på träffsäkerhet, partiskhet och dataförskjutning. Generering kräver kontroll av sanningshalt, säkerhet, integritet och ursprung. Handling kräver allt detta – plus behörighetskontroller, godkännandesteg, ansvarsfördelning och planer för att återställa eller stoppa systemet när något går fel.

De mest tillförlitliga AI-produkterna kommer därför inte bara att bygga på kraftfulla modeller. De behöver också genomtänkt systemdesign, tydliga gränser och mänsklig överblick.