Från regelstyrda program till AI-agenter: Så har artificiell intelligens utvecklats

Artificiell intelligens har inte utvecklats genom att gamla tekniker plötsligt ersatts av nya. I stället har förmågan byggts på lager. System som tidigare följde tydliga regler eller levererade avgränsade prognoser kompletteras nu av modeller som skapar innehåll – och av agenter som kan planera, använda programvaruverktyg och agera för användarens räkning.

Ett enkelt sätt att förstå utvecklingen är: förutsäga → skapa → planera och agera. Varje steg breddar det AI kan göra, men ökar också konsekvenserna när systemet har fel.

1. Traditionell AI: regler, klassificering och prognoser

Den tidiga AI-forskningen fokuserade mycket på symboliskt tänkande. Programmerare beskrev kunskap med regler och lät systemen söka bland möjliga lösningar. Spelprogram är ett tydligt exempel: de kunde utvärdera möjliga drag inom ett bestämt regelverk. Själva begreppet ”artificiell intelligens” myntades 1955 av datavetaren John McCarthy, som beskrev området som ”vetenskapen och ingenjörskonsten att skapa intelligenta maskiner”.

Senare flyttade statistisk maskininlärning en större del av arbetet från manuellt skrivna regler till mönster som systemen lärde sig från historiska data. Sådana system tar vanligtvis emot en indata och lämnar ett avgränsat resultat, till exempel att:

• flagga en misstänkt kort- eller banktransaktion;
• uppskatta kreditrisk;
• förutsäga ett vårdrelaterat utfall;
• rangordna en produkt eller video som rekommendation; eller
• känna igen den sannolika avsikten bakom talat språk.

I praktiken är dessa tillämpningar sällan helt regelbaserade. De kan kombinera regler, statistiska modeller och maskininlärning.

Därför är traditionell AI fortfarande användbar

Prediktiva system fungerar ofta bra när målet är tydligt, datan relevant och kostnaden för olika typer av fel går att mäta. De kan snabbt behandla stora informationsmängder, följa samma procedur varje gång och upptäcka mönster som människor riskerar att missa.

Begränsningen är samtidigt det som gör systemen hanterbara: de är oftast byggda för en bestämd uppgift. En modell för bedrägeridetektering kan ge en riskpoäng för transaktioner, men kan inte automatiskt förklara ett policydokument, skriva en rapport eller anpassa sig flexibelt till en helt okänd situation. Resultatet beror också på kvaliteten på träningsdatan och på vad systemet optimerats för att förutsäga.

Det skapar viktiga etiska frågor inom exempelvis kreditgivning, rekrytering, försäkring och sjukvård. Historiska data kan återskapa samhälleliga skevheter, och ogenomskinliga poängsystem kan göra beslut svåra att ifrågasätta. Styrningen behöver därför omfatta ett tydligt syfte, tester av träffsäkerhet och rättvisa mellan relevanta grupper, integritetsskydd, begriplig information och mänsklig granskning vid beslut med stor påverkan. Risker som partiskhet, desinformation och missbruk är bredare AI-politiska frågor och gäller inte bara chattbottar.

2. Generativ AI: från etiketter till innehåll

Generativ AI förändrar användarens fråga från ”Vilken kategori tillhör detta?” till ”Skapa eller omforma något utifrån den här instruktionen”. Stora modeller kan producera trovärdig text, bilder, ljud och kod. Det möjliggör bland annat utkast till kundservice, översättning, undervisning, sammanfattning av juridiskt material, programmeringsstöd och kreativt arbete.

Generativa system kan minska tiden och kostnaden för ett första utkast, erbjuda ett samtalsbaserat gränssnitt till komplex information och hjälpa människor att arbeta med innehåll i nya format. De kan också förstärka yrkesverksammas arbete i stället för att enbart automatisera ett fast beslut.

Den centrala svagheten: trovärdigt betyder inte sant

En generativ modell kan formulera ett självsäkert men påhittat eller felaktigt påstående, en falsk källa, en missvisande juridisk hänvisning, ett medicinskt fel eller kod som inte fungerar. NIST använder begreppet konfabulering för ”produktion av självsäkert formulerat men felaktigt eller falskt innehåll”, det som ofta kallas hallucination.

Därför är verifiering avgörande när den faktiska korrektheten spelar roll. Användbara skydd är bland annat hämtning från tillförlitliga källor, källhänvisningar, strukturerade utvärderingar, tester inom det aktuella fackområdet och kvalificerad mänsklig granskning. Ett välformulerat svar bör ses som ett utkast eller en prognos – inte som ett bevis på att uppgiften stämmer.

Generativa systems bredare risker

Generativ AI väcker också frågor om dataskydd, immateriella rättigheter, desinformation och hur resultaten kan härledas till sina källor. Europeiska kommissionens vägledning för forskning lyfter dessa risker och betonar att människor fortfarande ansvarar för det arbete de publicerar, även när AI har bidragit.

Utbildning är ett närliggande exempel. Om elever och studenter regelbundet lämnar över skrivande, resonemang och problemlösning till AI kan de få ett polerat resultat, men samtidigt träna de underliggande färdigheterna mer sällan. Vägledning om AI i utbildningen pekar på felaktigt eller partiskt innehåll, skadligt material, dataläckor, intrång i immateriella rättigheter och problem med akademisk hederlighet som risker institutioner behöver hantera.

Säkerhetsbristerna kan bli allvarligare i känsliga samtal. Generativa system kan skapa hatiskt, våldsamt, sexuellt eller manipulerande material, eller reagera olämpligt när någon uttrycker självmords- eller självskadetankar. NIST identifierar bland annat farliga eller våldsamma rekommendationer, integritetsrisker och skadlig partiskhet som riskområden. I situationer med hög risk får AI inte ersätta kvalificerad vård eller mänskligt skyddsansvar. System behöver tydliga vägran- och eskaleringsfunktioner, integritetskontroller och en klar väg till omedelbar mänsklig hjälp.

3. AI-agenter: planering, verktygsanvändning och handling

AI-agenter lägger en handlingsslinga runt en modell. I stället för att svara en gång på en uppmaning kan en agent tolka ett mål, dela upp det i steg, anropa verktyg som webbläsare, kodkörning, e-posttjänster eller API:er, granska resultaten, ändra sin plan och fortsätta.

Stanford beskriver agentisk AI som autonoma eller delvis autonoma system som kan tolka mål, ordna handlingar i en följd, använda verktyg, reagera på återkoppling och anpassa sig för att slutföra uppgifter inom definierade begränsningar.

Den praktiska skillnaden är betydande:

• ett prediktivt system poängsätter en transaktion;
• ett generativt system skriver ett utkast till ett svar om den; och
• en agent skulle, om den fått rätt åtkomst, kunna utreda transaktionen, uppdatera ett ärende och skicka ett meddelande.

Googles Jules illustrerar användningen inom mjukvaruutveckling. Google beskriver Jules som en asynkron kodagent som integreras med kodarkiv, klonar en kodbas till en virtuell maskin i molnet och arbetar med programmeringsuppgifter som sedan kan granskas. Öppen källkod-baserade agenter som använder verktyg är ett annat angreppssätt, medan rekryteringsprodukter som LinkedIn Hiring Assistant visar hur agentiska arbetsflöden kan användas för att hitta kandidater och stödja rekrytering.

Agenter är attraktiva eftersom de kan slutföra arbete i flera steg i stället för att bara föreslå nästa åtgärd. En kodagent kan exempelvis undersöka ett fel, ändra flera filer, köra tester och förbereda en pull request. En arbetsflödesagent kan samla in information, strukturera den och förbereda kommunikation för godkännande.

Varför självständighet ökar risken

Planering är inte samma sak som tillförlitlig förståelse. En agent kan misstolka en webbsida, välja en dålig plan, följa en skadlig instruktion eller bygga vidare på ett litet fel genom många steg. Stanford AI Index 2026 rapporterar att agenter förbättrades från 12 procent till omkring 66 procents uppgiftsframgång i OSWorld, ett test av verkliga datoruppgifter, men att de fortfarande misslyckades i ungefär ett av tre försök.

En hallucination i en chattbot kan stanna vid ett kommunikationsproblem. En agent med inloggningsuppgifter, webbläsaråtkomst eller rätt att betala kan däremot omvandla samma typ av fel till en faktisk extern åtgärd. Därför måste styrningen av agentisk AI inte bara handla om kvaliteten på svaren, utan även om behörigheter, möjligheten att ångra och tydligt ansvar.

De viktigaste säkerhetsriskerna för AI-agenter

De största riskerna uppstår när en agent kan påverka system, pengar, data eller andra människor:

• Obehöriga betalningar: En agent kan välja fel vara, överskrida en budget eller manipuleras av en skadlig webbsida.
• Integritetsläckor och datastöld: Åtkomst till e-post, filer, kundregister, källkod eller API-nycklar skapar möjligheter till informationsläckage, särskilt genom promptinjektioner.
• Säkerhetsproblem och skador på programvara: En agent kan införa osäker kod, ändra konfigurationer, radera resurser eller exponera hemligheter genom loggar och externa verktyg.
• Oklara ansvarsförhållanden: Det kan bli oklart hur ansvaret ska fördelas mellan modellleverantören, applikationsutvecklaren, organisationen som använder agenten, verktygsleverantören och användaren.
• Manipulation: Långvariga, samtalsbaserade agenter kan utöva otillbörlig påverkan, särskilt när användaren är sårbar eller systemet framstår som mer kapabelt och pålitligt än det faktiskt är.

Så kan ansvarsfull styrning se ut

Kontrollerna bör anpassas efter systemets förmåga och konsekvenserna av ett fel.

För prediktiv AI bör organisationer definiera syftet, mäta träffsäkerhet och rättvisa, skydda personuppgifter och ge människor möjlighet att förstå eller bestrida beslut med stor påverkan.

För generativ AI bör de verifiera viktiga påståenden, testa hallucinationer och skadliga resultat, kontrollera känsliga data, hantera frågor om ursprung och immateriella rättigheter samt låta kvalificerade personer ansvara för juridiska, medicinska, ekonomiska och skyddsrelaterade beslut.

För AI-agenter krävs ännu fler tekniska och organisatoriska skydd:

1. Avgränsa användningsområdet. Bestäm vad agenten får och inte får göra innan den tas i bruk.
2. Begränsa åtkomsten. Använd behörigheter enligt principen om minsta privilegium, begränsade verktyg, transaktionsgränser och sandlådemiljöer.
3. Kräv godkännande vid viktiga kontrollpunkter. Ekonomiska, juridiska, integritetskänsliga och säkerhetskritiska åtgärder bör inte genomföras utan lämpligt mänskligt godkännande.
4. Gör aktiviteten spårbar. Spara loggar, övervaka beteendet och utse tydligt ansvar för incidenter.
5. Testa mot angrepp. Utvärdera promptinjektioner, datastöld, skadligt beteende och återhämtning efter fel före och under användning.
6. Behåll mänsklig kontroll. Människor ska kunna stoppa, åsidosätta och ifrågasätta åtgärder som får stora konsekvenser.

Singapores Infocomm Media Development Authority, IMDA, beskriver detta riskbaserade förhållningssätt i sitt Model AI Governance Framework for Agentic AI. Ramverket riktar sig till organisationer som utvecklar agenter internt eller använder lösningar från externa leverantörer. Den centrala lärdomen är att självständigheten bör trappas upp gradvis: börja med läsbehörighet och assistans, gå vidare till åtgärder med låg risk och reservera oåterkalleliga eller ingripande handlingar för uttryckligt godkännande.

AI:s riktning framåt

AI:s utveckling bör förstås som en växande förmågestack snarare än tre helt separata epoker. Traditionella system förutsäger och klassificerar. Generativa system skapar och omformar. Agentiska system lägger till planering, verktygsanvändning och handling.

Styrningen måste växa i samma takt. Kontroller av träffsäkerhet och rättvisa är fortfarande nödvändiga, men de räcker inte längre. Generativa system kräver stark verifiering, tydlig källhärkomst och rutiner för innehållssäkerhet. Agenter behöver dessutom behörighetsgränser, kontrollpunkter före åtgärder, säkerhetsövervakning och ett klart ansvar.

Ju mer ett AI-system kan göra på egen hand, desto viktigare blir det att organisationer noggrant bestämmer vad det faktiskt får göra.