Världens finansmyndigheter varnar för autonoma AI-agenter – Singapore lanserar nytt säkerhetsramverk

Finanssektorn står inför en ny typ av AI-risk. Så kallad agentisk AI kan inte bara analysera information eller ge rekommendationer – systemen kan också planera, fatta beslut och utföra åtgärder på egen hand. I finansmarknader, där betalningar, order och kreditbeslut kan få stora konsekvenser, sker detta dessutom i maskinhastighet.

Det har fått tillsynsmyndigheter världen över att höja varningsflaggan. Samtidigt har Singapore tagit fram en av de mest samordnade modellerna hittills, med både övergripande styrningsprinciper, riskhanteringskrav och tekniska säkerhetskontroller.

Därför oroar sig tillsynsmyndigheterna

Risk för finansiell instabilitet

Den centrala frågan är vad som händer om många finansinstitut använder liknande AI-modeller, leverantörer eller beslutslogik. Ett fel kan då spridas snabbt mellan aktörer och marknader. Financial Stability Board (FSB) uppmanade i juni 2025 finansinstitut att omedelbart införa skydd mot riskerna med alltmer autonoma AI-system som kan utföra avancerade uppgifter med begränsad mänsklig tillsyn ^AI.

Bank of England signalerade i juni 2026 att särskild AI-reglering kan behövas. Enligt vice centralbankschefen Sarah Breeden har utvecklingen inom exempelvis agentiska betalningar och handel synliggjort luckor i de befintliga regelverken ^M.

Europeiska centralbanker och tillsynsmyndigheter varnade i juli 2026 för att regleringen inte hinner med AI-utvecklingen, vilket kan påverka både marknadens integritet och den finansiella stabiliteten ^C.

Cyberattacker och koncentrerade modellrisker

AI kan förstärka både försvar och angrepp. En ledande schweizisk tillsynsmyndighet beskrev i juni 2026 hur AI ”eldar på” cybersäkerhetsriskerna, samtidigt som modeller identifierar allt fler sårbarheter i finanssektorn ^R.

BIS och OECD har också pekat på att AI kan förstärka befintliga sårbarheter genom beroenden till externa teknikleverantörer, likartade modellbeteenden och koncentration till ett fåtal modeller ^AB. Om många banker lutar sig mot samma modell eller infrastruktur kan ett tekniskt fel få större spridning än tidigare.

Bedrägerier och konsumentskador

Den amerikanska råvaru- och terminsmyndigheten CFTC har varnat för investeringsbedrägerier där bedragare påstår att AI-baserade verktyg kan skapa mycket hög avkastning. Påståendena sprids ofta vidare via sociala medier ^C.

Problemet handlar därför inte bara om vad AI-agenter gör internt hos banker och mäklarfirmor, utan också om hur tekniken används för att vilseleda privatpersoner.

Kredit-, likviditets- och operativa risker

BIS konstaterade i en analys från juni 2026 att AI kan förstärka flera av de risker som finansiella tillsynsmyndigheter redan hanterar – bland annat kreditrisk, likviditetsrisk, modellrisk och operativa risker ^B. När beslut fattas snabbare och mer automatiserat blir det samtidigt svårare att förstå varför ett visst beslut togs och vem som ytterst ansvarar för det.

FINRA:s tillsynsrapport för 2026 placerade dessutom agentisk AI närmare kärnan i reglerna om övervakning, kontrollsystem och bevarande av dokumentation. Fokus flyttas därmed från AI som kommunikationsverktyg till AI som faktiskt kan utföra arbetssteg i mäklarverksamheten ^SF.

Singapores modell i flera lager

Singapore har svarat med flera initiativ som är tänkta att komplettera varandra:

Initiativ	Ansvarig myndighet	Datum	Vad det innebär
SAFR – Safeguards for Agentic Finance at Runtime	MAS, Singapores finansmyndighet	3 juli 2026	Ett branschframtaget vitpapper om säkerhetskontroller för AI-agenter i finansiella tjänster. Förslaget omfattar kontrollpunkter som ska granska och dokumentera AI:ns åtgärder före genomförande EN.
Model AI Governance Framework for Agentic AI	IMDA, myndigheten för information och digital utveckling	22 januari 2026	Världens första särskilda styrningsramverk för autonoma AI-agenter. Det lanserades vid World Economic Forum i Davos och tar upp risker med exempelvis automatiska betalningar, databasändringar och andra åtgärder med stora konsekvenser MAT.
AI Risk Management Guidelines (AIRG)	MAS	Samråd november 2025–januari 2026	Föreslagna riktlinjer för finansinstitut om styrelseansvar, riskhanteringssystem, kontroller under hela AI-systemets livscykel samt risker hos externa leverantörer. De är avsedda att omfatta alla finansinstitut som står under MAS tillsyn MKP.
AI Risk Management Toolkit, Project MindForge	MAS och Association of Banks in Singapore	Mars 2026	Ett praktiskt verktyg som ska hjälpa finansinstitut att införa AI-riskhantering RL.
National AI Safety Framework	IMDA	Kodifierat i maj 2026	Ett övergripande nationellt ramverk för AI-säkerhet, med fokus på risker som följer av den snabba spridningen av generativa och agentiska system R.

SAFR ska lägga in en kontroll före beslutet

SAFR är den del av Singapores modell som är mest direkt inriktad på finansiell verksamhet. Ramverket bygger vidare på IMDA:s tidigare styrningsmodell för agentisk AI och MAS arbete med AI-riskhantering ^EN.

Kärnan är så kallade styrningskontrollpunkter. Innan en AI-agent genomför en finansiell åtgärd ska åtgärden kunna kontrolleras mot förutbestämda regler och därefter dokumenteras. Tanken är att skapa en verifierbar spärr mellan agentens plan och det faktiska genomförandet ^N.

Det kan ge finansinstitut bättre möjligheter att upptäcka fel, stoppa otillåtna åtgärder och i efterhand förstå hur ett beslut kom till. Ramverket är samtidigt ett vitpapper framtaget i samarbete med branschaktörer, snarare än en fristående lag.

Tydligt ansvar även när AI:n agerar själv

IMDA:s styrningsramverk från januari fokuserar på fyra huvudområden: att begränsa agentens handlingsutrymme och åtkomst, definiera mänskligt ansvar vid bestämda kontrollpunkter, införa tekniska kontroller och grundtester samt tydliggöra slutanvändarens ansvar ^L.

En viktig princip är att ansvaret inte försvinner bara för att en AI-agent utför uppgiften. Efterlevnaden av ramverket är frivillig, men organisationer förblir juridiskt ansvariga för sina agenters beteende och handlingar ^T. Modellen gäller organisationer som använder agentisk AI i Singapore, oavsett om systemen utvecklas internt eller köps från en extern leverantör ^T.

MAS riktlinjer kompletterar detta genom att flytta fokus till hela livscykeln: från identifiering och utveckling till övervakning och avveckling. Förslaget omfattar bland annat styrelsens och den högsta ledningens ansvar, system för att identifiera AI-användning och ett samlat register över AI-system ^MKP.

Kan Singapore bli en global förebild?

Singapores styrka ligger inte i ett enda dokument, utan i kombinationen av frivilliga principer, föreslagna tillsynskrav, praktiska verktyg och samarbete med finansbranschen. SAFR försöker dessutom hantera det ögonblick då en AI-agent är på väg att utföra en handling – inte bara hur modellen utvecklades från början.

Det är en modell som andra jurisdiktioner kan studera när globala tillsynsmyndigheter försöker täppa till luckorna mellan traditionell AI-reglering och system som faktiskt kan agera på marknaden. Men hur effektiv strategin blir beror på hur kontrollpunkterna genomförs i praktiken, hur ansvaret utkrävs och om reglerna hinner utvecklas i samma takt som AI-agenterna ^AMI.