Regulátoři varují před autonomní AI ve financích. Singapur zavádí první komplexní bezpečnostní rámec

Finanční trhy se blíží okamžiku, kdy umělá inteligence nebude pouze poskytovat doporučení, ale sama plánovat a provádět konkrétní kroky. Takzvaná agentní AI dokáže pracovat autonomně, vyhodnocovat situaci a například zadat platbu, upravit databázový záznam nebo provést obchod — často rychleji, než stačí zasáhnout člověk.

Právě tato kombinace samostatnosti, rychlosti a omezeného lidského dohledu nyní vyvolává obavy regulátorů po celém světě. Singapur na ně reaguje nejuceleněji: vytvořil vícevrstvou architekturu, jejímž finančním vrcholem je dokument SAFR (Safeguards for Agentic Finance at Runtime), tedy pojistky pro agentní finance během provozu.

Proč agentní AI znepokojuje regulátory

Riziko pro stabilitu finančního systému

Financial Stability Board (FSB), mezinárodní orgán zaměřený na stabilitu finančního systému, v červnu 2025 důrazně vyzval finanční instituce, aby okamžitě zavedly ochranná opatření proti rizikům stále autonomnějších systémů AI. Ty mohou plánovat, uvažovat a provádět složité úkoly s jen omezeným lidským dohledem ^AI.

Bank of England v červnu 2026 uvedla, že k omezení rizik agentních systémů může být zapotřebí zvláštní regulace. Podle viceguvernérky Sarah Breedenové rychlý rozvoj agentních plateb a obchodování odhalil možné mezery ve stávajícím přístupu ^M.

Technologie předbíhá pravidla

Evropští centrální bankéři a regulátoři v červenci 2026 varovali, že finanční regulace nedokáže držet krok s rychlostí vývoje AI. Výsledkem mohou být rizika pro integritu trhů i jejich stabilitu ^C.

Bank for International Settlements (BIS) zároveň upozorňuje, že širší využívání AI může zesílit běžná rizika finančních institucí — od úvěrového a likviditního rizika po riziko modelu, provozní a reputační rizika ^B. Analýzy BIS, OECD a FSB poukazují také na závislost na externích dodavatelích, soustředění na několik modelů, podobné chování více systémů a rychlé šíření rozhodnutí prováděných stroji ^AB.

Kybernetické útoky a zranitelnosti

Švýcarský finanční regulátor v červnu označil AI za technologii, která kybernetická rizika „superzvyšuje“. Modely totiž dokážou odhalovat velké množství softwarových zranitelností, což současně zvyšuje potenciál pro útoky a vyvolává otázky ohledně bezpečnosti a odpovědnosti finančních institucí ^R.

Podvody a škody pro spotřebitele

Americká Commodity Futures Trading Commission (CFTC) vydala varování před investičními podvody využívajícími AI. Podvodníci propagují údajné nástroje podporované umělou inteligencí a prostřednictvím sociálních sítí lákají investory na sliby mimořádných výnosů ^C.

Americký dohled FINRA ve své zprávě Regulatory Oversight Report 2026 posunul agentní AI z oblasti dohledu nad marketingovou komunikací přímo do jádra pravidel pro dohled nad brokerskými procesy. Upozornil na nutnost kontrol, lidského monitorování a uchovávání záznamů o činnosti těchto systémů ^SF.

Singapurská vícevrstvá odpověď

Singapur nespoléhá na jediný dokument. Propojil obecné zásady, sektorová pravidla, praktické nástroje a spolupráci s finančními institucemi.

Iniciativa	Hlavní instituce	Datum	Co přináší
SAFR – Safeguards for Agentic Finance at Runtime	Monetary Authority of Singapore (MAS)	3. července 2026	Bílá kniha s bezpečnostními opatřeními pro AI agenty ve finančních službách. Navrhuje kontrolní body, které před provedením ověří a zaznamenají kroky AI EN.
Modelový rámec správy agentní AI	Infocomm Media Development Authority (IMDA)	22. ledna 2026	První specializovaný rámec pro autonomní AI agenty na světě. Zabývá se například samostatným prováděním plateb, změn databází a dalších vysoce rizikových operací MAT.
Pokyny pro řízení rizik AI (AIRG)	MAS	Konzultace od listopadu 2025, finalizace v roce 2026	Pravidla pro dohled, celý životní cyklus AI, systémy řízení rizik a rizika dodavatelů. Vztahují se na finanční instituce regulované MAS, včetně bank, pojišťoven a fintechů MKP.
Nástroj pro řízení rizik AI – Project MindForge	MAS a Association of Banks in Singapore (ABS)	Březen 2026	Praktický nástroj, který má finančním institucím pomoci zavádět řízení rizik AI RL.
Národní rámec bezpečnosti AI	IMDA	Kodifikován v květnu 2026	Komplexní plán správy AI v jihovýchodní Asii, zaměřený na rizika spojená s rychlým šířením generativních a agentních systémů R.

Co je na SAFR nové

Dokument SAFR z 3. července 2026 je ze všech singapurských iniciativ nejvíce zaměřený přímo na finanční sektor. Navazuje na obecný rámec IMDA pro agentní AI i na pravidla MAS pro řízení rizik AI a soustředí se na bezpečnost autonomních agentů v okamžiku, kdy pracují v živém finančním prostředí ^EN.

Klíčovým prvkem jsou kontrolní body před provedením akce. AI agent by neměl pouze vydat příkaz a okamžitě jej uskutečnit. Jeho krok má být nejprve ověřen podle předem stanovených pravidel a následně zaznamenán. Instituce tak získá možnost kontrolovat, zda agent jednal v mezích svých oprávnění, a dohledat, co přesně se stalo ^N.

Odpovědnost, pravomoci a lidský dohled

Modelový rámec IMDA řeší tři problémy, se kterými si dřívější obecnější rámce nemusely poradit dostatečně přesně: hierarchii odpovědnosti, jasný řetězec odpovědných osob na jednotlivých úrovních a technické kontroly včetně základního testování ^Y.

Organizace mají podle rámce vymezit hranice autonomie a přístupu agentů, určit místa, kde zůstává odpovědnost na člověku, a zajistit odpovědnost i na straně koncového uživatele ^L. Dodržování tohoto modelového rámce je dobrovolné, právní odpovědnost organizací za chování a jednání jejich agentů tím ale nezaniká ^T.

Navrhované pokyny MAS pro finanční instituce přidávají formálnější vrstvu. Počítají s odpovědností představenstva a vrcholového vedení, se systémy pro identifikaci používané AI a s komplexním katalogem AI nástrojů. Konzultace k pokynům skončila v lednu 2026 ^MKP.

Může se Singapur stát vzorem pro ostatní země?

Singapurský přístup kombinuje dobrovolný modelový rámec, pravidla pro finanční sektor, praktický nástroj pro řízení rizik a spolupráci s průmyslem. Právě tato kombinace z něj dělá jeden z nejkonkrétnějších pokusů, jak řešit agentní AI nikoli jen ve fázi vývoje, ale přímo během jejího nasazení.

Zda se SAFR stane mezinárodním standardem, zatím není jisté. Signály z FSB, Bank of England i Evropy však ukazují, že poptávka po přesnějších pojistkách roste ^AMI. Pro finanční instituce je hlavní otázka praktická: kdo schvaluje akci autonomního systému, jaké má agent pravomoci a zda lze jeho rozhodnutí zpětně ověřit.

Singapur na tyto otázky nabízí strukturovanou odpověď. Ostatní jurisdikce nyní budou sledovat, zda vícevrstvá architektura dokáže udržet krok se systémy, které se učí jednat rychleji, než se mění pravidla pro jejich dohled.