Europeiske regulatorer advarer: Autonome KI-agenter kan utløse finansiell krise

I slutten av juni 2026 kom en koordinert bølge av advarsler fra europeiske regulatorer og sentralbanker under ECB-forumet i Sintra og andre arenaer. De identifiserte autonome KI-agenter som en systemisk trussel mot finansiell stabilitet og krevde en fundamental omskriving av regelverket. De foreslåtte nye sikkerhetstiltakene inkluderer skreddersydde regler, nødstopp for hele markedet og forbedrede gjenopprettingsmekanismer for å stoppe kaskadende feil.

Bank of Englands nestleder Sarah Breeden advarer om «markedskollaps» (30. juni 2026)

På ECB-forumet om sentralbankvirksomhet i Sintra, Portugal, advarte Bank of Englands nestleder Sarah Breeden om at autonome KI-agenter «kunne forsterke volatiliteten i stress» i finansmarkedene hvis de alle reagerer likt på de samme signalene, og potensielt utløse en kjedereaksjon alvorlig nok til å destabilisere hele markeder .

Breeden identifiserte agentisk KI som sin mest presserende bekymring for finansiell stabilitet og advarte om at cyberrisikotidslinjen fra disse systemene «måles i måneder, ikke år» . I et betydelig skifte bort fra år med å insistere på at eksisterende rammeverk var tilstrekkelige, signaliserte Bank of England behovet for skreddersydd KI-regulering for å håndtere risikoen fra agentiske systemer . Breeden uttalte at dagens teknologinøytrale reguleringer «ikke var designet for systemer som er i stand til å operere autonomt» .

Blant de spesifikke foreslåtte sikkerhetstiltakene under vurdering: nye sperrer for agentisk KI, nødstopp for hele markedet for å stanse all KI-handel under en kaskadehendelse, og forbedrede gjenopprettingsmekanismer for å gjenopprette ordnet markedsfunksjon etter en KI-utløst forstyrrelse .

FCA-sjef Nikhil Rathi: «Lovgivningen vil aldri holde tritt» (24. juni 2026)

På techUKs «Agents of Change»-konferanse i London erklærte Financial Conduct Authority-sjef Nikhil Rathi at «teknologien beveger seg mye raskere enn mange regulatoriske paradigmer. Lovgivningen vil aldri holde tritt,» og at den tradisjonelle syklusen med regelskriving «ikke fungerer» i en tid med rask teknologisk endring .

Rathi ba om et skifte fra preskriptiv regelskriving mot «forvalterskap» og en mer resultatbasert, systemomfattende tilnærming. FCA tenker nytt om hvordan de fører tilsyn med finans når KI beveger seg fra eksperimentering til storskala utrulling . I et bemerkelsesverdig trekk utforsker FCA å bruke agentisk KI som sin egen «førstehjelper» for å overvåke engrosmarkeder, ved å utnytte «en milliard rader med data per dag» for markedsovervåking . Rathi indikerte at konkurransedynamikk og systemomfattende motstandskraft i økende grad vil drive tilsynsoppmerksomhet ettersom agentiske systemer skaleres .

ECB-president Christine Lagarde: KI «kan potensielt føre til farlige finanskriser» (17. juni 2026)

ECB-president Christine Lagarde advarte om at KI «kan potensielt føre til farlige finanskriser,» og sa «vi kan ikke stoppe kunstig intelligens, selv med våre solide reguleringer. Det vi kan gjøre er å forhindre at det genererer en finanskrise» . Hun erklærte at ECB var «fast bestemt på å sikre at det ikke skjer» .

Lagarde var vert for ECB-forumet om sentralbankvirksomhet i Sintra (29. juni–1. juli) med en dedikert paneldebatt med tittelen «Kunstig intelligens og finansiell stabilitet,» ledet av Isabel Schnabel, som direkte plasserte KI-stabilitetsrisiko i sentrum av sentralbankagendaen .

Bredere europeisk enighet

Flere europeiske toppbankfolk og regulatorer advarte samlet om at «KI er i ferd med å overhale reglene,» med Rathi, Breeden og andre som alle konvergerte på synet om at regulatoriske rammeverk må tenkes radikalt nytt .

Nye foreslåtte sikkerhetstiltak

Pakken med sikkerhetstiltak som ble diskutert i slutten av juni 2026 inkluderer:

• Skreddersydd KI-regulering: Å bevege seg bort fra teknologinøytrale rammeverk til regler spesifikt designet for agentiske og autonome systemer .
• Nødstopp for hele markedet: Mekanismer for å stanse all KI-handel eller agentaktivitet under en kaskadehendelse .
• Forbedrede gjenopprettingsmekanismer: Verktøy for å gjenopprette ordnet markedsfunksjon etter en KI-utløst forstyrrelse .
• Nye sperrer for agentisk KI: Nye grenser for autonom beslutningstaking i finansmarkeder .
• Resultatbasert tilsyn: FCA beveger seg mot forvalterskap og systemomfattende overvåking av motstandskraft i stedet for saksbasert regelhåndheving .

Financial Stability Board krever strengere kontroll på agentisk KI (10. juni 2026)

Financial Stability Board (FSB) publiserte en konsultasjonsrapport om «Sunne praksiser for ansvarlig adopsjon av kunstig intelligens» . Den «anbefalte sterkt» at land innfører strengere kontroll på autonome KI-agenter i finans, og advarte om at fremveksten av stadig mer autonome systemer kan øke risikoen for finanssektoren og oppfordret til nye regulatoriske tiltak ettersom adopsjonen akselererer .

FSB erkjente at ettersom banker utplasserer flere autonome agenter, «slutter det å være gjennomførbart å gjennomgå beslutninger én etter én,» og innrømmet at menneskelig tilsyn med KI «ikke skalerer» . De satte opp 12 sunne praksiser for ansvarlig KI-adopsjon . Spesifikt uttrykte FSB bekymring for at utbredt KI-bruk blant finansmarkedsdeltakere kan forverre finansiell turbulens drevet av «dyriske ånder» snarere enn å dempe den .

Paralleller til historiske finansielle manier

Selv om spesifikke artikler fra slutten av juni 2026 som trekker direkte paralleller til den britiske jernbanemanien på 1840-tallet eller dotcom-boblen ikke ble funnet, bemerket et arbeidsdokument fra Federal Reserve (24. juni 2026) om «Finansielle stabilitetsimplikasjoner av generativ KI» at «i stedet for å dempe oppbyggingen av finansielle sårbarheter, kan KI forverre finansiell turbulens drevet av dyriske ånder» — en direkte henvisning til det atferdsøkonomiske konseptet assosiert med historiske manier . FSBs rapport fra 2024 (referert til i Fed-dokumentet) tok også opp problemet med at utbredt KI-bruk kunne forsterke flokkadferd i finansmarkeder, en dynamikk som er sentral for både jernbanemanien og dotcom-boblen .

ECBs egen forskning (mai 2026) fant at forsterkende lærings-KI-algoritmer «oppnådde en høy grad av koordinering, men var utsatt for ekstreme bank-run-lignende dynamikker,» og gjentok flokk- og kaskaderingsfeilmønstrene sett i historiske finanskriser .