Autonome KI-Agenten bedrohen die Finanzstabilität – Regulierer fordern Notbremsen und neue Regeln

Zu den spezifischen vorgeschlagenen Schutzmaßnahmen, die derzeit erörtert werden, gehören: neue Leitplanken für agentische KI, marktweite Notausschalter, um den gesamten KI-Handel während eines Kaskadenereignisses zu stoppen, sowie verbesserte Wiederherstellungsmechanismen zur Wiederherstellung eines geordneten Marktbetriebs nach einer KI-bedingten Störung .

FCA-Chef Nikhil Rathi: „Gesetzgebung wird nie Schritt halten“ (24. Juni 2026)

Auf der techUK-Konferenz „Agents of Change“ in London erklärte Nikhil Rathi, Chef der britischen Finanzaufsichtsbehörde FCA: „Die Technologie bewegt sich viel schneller als viele regulatorische Paradigmen. Die Gesetzgebung wird nie Schritt halten.“ Der traditionelle Kreislauf der Regelsetzung „funktioniert nicht“ in einer Ära des sich schnell verändernden technologischen Wandels .

Rathi forderte eine Abkehr von der vorschreibenden Regelsetzung hin zu einer „Stewardship“-Rolle und einem ergebnisorientierten, systemweiten Ansatz. Die FCA überdenkt ihre Überwachungsweise, da KI von der Experimentierphase zur massiven Einführung übergeht . In einem bemerkenswerten Schritt prüft die FCA den Einsatz agentischer KI als eigenen „First Responder“ zur Überwachung der Großhandelsmärkte und nutzt dabei „eine Milliarde Datenzeilen pro Tag“ für die Marktüberwachung . Rathi deutete an, dass Wettbewerbsdynamiken und die systemweite Resilienz zunehmend die aufsichtliche Aufmerksamkeit bestimmen werden, je mehr agentische Systeme zum Einsatz kommen .

EZB-Präsidentin Christine Lagarde: KI kann zu „gefährlichen Finanzkrisen führen“ (17. Juni 2026)

EZB-Präsidentin Christine Lagarde warnte, dass KI „potenziell zu gefährlichen Finanzkrisen führen kann“. Sie sagte: „Wir können künstliche Intelligenz nicht aufhalten, selbst mit unseren soliden Regulierungen. Was wir tun können, ist, zu verhindern, dass sie eine Finanzkrise auslöst“ . Sie erklärte, die EZB sei „entschlossen, sicherzustellen, dass das nicht passiert“ .

Lagarde war Gastgeberin des EZB-Forums für Zentralbankwesen in Sintra (29. Juni bis 1. Juli) mit einem eigenen Panel zum Thema „Künstliche Intelligenz und Finanzstabilität“, das von Isabel Schnabel geleitet wurde. Damit rückte sie das KI-Stabilitätsrisiko direkt ins Zentrum der Zentralbank-Agenda .

Breiter europäischer Konsens

Mehrere führende europäische Banker und Regulierer warnten gemeinsam, dass „KI die Regeln überholt“. Rathi, Breeden und andere waren sich einig, dass die Regulierungsrahmen radikal überdacht werden müssen .

Vorgeschlagene neue Schutzmechanismen

Das Paket der Ende Juni 2026 diskutierten Schutzmaßnahmen umfasst:

• Maßgeschneiderte KI-Regulierung: Abkehr von technologie-neutralen Rahmenwerken hin zu Regeln, die speziell für agentische und autonome Systeme entwickelt wurden .
• Marktweite Notausschalter (Kill Switches): Mechanismen, um den gesamten KI-Handel oder die Aktivität von Agenten während eines Kaskadenereignisses zu stoppen .
• Verbesserte Wiederherstellungsmechanismen: Instrumente zur Wiederherstellung eines geordneten Marktbetriebs nach einer KI-bedingten Störung .
• Neue Leitplanken für agentische KI: Neue Grenzen für autonome Entscheidungsfindung auf den Finanzmärkten .
• Ergebnisorientierte Aufsicht: Die FCA bewegt sich in Richtung Stewardship und systemweiter Resilienzüberwachung anstatt fallweiser Regelanwendung .

Finanzstabilitätsrat fordert strengere Kontrollen für agentische KI (10. Juni 2026)

Der Finanzstabilitätsrat (FSB) veröffentlichte einen Konsultationsbericht über „Bewährte Praktiken für die verantwortungsvolle Einführung künstlicher Intelligenz“ . Er empfahl „nachdrücklich“, dass Länder strengere Kontrollen für autonome KI-Agenten im Finanzwesen einführen sollen. Er warnte, dass der Aufstieg zunehmend autonomer Systeme die Risiken für den Finanzsektor erhöhen könnte, und forderte neue regulatorische Maßnahmen, da die Einführung beschleunigt wird .

Der FSB räumte ein, dass mit der Einführung autonomerer Agenten durch Banken „die Überprüfung von Entscheidungen einzeln nicht mehr durchführbar ist“ und erkannte an, dass die menschliche Überwachung von KI „nicht skaliert“ . Er legte 12 bewährte Praktiken für die verantwortungsvolle Einführung von KI fest . Insbesondere äußerte der FSB Bedenken, dass die weit verbreitete KI-Nutzung unter Finanzmarktteilnehmern finanzielle Turbulenzen, die von „animal spirits“ getrieben werden, eher verstärken als abschwächen könnte .

Parallelen zu historischen Finanzmanien

Obwohl in den Quellen keine direkten Vergleiche zur britischen Eisenbahnmanie der 1840er Jahre oder zum Dotcom-Crash gefunden wurden, stellte ein Arbeitspapier der US-Notenbank (Fed) vom 24. Juni 2026 fest, dass KI anstatt die Anfälligkeit zu verringern, „durch animal spirits angetriebene finanzielle Turbulenzen verstärken könnte“ – eine direkte Anlehnung an das verhaltensökonomische Konzept, das mit historischen Manien verbunden ist . Der FSB-Bericht von 2024 (im Fed-Papier zitiert) wies ebenfalls darauf hin, dass die weit verbreitete KI-Nutzung Herdenverhalten an den Finanzmärkten verstärken könnte – eine Dynamik, die sowohl für die Eisenbahnmanie als auch für die Dotcom-Blase zentral war .

Die eigene Forschung der EZB (Mai 2026) ergab, dass Reinforcement-Learning-KI-Algorithmen „ein hohes Maß an Koordination erreichten, aber anfällig für extreme bank-run-ähnliche Dynamiken waren“ – ein Echo auf die Herden- und Kaskadenausfallmuster, die in historischen Finanzkrisen zu beobachten sind .