Was Australiens Finanzaufsicht bei Bank-KI prüfen will

Australiens Finanzaufsicht ASIC will genauer hinsehen, wie Banken künstliche Intelligenz einsetzen – und welche Anwendungen sie planen. Die Prüfung soll sich auf neue und vorgeschlagene KI-Anwendungen konzentrieren, insbesondere im Umgang mit Kundinnen und Kunden. Auch mögliche Auswirkungen auf Entscheidungen und die Kreditvergabe stehen im Fokus. 234

ASIC erkennt an, dass KI und Automatisierung Abläufe und Dienstleistungen verbessern können. Entscheidend ist für die Aufsicht jedoch, welche Folgen die Systeme für Verbraucher haben und ob Banken Risiken angemessen beherrschen. 34

Von der Cyberwarnung zum praktischen Krisenschutz

Die Prüfung knüpft an eine frühere Warnung an: Im Mai forderte ASIC Banken zu dringendem Handeln gegen mögliche Cyberrisiken fortgeschrittener KI-Systeme auf. Solche Systeme können bestehende Risiken schneller und in größerem Maßstab verstärken. Bei zunehmend autonomen KI-Agenten kommt zudem die Gefahr hinzu, dass sie unbeabsichtigt Aktionen ausführen oder unerwartete Ergebnisse hervorbringen. 479

Gemeinsam mit APRA, der australischen Aufsichtsbehörde für die Stabilität von Finanzinstituten, veranstaltete ASIC im Juni und Juli neun Gesprächsrunden. Daran nahmen mehr als 600 Personen aus über 380 Organisationen des Finanzsektors teil. Die Botschaft der Aufseher: Es reicht nicht, Risiken grundsätzlich zu kennen – Unternehmen müssen ihre Schutzmaßnahmen und Krisenfestigkeit auch in der Praxis stärken. 17

KI-Agenten beim Einkaufen: Nutzen mit neuen Risiken

Ein verwandtes Beispiel für den schnellen Wandel ist der sogenannte agentische Handel: Dabei suchen KI-Agenten Produkte aus oder kaufen sie im Auftrag einer Person. Sechs Banken – darunter die Commonwealth Bank of Australia, Bank of America und NatWest – haben gemeinsame Grundsätze für die Entwicklung solcher Anwendungen veröffentlicht.

Die Banken sehen Interesse und mögliche Vorteile, benennen aber auch Risiken wie Betrug, Abzocke und den Missbrauch persönlicher Daten. Sie warnen außerdem, dass sich die Technologie schneller entwickeln könnte als Branchenstandards und Verbraucherschutz.

Diese Debatte ist ein Beispiel für die Herausforderung, vor der auch die ASIC steht: KI kann Finanzdienstleistungen bequemer und effizienter machen, doch Banken müssen sicherstellen, dass ihre Entscheidungen, Sicherheitsvorkehrungen und der Schutz ihrer Kundschaft Schritt halten. Die Prüfung soll dabei den tatsächlichen Einsatz und die möglichen Folgen für Verbraucher in den Blick nehmen. 347