Australijski regulator sprawdzi, jak banki wykorzystują AI

Australijski regulator rynku finansowego ASIC zapowiada formalny przegląd tego, jak banki wykorzystują — i planują wykorzystywać — sztuczną inteligencję. Sprawdzi nowe i proponowane zastosowania AI oraz ich możliwe skutki dla klientów. W centrum uwagi znajdą się między innymi kontakty z klientami, podejmowanie decyzji i praktyki kredytowe. 23

Nie chodzi wyłącznie o samą technologię. ASIC uznaje, że automatyzacja może usprawnić obsługę czy ocenę wniosków, ale chce też wiedzieć, jak banki chronią klientów, gdy AI wpływa na decyzje dotyczące ich finansów. 3

Od ostrzeżeń do konkretnych działań

Przegląd wpisuje się w szersze działania regulatorów związane z szybko rozwijającymi się, zaawansowanymi systemami AI. ASIC ostrzegał wcześniej, że banki powinny pilnie przygotować się na związane z nimi zagrożenia cybernetyczne.

W czerwcu i lipcu ASIC oraz APRA — australijski organ nadzorujący stabilność i ostrożnościowe funkcjonowanie instytucji finansowych — zorganizowały dziewięć spotkań z przedstawicielami sektora. Wzięło w nich udział ponad 600 osób z ponad 380 podmiotów. Wspólny apel regulatorów jest jasny: sama świadomość ryzyka nie wystarczy, potrzebne są sprawdzone procedury i odporne zabezpieczenia. 17

Regulatorzy wskazują, że zaawansowana AI może zwiększać szybkość, skalę i złożoność cyberataków, a bardziej autonomiczne systemy mogą podejmować niezamierzone działania. To oznacza, że banki muszą uwzględniać zarówno zagrożenia dla cyberbezpieczeństwa, jak i ryzyko błędów w działaniu systemów. 79

Agenci AI: wygoda, ale także nowe ryzyka

Osobnym przykładem są zakupy internetowe realizowane przez agentów AI — narzędzia, które mogą wyszukiwać produkty, a nawet dokonywać zakupów w imieniu użytkownika. Taki model określa się jako agentic commerce, czyli handel z udziałem agentów AI. Może on ułatwić klientom zakupy, ale rodzi pytania o to, kto odpowiada za działania agenta i jak konsument ma nad nimi kontrolę.

Sześć banków — Commonwealth Bank of Australia, ASB Bank, Bank of America, Capital One, ING i NatWest — przedstawiło wspólne zasady, które mają pomóc rozwijać ten rodzaj handlu. Banki zwróciły jednocześnie uwagę na ryzyko oszustw, wyłudzeń i naruszeń prywatności oraz na możliwość, że standardy branżowe i ochrona konsumentów nie nadążą za rozwojem technologii.

Dla ASIC zasadnicze pytanie brzmi więc nie tylko, co AI potrafi, lecz także czy zabezpieczenia banków i reguły branżowe rozwijają się równie szybko. Korzyści z automatyzacji będą zależeć od tego, czy klienci pozostaną chronieni, gdy sztuczna inteligencja zacznie odgrywać większą rolę w obsłudze, decyzjach finansowych i zakupach. 27