ASIC vil undersøke hvordan bankenes AI påvirker kundene

Australias finanstilsyn ASIC skal undersøke hvordan landets banker bruker – og planlegger å bruke – kunstig intelligens i kundekontakt. Tilsynet vil se på nye og foreslåtte bruksområder og hva de kan bety for kundene. 4

AI er også en del av ASICs bredere tilsynsprioriteringer. Der inngår bankenes bruk av teknologien i kundetjenester, og hvordan den kan påvirke forbrukere og beslutninger. Tilsynet følger dessuten med på bankenes utlånspraksis. 23

ASIC har pekt på at AI og automatisering kan gi fordeler, men at kundene må beskyttes når teknologien brukes i beslutninger og utlån. 3 En aktuell problemstilling er såkalt agentisk handel: AI-agenter som kan lete etter varer og gjennomføre kjøp på vegne av brukeren.

Fra AI-risiko til konkret beredskap

I mai ba ASIC bankene handle raskt for å møte mulige cybertrusler knyttet til avansert AI. Senere holdt ASIC og APRA – Australias tilsyn med finansinstitusjonenes soliditet – ni rundebordsmøter med over 600 deltakere fra mer enn 380 virksomheter. 147

Myndighetenes budskap etter møtene var at finansbransjen må gå lenger enn å bare kjenne til risikoen. Den må også bygge praktisk motstandskraft. Avansert AI kan øke tempoet, omfanget og kompleksiteten i cyberangrep, og mer selvstendige AI-systemer kan handle på måter som ikke var tilsiktet. 79

Banker vil utvikle handel med AI-agenter – med sikkerhetsregler

Commonwealth Bank of Australia har sammen med fem andre banker publisert prinsipper for utvikling av agentisk handel. Gruppen omfatter også NatWest, Bank of America, ING, ASB Bank på New Zealand og Capital One.

Bankene ser et potensial i at AI-agenter kan gjøre netthandel enklere, men advarer samtidig om at teknologien kan øke risikoen for svindel, bedrageri og brudd på personvernet. De mener utviklingen går raskere enn bransjestandarder og forbrukervern klarer å følge med.

Dermed handler ASICs gjennomgang ikke bare om hvorvidt bankene tar i bruk AI, men også om hvordan de styrer risikoen når teknologien påvirker kundekontakt og beslutninger. Utfordringen blir å ta i bruk mulighetene uten at sikkerhetstiltak og beskyttelse av kundene blir hengende etter.