ASIC teliti bagaimana bank Australia menggunakan AI

Pengawal selia korporat Australia, Australian Securities and Investments Commission (ASIC), akan meneliti cara bank menggunakan dan merancang untuk menggunakan kecerdasan buatan (AI). Tumpuannya termasuk kes penggunaan baharu atau yang dicadangkan dan kemungkinan kesannya kepada pelanggan. Semakan ini turut meletakkan penggunaan AI dalam urusan pelanggan dan keputusan pemberian pinjaman di bawah perhatian lebih dekat. 24

Bagi pelanggan, persoalannya bukan sekadar sama ada AI boleh menjadikan perkhidmatan lebih pantas. Yang penting juga ialah bagaimana keputusan automatik dibuat, dan sama ada pengguna mendapat perlindungan sewajarnya apabila teknologi itu digunakan dalam perkhidmatan kewangan atau pinjaman. 34

Manfaat AI perlu disertai perlindungan

AI dan automasi berpotensi membantu bank mempercepat perkhidmatan dan proses membuat keputusan. Namun, ASIC menekankan bahawa manfaat teknologi perlu diseimbangkan dengan hasil yang baik untuk pengguna. 3

Satu contoh penggunaan yang sedang berkembang ialah perdagangan berasaskan ejen AI (agentic commerce): sistem AI yang boleh mencari barangan atau membuat pembelian bagi pihak seseorang. Commonwealth Bank of Australia bersama lima bank lain—ASB Bank, Bank of America, Capital One, ING dan NatWest—menerbitkan prinsip bersama bagi menggalakkan pembangunan teknologi ini secara lebih dipercayai.

Pada masa yang sama, bank-bank itu memberi amaran bahawa ejen membeli-belah AI boleh meningkatkan risiko penipuan, fraud dan kebocoran privasi. Mereka turut menyatakan bahawa teknologi berkembang lebih pantas daripada piawaian industri dan perlindungan pengguna yang ada.

Amaran risiko siber semakin mendesak

Semakan ASIC dibuat ketika pengawal selia itu dan Australian Prudential Regulation Authority (APRA), iaitu badan yang mengawasi kestabilan institusi kewangan, turut memberi perhatian kepada risiko AI canggih (frontier AI). ASIC sebelum ini menggesa bank mengambil tindakan segera terhadap ancaman siber berkaitan teknologi tersebut. 47

Pada Jun dan Julai, kedua-dua pengawal selia mengadakan sembilan perbincangan meja bulat yang menghimpunkan lebih 600 peserta daripada lebih 380 organisasi. Mesej mereka: institusi kewangan perlu beralih daripada sekadar memahami risiko kepada membina daya tahan yang praktikal. 17

Menurut ASIC dan APRA, AI canggih boleh meningkatkan kelajuan, skala dan kecanggihan ancaman siber, selain menambah risiko teknologi dan operasi. Sistem ejen yang semakin autonomi juga berpotensi melakukan tindakan atau menghasilkan keputusan yang tidak dijangka. 79

Bagi pengguna, cabaran utamanya ialah memastikan kawalan bank dan prinsip industri berkembang seiring dengan keupayaan AI. Teknologi ini boleh memudahkan urusan, tetapi semakan ASIC dan amaran bank menunjukkan bahawa kemudahan sahaja tidak memadai jika pelanggan turut terdedah kepada keputusan yang tidak jelas, ancaman siber atau perlindungan yang ketinggalan.