Apa yang ingin diperiksa ASIC dari penggunaan AI oleh bank Australia?

ASIC—Australian Securities and Investments Commission, regulator korporasi dan pasar keuangan Australia—akan meninjau cara bank menggunakan AI dalam berurusan dengan nasabah. Pemeriksaan ini mencakup penggunaan yang sudah berjalan maupun yang masih direncanakan, serta dampaknya bagi konsumen, termasuk dalam pengambilan keputusan dan layanan pinjaman. 24

Fokusnya bukan semata-mata apakah bank memakai teknologi baru, melainkan apa akibatnya bagi nasabah ketika AI berperan dalam layanan atau keputusan keuangan. AI dan otomatisasi berpotensi membuat sejumlah proses lebih cepat dan efisien, tetapi regulator ingin memastikan penggunaannya tidak merugikan konsumen. 34

Dari peringatan risiko siber ke kesiapan nyata

Peninjauan ini berlangsung setelah ASIC pada Mei memperingatkan bank agar segera menangani risiko siber yang berkaitan dengan AI mutakhir (frontier AI). Istilah ini merujuk pada sistem AI generasi terbaru yang kemampuannya terus berkembang. 4

ASIC dan APRA, regulator yang mengawasi ketahanan prudensial lembaga keuangan Australia, kemudian menggelar sembilan diskusi industri pada Juni dan Juli. Lebih dari 600 peserta dari sekitar 380 entitas ikut membahas risiko serta cara menghadapinya. Setelah rangkaian diskusi itu, kedua regulator meminta lembaga keuangan bergerak dari sekadar memahami ancaman menuju tindakan dan ketahanan operasional yang nyata. 17

Menurut ASIC dan APRA, AI mutakhir dapat meningkatkan kecepatan, skala, dan kecanggihan ancaman siber. Sistem agen yang semakin otonom juga berpotensi melakukan tindakan atau menghasilkan dampak yang tidak diinginkan. 79

Janji agen AI dan celah perlindungan

Perkembangan agentic commerce—perdagangan ketika agen AI mencari atau membeli barang atas nama pengguna—menunjukkan manfaat sekaligus tantangan yang sedang dihadapi industri. Commonwealth Bank of Australia bergabung dengan lima bank lain dalam menerbitkan prinsip-prinsip untuk mendorong pengembangan perdagangan berbasis agen AI yang tepercaya.

Namun, kelompok bank tersebut juga memperingatkan bahwa penggunaan agen belanja AI dapat membawa risiko penipuan, fraud, dan pelanggaran privasi. Mereka menilai teknologi berkembang lebih cepat daripada standar industri dan perlindungan konsumen yang tersedia.

Di sinilah kepentingan peninjauan ASIC menjadi jelas: AI dapat membantu mempercepat layanan dan proses keuangan, tetapi pengawasan, tata kelola, dan perlindungan nasabah perlu mengikuti perkembangannya. Pemeriksaan terhadap penggunaan AI di bank akan membantu menyoroti bagaimana teknologi itu diterapkan dan apa dampaknya bagi konsumen. 237