澳洲企業監管機構 ASIC(澳洲證券與投資委員會)將檢視銀行如何使用、以及計畫如何使用人工智能(AI),範圍包括與客戶互動、作出決策和放貸。監管焦點不只在於銀行採用了甚麼技術,也在於這些應用會如何影響客戶。
2
3
這項檢視正值監管機構關注 AI 風險之際:AI 和自動化可能提升服務效率,但若它們參與信貸等重要決策,銀行仍須留意對客戶的影響,並確保相關管控到位。
3
從網絡風險警告到金融業實際應對
ASIC 早前警告銀行,應緊急處理前沿 AI 帶來的潛在網絡安全風險。ASIC 與澳洲審慎監管局 APRA(負責監督金融機構穩健運作的監管機構)其後在六月和七月舉行九場業界圓桌會議,邀請超過 600 名、來自 380 多個機構的參與者討論風險與應對方式。
1
7
兩家監管機構表示,金融機構不能只停留在認識風險,還要採取實際行動。它們指出,前沿 AI 可能令網絡威脅的速度、規模和複雜程度上升;愈來愈自主的 AI 代理,也可能作出非預期的行動或導致意料之外的結果。
7
9
AI 購物代理帶來便利,也帶來新疑問
所謂「代理式商務」,是指 AI 代理代替消費者搜尋商品,甚至協助完成購買。包括澳洲聯邦銀行在內的六家銀行提出共同原則,希望為這類服務的發展建立參考框架。
不過,這些銀行也警告,AI 購物代理可能增加詐騙、欺詐和個人資料外洩風險;相關技術發展速度,亦可能快於業界標準和消費者保障措施的建立。
ASIC 的銀行 AI 檢視,因而觸及一個更廣泛的問題:當 AI 帶來更便捷的服務,銀行的治理和保障能否同步跟上,讓自動化不會以消費者承受更多風險為代價?