은행 AI, 편리함만큼 고객 보호도 따져본다

호주 증권투자위원회(ASIC)가 은행의 인공지능(AI) 활용을 공식 검토한다. 대상은 고객을 응대하는 데 쓰이는 AI뿐 아니라 은행이 새로 도입하려 하거나 내부 의사결정과 대출에 활용하는 사례까지다. 당국은 기술 자체보다 그 결과가 고객에게 어떤 영향을 주는지에 초점을 맞춘다. 4

이번 검토는 AI가 금융 서비스를 더 빠르고 편리하게 만들 가능성과, 그에 따른 위험을 함께 따져보려는 움직임이다. ASIC은 AI 활용이 감독 우선순위 가운데 하나라고 밝혔으며, 고객 접점에서의 AI 사용과 소비자에 미치는 영향을 살피겠다고 했다. 2

편리한 서비스와 대출 판단, 고객에게 어떤 영향을 줄까

AI와 자동화는 은행의 고객 서비스나 신용 평가, 금융 거래를 효율적으로 바꿀 수 있다. 그러나 대출 승인이나 고객 응대에 자동화된 판단이 쓰일수록, 그 판단이 고객에게 미치는 영향과 은행의 관리·감독 체계도 중요해진다. ASIC의 검토는 은행이 현재 사용하는 AI와 앞으로 도입하려는 사례를 함께 들여다보는 만큼, 이런 효익과 소비자 보호를 함께 따지는 작업이다. 34

AI 사이버 위협, ‘인지’에서 실제 대응으로

ASIC은 앞서 금융회사들에 첨단 AI로 인해 커질 수 있는 사이버 위험에 서둘러 대응하라고 경고했다. 이후 ASIC과 호주 건전성감독청(APRA)은 금융권 관계자 600여 명, 380개가 넘는 기관이 참여한 9차례 라운드테이블을 열었다. APRA는 은행과 보험사 등 금융기관의 건전성과 위험 관리를 감독하는 기관이다. 79

두 규제기관은 논의 뒤 금융회사들이 위험을 알고 있다는 데 그치지 말고, 실제로 작동하는 대응 체계와 회복력을 갖춰야 한다고 촉구했다. 이들이 지적한 문제에는 사이버 위협의 속도·규모·정교함이 커질 가능성과, 점점 자율성이 높아지는 AI 에이전트가 의도하지 않은 행동을 할 위험이 포함된다. 79

AI 쇼핑 에이전트, 편리함 앞서 보호 기준은 충분한가

은행권이 주목하는 또 다른 사례는 ‘에이전틱 커머스’다. 이는 AI 에이전트가 사용자를 대신해 상품을 고르거나 구매하는 방식이다. 커먼웰스은행(CBA)을 포함한 6개 은행은 신뢰할 수 있는 에이전틱 커머스의 발전을 위한 공동 원칙을 내놨다. 은행들은 고객들이 이 기술의 가능성에 관심을 보인다고 전하면서도, 쇼핑 에이전트 사용이 사기와 금융 범죄, 개인정보 침해 위험을 키울 수 있다고 경고했다.

은행들이 제기한 핵심 우려는 기술 발전 속도가 업계 기준과 소비자 보호 장치의 정비보다 빠를 수 있다는 점이다. 따라서 ASIC의 은행 AI 검토와 금융권의 에이전틱 커머스 논의는 서로 다른 문제를 다루면서도 같은 질문을 던진다. AI가 제공하는 편리함을 살리면서도, 은행의 통제와 보호 장치가 고객에게 생길 수 있는 피해를 막을 만큼 충분한가 하는 것이다. 2