AI가 금융안정을 흔드는 순간: ECB와 연준이 보는 위험

핵심은 ‘동조화’다

유럽중앙은행(ECB)은 2024년 5월 금융안정보고서 특별 분석에서 생성형 AI가 금융 시스템에 상당한 영향을 줄 수 있으며, 그 효과는 데이터, 모델 개발, 배포 과정의 문제를 개별 금융기관과 시스템 차원에서 어떻게 다루느냐에 달려 있다고 봤다 ^[4]. 미국 연방준비제도(Fed·연준)도 AI를 빠르게 진화하는 기술로 보면서, 그 위험과 이익이 점점 더 구체적으로 드러나고 있다고 설명했다 ^[17].

AI가 가져올 수 있는 장점은 분명하다. 중앙은행과 금융안정 관련 자료들은 AI가 위험 평가, 자본·유동성 관리, 운영 효율, 규제 준수, 고객 서비스, 데이터 분석을 개선할 수 있다고 본다 ^[3][4][5]. 문제는 같은 도구와 같은 공급망을 여러 금융회사가 동시에 쓸 때 생긴다. 많은 기관이 같은 외부 서비스에 의존하거나 같은 신호에 반응하면, 각자의 합리적 판단이 시장 전체의 쏠림으로 이어질 수 있다 ^[4][5][19].

ECB가 특히 보는 위험

1. 소수 AI 공급자에 몰리는 금융권

ECB가 반복해서 강조하는 키워드는 ‘집중’이다. 2024년 ECB 연설은 AI가 창출하는 가치의 상당 부분을 AI 생태계를 지배하는 소수 기업이 가져갈 수 있다는 위험을 지적했다 ^[3]. 금융 부문에서는 이 문제가 더 민감하다. ECB의 2024년 5월 분석은 AI 사용이 금융권 전반으로 확산되고 공급자가 집중될 경우, 사이버 위험을 포함한 운영 리스크가 시스템 리스크로 커질 수 있다고 봤다 ^[4].

쉽게 말해 ‘공통 고장 지점’이 생긴다는 뜻이다. 여러 은행, 펀드, 시장 인프라 기관이 같은 모델 제공업체, 클라우드 플랫폼, 데이터 파이프라인에 기대고 있다면 장애, 잘못된 업데이트, 사이버 사고, 오염된 데이터가 한 회사의 문제가 아니라 여러 기관의 동시 문제로 번질 수 있다 ^[4][5].

2. 시장의 군집 행동

집중 위험이 시장에서 드러나는 형태는 군집 행동이다. 한 금융안정 리뷰는 충분한 안전장치 없이 AI 사용이 광범위해질 경우 사이버 집중 위험, 군집 행동, 시장 상관관계 상승으로 이어질 수 있다고 경고했다 ^[6].

시장이 조용할 때 비슷한 AI 추천은 효율처럼 보인다. 그러나 급락장에서는 순응적·증폭적 반응이 될 수 있다. 여러 시스템이 동시에 위험 노출 축소, 유동성 버퍼 확대, 시장조성 축소를 권고하면 시장 깊이는 얇아지고 가격 변동은 더 커질 수 있다 ^[6][10].

3. 모델·데이터·배포 실패

ECB는 AI의 영향이 데이터 품질, 모델 개발, 배포 방식에 달려 있다고 본다 ^[4]. 그래서 AI 거버넌스는 단순한 IT 관리가 아니라 금융안정의 문제다.

정상적인 시장에서는 잘 작동하던 모델도 전례 없는 충격에서는 다른 방식으로 움직일 수 있다. 또한 배포 방식이 중요하다. 잘못된 출력이 내부 경고에 그치느냐, 아니면 거래·신용·자본·유동성 관리에서 자동 행동으로 이어지느냐에 따라 시스템 파급력은 완전히 달라진다 ^[4].

연준이 주목하는 지점

연준의 문제의식은 ECB와 겹치지만, 감독·제3자 리스크·사이버 복원력이라는 틀에서 더 자주 제시된다. 연준 연설은 AI 역량이 진화하는 만큼 감독 당국도 그 위험이 제대로 관리되는지 확인해야 한다고 설명했다 ^[17].

1. 제3자 AI 의존

연준 연구는 소형 은행과 대형 은행 사이의 AI 기술 격차가 커질 수 있으며, 금융사가 아닌 제3자 AI 서비스 제공업체의 다양성이 제한적일 수 있다고 봤다 ^[19]. 이는 또 다른 집중 문제를 뜻한다. 작은 금융회사는 좁은 공급자 생태계에 더 의존할 수 있고, 큰 금융회사는 더 고도화된 AI 역량에 접근할 가능성이 크다는 의미다 ^[19].

별도의 연준 연구는 금융 시스템에서 제3자 서비스 제공업체를 ‘숨은 사이버 단층선’으로 지목하며, 이들이 시스템 리스크를 만들 수 있다고 분석했다 ^[20]. AI 공급자 집중과 결합하면, 기술 벤더는 스트레스 상황에서 위험이 금융권 곳곳으로 전파되는 통로가 될 수 있다 ^[4][19][20].

2. 사이버 공격, 딥페이크, 사기

사이버 위험은 연준이 특히 중시하는 경로다. 2025년 마이클 바는 AI 기반 딥페이크가 한 사람의 전체 신원을 복제할 수 있으며 신원사기를 크게 증폭시킬 잠재력이 있다고 말했다. 그는 사이버 범죄자들이 생성형 AI를 점점 더 많이 활용하고 있다고도 언급했다 ^[30]. 앞선 연준 발언도 기술이 발전하고 금융 시스템의 연결성이 높아질수록 사이버 위협이 더 파괴적이 될 수 있으며, 사이버 사고가 더 넓은 시스템 효과를 낳을 수 있다고 경고했다 ^[28].

시장 스트레스 상황에서는 신뢰와 검증이 핵심이다. AI가 만든 가짜 음성, 허위 지시, 위조 신원, 조작된 커뮤니케이션이 모든 자산 가격을 직접 움직일 필요는 없다. 이미 빠르게 정보를 처리해야 하는 순간에 인증, 결제, 내부 커뮤니케이션, 고객 신뢰를 흔드는 것만으로도 불안은 커질 수 있다 ^[28][30].

3. AI가 의사결정 자체에 들어올 때

생성형 AI와 금융안정에 관한 연준 직원 논문은 사람들이 정보 수집과 의사결정에서 AI에 점점 더 의존하고 있으며, AI가 보조 조종사처럼 쓰이거나 더 자율적인 시스템으로 쓰일 수 있다고 설명한다 ^[1]. AI 출력이 거래, 유동성 관리, 위험 평가, 은행 운영에 들어가면 모델 오류는 보고서 속 숫자로 끝나지 않는다. 실제 행동을 통해 시장과 금융회사 운영으로 전달될 수 있다 ^[1][4].

시장 충격은 어떻게 증폭될 수 있나

가능한 경로는 복잡해 보이지만 구조는 비교적 단순하다.

1. 충격이 발생한다. 가격이 하락하고 변동성이 커지거나, 불안한 정보가 퍼지거나, 핵심 공급자에서 사이버 사고가 발생한다. 여러 금융기관은 이 충격을 비슷한 AI 도구, 데이터 출처, 외부 벤더를 통해 처리한다 ^[4][19][20].

2. AI 기반 대응이 한 방향으로 모인다. 위험관리 시스템은 노출 축소, 유사 자산 매도, 유동성 확보, 시장조성 축소를 권고할 수 있다. 금융안정 문헌은 안전장치 없는 광범위한 AI 사용이 군집 행동과 상관관계 상승을 부추길 수 있다고 본다 ^[6].

3. 되먹임 고리가 빨라진다. 매도와 유동성 후퇴는 가격을 더 끌어내리고, 하락한 가격은 다시 다음 위험 신호의 입력값이 된다. 정책 분석은 AI가 잘못된 방향의 위험을 증폭하고 금융위기의 속도를 높일 수 있다고 경고했다 ^[10].

4. 공통 인프라가 전파 통로가 된다. ECB는 집중된 AI 공급자가 운영·사이버 위험을 시스템 리스크로 만들 수 있다고 봤고, 연준 연구는 제3자 서비스 제공업체를 금융 시스템의 사이버 단층선으로 지목했다 ^[4][20].

5. 가장 나쁜 순간에 신뢰가 약해진다. 딥페이크, AI 지원 사기, 사이버 공격은 기업·고객·거래상대방이 신뢰할 수 있는 정보를 가장 필요로 하는 순간 인증과 신뢰를 흔들 수 있다 ^[28][30].

위험을 줄이려면 무엇이 필요한가

대응책은 위험 경로에서 나온다. 금융회사와 감독당국은 개별 AI 모델만 들여다볼 것이 아니라, 금융권 전체가 어디에서 같은 AI 공급자와 데이터, 클라우드, 외부 서비스에 의존하는지 파악해야 한다. 공급자 집중은 개별 회사의 기술 선택을 시스템 취약성으로 바꿀 수 있기 때문이다 ^[4][5][19].

또 AI 시스템은 평상시 성능만이 아니라 스트레스 상황에서 시험돼야 한다. 특히 데이터 품질, 모델 설계, 배포 방식이 AI 출력을 단순 참고 정보로 남길지 자동 행동으로 바꿀지를 결정하는 영역에서는 더 엄격한 검증이 필요하다 ^[4].

사이버 복원력과 제3자 리스크 관리도 핵심이다. 연준의 사이버보안 보고서는 감독 정책과 검사 절차가 IT 리스크 관리, 사이버보안, 운영 복원력, 제3자 리스크 관리를 다룬다고 설명한다 ^[21]. ECB의 분석도 같은 논리를 따른다. 한 기관 내부에서는 관리 가능한 도구처럼 보여도, 많은 기관이 같은 방식으로 쓰거나 같은 공급자에 기대면 금융 시스템 전체의 취약성이 될 수 있다 ^[4].

결론: 빠르고 똑똑한 시스템일수록 같이 흔들릴 수 있다

ECB와 연준은 AI를 ‘확정된 위기 방아쇠’로 보지 않는다. 이들이 말하는 위험은 AI 도입이 넓게 확산되고, 공급자가 집중되고, 모델 검증이 어려워지고, 많은 기관이 같은 신호에 빠른 속도로 반응할 때 커진다 ^[4][17][19].

AI의 장점은 속도, 규모, 최적화다. 하지만 시장 충격의 순간에는 바로 그 장점이 약점이 될 수 있다. 개별 회사에는 빠른 대응이지만, 시스템 전체로는 동시 매도, 유동성 감소, 사이버 교란, 신뢰 약화가 더 빨리 번지는 경로가 될 수 있다 ^[6][20][30].