유럽 규제 당국, 자율 AI 에이전트가 금융 시스템 위협…'킬 스위치' 도입 제안

2026년 6월 마지막 주, 유럽의 금융 규제 기관과 중앙은행 총재들이 ECB 포럼과 기타 회의장에서 자율 AI 에이전트를 시스템적 금융 안정성 위협으로 지목하고, 규제 체계의 전면적인 재설계를 촉구하는 경고를 일제히 발표했습니다. 이들이 제안한 새로운 안전 장치에는 맞춤형 규칙, 시장 전체의 '킬 스위치', 연쇄 붕괴를 막기 위한 복구 메커니즘 강화 등이 포함되어 있습니다.

BOE 부총재 사라 브리든(Sarah Breeden), '시장 붕괴' 경고 (2026년 6월 30일)

포르투갈 신트라에서 열린 ECB 중앙은행 포럼에서 연설한 영국 중앙은행(Bank of England) 부총재 사라 브리든은 자율 AI 에이전트가 금융 시장에서 "스트레스 상황에서 변동성을 증폭시킬 수 있다"고 경고했습니다. 특히 모든 AI 에이전트가 동일한 신호에 동일하게 반응할 경우 연쇄 반응을 촉발해 전체 시장을 불안정하게 만들 수 있다고 지적했습니다 .

브리든 부총재는 에이전틱 AI(Agentic AI)를 가장 시급한 금융 안정성 문제로 지목하면서, 이러한 시스템의 사이버 위험 시계가 "몇 년이 아닌 몇 달 단위로 측정된다"고 강조했습니다 . 기존 규제 체계만으로 충분하다는 입장을 고수해온 영국 중앙은행은 이번 발언을 통해 에이전틱 시스템의 위험을 통제하기 위한 맞춤형 AI 규제의 필요성을 시사하며 큰 입장 변화를 보였습니다 . 브리든 부총재는 현재의 기술 중립적 규제는 "자율적으로 작동할 수 있는 시스템을 위해 설계되지 않았다"고 밝혔습니다 .

특히, 현재 검토 중인 구체적인 안전 장치로는 에이전틱 AI를 위한 새로운 보호 장치, 연쇄 붕괴 상황 발생 시 모든 AI 거래를 중단시키는 시장 전체의 킬 스위치, 그리고 AI로 인한 혼란 이후 질서 있는 시장 기능을 회복하기 위한 복구 메커니즘 강화 등이 포함되어 있습니다 .

FCA 청장 니킬 라티(Nikhil Rathi), "입법이 절대 따라잡지 못할 것" (2026년 6월 24일)

런던에서 열린 techUK의 '변화의 주체(Agents of Change)' 컨퍼런스에서 연설한 영국 금융행위감독청(FCA) 청장 니킬 라티는 "기술이 많은 규제 패러다임보다 훨씬 빠르게 움직이고 있다. 입법은 절대 따라잡지 못할 것"이라며 급변하는 기술 시대에 전통적인 규칙 제정 주기는 "작동하지 않는다"고 선언했습니다 .

라티 청장은 규제 방식을 처방적인 규칙 제정에서 '관리(Stewardship)'와 보다 결과 기반의 시스템 전반적인 접근 방식으로 전환해야 한다고 촉구했습니다. FCA는 AI가 실험 단계에서 본격적인 도입 단계로 전환됨에 따라 금융 감독 방식을 재검토하고 있습니다 . 주목할 점은, FCA가 에이전틱 AI를 자체적인 '최초 대응자(First Responder)'로 활용해 도매 시장을 모니터링하는 방안을 모색 중이며, "하루에 수십억 개의 데이터 행"을 시장 감시에 활용하는 것을 검토하고 있다는 것입니다 . 라티 청장은 에이전틱 시스템이 확장됨에 따라 경쟁 역학과 시스템 전반의 복원력이 감독의 핵심 초점이 될 것이라고 밝혔습니다 .

ECB 총재 크리스틴 라가르드(Christine Lagarde), AI가 "위험한 금융 위기 초래 가능" (2026년 6월 17일)

ECB 총재 크리스틴 라가르드는 AI가 "잠재적으로 위험한 금융 위기를 초래할 수 있다"고 경고하면서, "우리는 건전한 규제가 있더라도 인공지능을 멈출 수는 없다. 우리가 할 수 있는 것은 AI가 금융 위기를 발생시키는 것을 막는 것"이라고 말했습니다 . 라가르드 총재는 ECB가 "이러한 일이 발생하지 않도록 하기 위해 단호히 대처할 것"이라고 선언했습니다 .

라가르드 총재는 6월 29일부터 7월 1일까지 신트라에서 ECB 중앙은행 포럼을 주최했으며, '인공지능과 금융 안정성'이라는 제목의 전용 패널을 이자벨 슈나벨(Isabel Schnabel) 의장 주재로 구성해 AI 안정성 위험을 중앙은행 의제의 중심에 직접적으로 배치했습니다 .

유럽 규제 기관의 광범위한 공감대

여러 유럽 최고 은행가와 규제 기관들은 "AI가 규칙을 앞지르고 있다"고 공동으로 경고했습니다. 라티, 브리든 등은 모두 규제 체계가 근본적으로 재고되어야 한다는 데 의견을 모았습니다 .

제안된 새로운 안전 장치

2026년 6월 말에 논의된 안전 장치 패키지는 다음과 같습니다:

• 맞춤형 AI 규제(Bespoke AI regulation): 기술 중립적 프레임워크에서 벗어나 에이전틱 및 자율 시스템을 위해 특별히 설계된 규칙으로 전환 .
• 시장 전체 킬 스위치(Market-wide kill switches): 연쇄 붕괴 상황 발생 시 모든 AI 거래나 에이전트 활동을 중단시키는 메커니즘 .
• 강화된 복구 메커니즘(Enhanced recovery mechanisms): AI로 인한 혼란 이후 질서 있는 시장 기능을 복원하기 위한 도구 .
• 에이전틱 AI를 위한 새로운 보호 장치(Fresh guardrails for agentic AI): 금융 시장 내 자율 의사 결정에 대한 새로운 경계 설정 .
• 결과 기반 감독(Outcomes-based supervision): FCA가 사례별 규칙 집행이 아닌 관리(Stewardship)와 시스템 전반의 복원력 모니터링으로 전환 .

금융안정위원회(FSB), 금융 분야 AI 에이전트에 대한 강력한 통제 촉구 (2026년 6월 10일)

금융안정위원회(FSB)는 '인공지능 책임 도입을 위한 모범 관행(Sound Practices for Responsible Adoption of Artificial Intelligence)'이라는 협의 보고서를 발표했습니다 . FSB는 국가들이 금융 분야의 자율 AI 에이전트에 대해 더 엄격한 통제를 시행할 것을 '강력하게' 권고했습니다. 보고서는 점점 더 자율화되는 시스템의 부상이 금융 부문의 위험을 증가시킬 수 있다고 경고하며, AI 도입이 가속화됨에 따라 새로운 규제 조치가 필요하다고 촉구했습니다 .

FSB는 은행들이 더 많은 자율 에이전트를 도입함에 따라 "하나하나의 결정을 검토하는 것은 더 이상 실현 가능하지 않다"고 인정하며, AI에 대한 인간의 감독이 "확장되지 않는다(doesn't scale)"는 점을 시인했습니다 . FSB는 책임 있는 AI 도입을 위한 12가지 모범 관행을 제시했습니다 . 특히, FSB는 금융 시장 참여자들 사이의 광범위한 AI 사용이 '동물적 감정(Animal Spirits)'에 의해 주도되는 금융 변동성을 완화하기보다는 오히려 악화시킬 수 있다는 우려를 표명했습니다 .

역사적 금융 광기(Financial Manias)와의 유사점

2026년 6월 말 기사 중 1840년대 영국 철도 광풍(Railway Mania)이나 닷컴 버블(Dotcom Bust)과 직접적인 유사점을 그린 기사는 발견되지 않았지만, 연방준비제도(Federal Reserve)의 실무 논문(2026년 6월 24일)은 생성형 AI의 금융 안정성 영향에 대해 AI가 "취약성 축적을 완화하는 대신, 동물적 감정에 의해 주도되는 금융 변동성을 오히려 악화시킬 수 있다"고 지적했습니다. 이는 역사적 광풍과 관련된 행동 경제학 개념을 직접적으로 인용한 것입니다 . 연준 논문에서 언급된 FSB의 2024년 보고서도 광범위한 AI 사용이 금융 시장에서 무리 짓기(Herding Behavior) 현상을 증폭시킬 수 있다는 문제를 제기했습니다 .

ECB 자체 연구(2026년 5월)에 따르면 강화 학습 AI 알고리즘은 "높은 수준의 조정을 달성했지만, 극단적인 뱅크런(bank run)과 유사한 역학에 취약"한 것으로 나타났으며, 이는 역사적 금융 위기에서 볼 수 있는 무리 짓기 및 연쇄 붕괴 패턴을 반영합니다 .