AI는 누구를 위해 발전해야 하나…교황 레오 14세가 경고하는 위험

인공지능(AI)은 이제 일자리와 사회관계뿐 아니라 전쟁의 양상에도 영향을 미칠 수 있는 기술이다. 교황 레오 14세가 AI를 교황직의 주요 의제로 삼은 이유도 여기에 있다. 기술 발전을 막자는 뜻이 아니라, 빠른 개발 속도에 인간의 판단과 안전장치가 뒤처지지 않도록 하고 AI가 인간의 존엄과 공동선을 위해 쓰이게 해야 한다는 주장이다.19

레오 14세는 첫 회칙인 Magnifica Humanitas에서 AI가 인간관계와 비판적 사고를 약화하고 불평등을 심화할 위험을 짚었다. 기술 발전의 가치 자체를 부정하기보다는, 누구를 위해 어떤 원칙으로 개발하고 활용할 것인지가 중요하다는 취지다.916

허위정보와 사회 분열, 평화에 미칠 영향

교황이 지적하는 위험은 전쟁에만 국한되지 않는다. AI가 허위정보를 퍼뜨리고 불평등과 사회적 분열을 키우며, 협력보다 갈등을 부추길 수 있다고 경고해 왔다.45 지난 9월에는 사회를 갈라놓는 대신 사람들을 잇고 평화 증진에 기여하는 AI 시스템을 개발해야 한다고 촉구했다.2

가장 우려하는 지점은 전쟁과 인간의 통제

특히 우려가 큰 분야는 무기다. 인간의 통제가 줄어든 채 작동하는 자율무기는 누가 결정하고 책임지는지 불분명하게 만들 수 있다. 레오 14세는 일부 자율무기 시스템이 사실상 인간이 통제하기 어려운 수준에 이르렀다고 우려했고, AI 군비 경쟁이 지속적인 전쟁으로 이어질 가능성도 경고했다.46

왜 국제 규칙과 공조를 강조하나

레오 14세는 개발자와 기업의 자율 판단에만 맡기지 말고, 정부가 강력한 공적 규제와 감독 체계를 마련해야 한다고 주장한다.5 교황청은 미국의 주요 AI 기업들이 2026년 9월 유엔 안전보장이사회에서 AI의 재앙적 위험을 경고하기 전부터 관련 위험을 제기해 왔다.1 교황의 촉구는 이런 기존 경고와 윤리적 논의를 이어가면서, 기술이 사회와 평화에 미치는 영향을 국제적으로 다뤄야 한다는 입장이다.9

교황청 국무원장 피에트로 파롤린 추기경도 각국이 혼자 대응하려 해서는 안 된다며 공통 규칙을 위한 협력을 강조했다. AI 업계에서 규제 필요성을 언급하는 목소리가 나온 데 대해서는, 그 논의가 윤리적 성찰에 기반하기를 바란다고 밝혔다. 미국 가톨릭 주교단의 AI 태스크포스와 업계 전문가들의 대화도 이어지고 있다. 주교 약 30명은 기술기업 4곳의 전문가 7명과 비공개 회의를 열었다.

이처럼 교황의 접근은 교회와 기업의 대화를 배제하지 않는다. 다만 업계와의 논의가 정부의 책임 있는 감독과 국제 공조를 대신할 수는 없다는 점을 분명히 한다. 레오 14세가 던지는 핵심 질문은 결국 AI가 얼마나 강력해질 수 있느냐가 아니라, 그 힘을 누가 통제하고 누구의 이익을 위해 쓰느냐는 것이다.15