교황 레오 14세의 AI 경고…기계는 반드시 인간의 통제 아래 있어야 한다

교황 레오 14세의 최근 AI 관련 발언은 기술 자체를 거부하자는 주장이 아니다. 핵심은 누가 AI를 통제하는가, 그리고 인간의 책임과 판단을 기계에 넘겼을 때 어떤 일이 벌어지는가에 있다.

그는 8월 21일 국제 가톨릭 입법자 네트워크에서, 8월 28일에는 국제행정과학회 회원들 앞에서 AI가 공동선을 위한 도구로 남아야 한다고 강조했다. AI의 방향은 속도와 이윤, 불투명한 시스템이 아니라 인간의 지성·양심·법에 의해 이끌려야 한다는 취지다.

이 두 연설은 그의 회칙 Magnifica Humanitas가 제시한 중심 원칙을 공공행정과 입법의 영역으로 확장한 것이다. 기술 발전은 그 자체로 평가받는 것이 아니라 인간의 존엄, 정의, 평화, 그리고 인간이 스스로 결정할 권리를 지키는지에 따라 판단해야 한다는 원칙이다. 16

“인류가 발명품의 희생자가 될 수 있다”

국제행정과학회 회원들을 만난 자리에서 레오 14세는 AI의 급속한 발전으로 인류가 스스로 만든 발명품의 “희생자가 될” 가능성을 경고했다. 특히 인간의 생명과 관련된 결정을 기계에 맡기는 상황을 문제로 지적했다.

그가 제시한 해법은 디지털 기술을 포기하는 것이 아니라 기술을 인간화하는 것이었다. 그는 공공행정 연구자들에게 디지털 시스템이 생명과 평화를 위해 작동할 수 있는 방법을 찾아달라고 요청하면서, 공공 의사결정의 중심에는 자동화된 절차가 아니라 사람이 있어야 한다고 강조했다.

이는 자동화에 분명한 한계를 설정한다. AI는 행정을 지원할 수 있지만, 사람의 권리와 복지, 존엄에 영향을 미치는 결정에서 인간의 판단과 책임, 도덕적 책무를 지워서는 안 된다는 뜻이다.

소수 기업에 집중되는 AI 권력

8월 21일 국제 가톨릭 입법자 네트워크 연설에서 레오 14세는 입법자들의 정치적 책임에 초점을 맞췄다. 당시 회의의 주제는 “인간의 존엄과 인공지능: 도전, 기회와 통제”였으며, 바티칸은 이를 우리 시대의 핵심 질문 가운데 하나로 소개했다.

그가 우려한 것은 AI 시스템의 단순한 오류만이 아니다. 첨단 기술과 그 활용 방향을 결정하는 힘이 소수의 거대 경제·기술 주체에게 집중될 수 있다는 점이다. 이러한 집중은 가난한 국가들이 부유한 국가에 더욱 의존하게 만들고, 이미 존재하는 불평등을 확대할 수 있다.

또한 레오 14세는 혁신이 “이념적 또는 경제적 식민주의”의 수단이 될 수 있다고 경고했다. 따라서 AI 거버넌스는 한 국가의 국내 규제에 그치지 않고 국제적 책임과 협력의 문제이기도 하다.

알고리즘이 만드는 ‘미묘한 지배’

레오 14세가 지적한 또 다른 위험은 알고리즘과 플랫폼이 직접 통치하는 것처럼 보이지 않으면서도 사회적 권력을 행사할 수 있다는 점이다. 알고리즘은 누가 보이고 누가 보이지 않을지를 결정할 수 있으며, 디지털 플랫폼은 충분한 책임성을 갖추지 않은 채 공론장을 형성할 수 있다. 자동화 시스템이 노동자의 존엄보다 최적화를 우선시할 가능성도 있다.

이는 단순한 기술적 편향의 문제보다 넓다. 누가 가시성과 참여, 기회의 규칙을 정하는지, 그리고 그 결정의 영향을 받은 사람들이 실질적으로 이의를 제기할 수 있는지가 핵심이다.

민간 시스템이 투명성 없이 여론 형성이나 일자리 접근에 영향을 미치면, 사회적 권력은 민주적 제도와 공적 감시의 영역에서 멀어질 수 있다.

왜 가족을 강조했나

레오 14세는 가족을 “인간다움의 첫 번째 학교”라고 부르며, AI가 가족의 역할을 약화시키지 않도록 입법자들이 보호해야 한다고 촉구했다.

사람은 신뢰와 책임, 관대함과 대화, 타인에 대한 배려를 관계 속에서 처음 배운다. 이러한 인간적 형성은 AI 시스템의 속도나 계산 능력으로 대체될 수 없다.

Magnifica Humanitas 역시 기계의 성능을 인간의 지성과 혼동해서는 안 된다고 경고한다. AI 시스템은 지성의 일부 기능을 모방하고 속도와 계산 능력에서는 인간을 앞설 수 있지만, 인간의 경험이나 신체성을 갖고 있지는 않다. 16

따라서 레오 14세에게 가족을 보호하는 일은 AI 정책의 일부다. 중요한 질문은 시스템이 얼마나 효율적인지만이 아니다. 그 시스템의 사용이 사람들이 자유와 책임, 연대의 의미를 배우는 관계와 제도를 뒷받침하는지도 함께 물어야 한다는 것이다.

입법자들에게 요구한 안전장치

레오 14세의 발언은 다음과 같은 인간 중심 AI 거버넌스의 방향을 제시한다.

• 기본권과 자유를 보호할 것. 기술 발전이 인간의 존엄을 희생시키지 않도록 법으로 보장해야 한다.
• 개인정보를 지킬 것. 이용자가 개인정보의 착취와 부적절한 사용으로부터 보호받아야 한다.
• 투명성을 요구할 것. 사람과 기관이 신기술이 어떻게 사용되는지, 중요한 결정이 어떤 방식으로 내려지는지 이해할 수 있어야 한다.
• 민주적 제도를 강화할 것. 디지털 시스템은 책임 있는 공공 거버넌스를 우회하는 대신 이를 뒷받침해야 한다.
• 책임을 인간에게 남겨둘 것. 인간의 생명과 존엄에 영향을 미치는 결정을 의미 있는 인간의 통제 없이 기계에 넘겨서는 안 된다.
• 지배와 과도한 권력 집중을 막을 것. 첨단 AI가 소수의 강력한 주체에 의해 통제될 때 생기는 위험을 거버넌스의 대상으로 삼아야 한다.

이러한 제안은 기술이 사회적으로 중립적이지 않다는 회칙의 더 넓은 주장과 맞닿아 있다. 기술은 참여와 정의를 촉진할 수도 있지만, 불평등과 통제, 배제를 강화할 수도 있다.

Magnifica Humanitas를 현실의 정책으로 옮기다

2026년 5월 발표된 Magnifica Humanitas는 AI 시대에 인간을 보호하는 데 초점을 둔 회칙이다. 회칙이 제시하는 핵심 기준은 기술이 인간을 위해 계속 작동하는지, 아니면 지배와 배제, 전쟁의 도구로 변하는지다. 회칙은 AI가 이러한 파괴적 논리에서 “무장 해제”되어야 한다고 촉구한다. 51016

8월의 두 연설은 이 원칙을 서로 다른 주체의 책임으로 구체화했다. 공공행정 담당자들은 디지털 시스템이 시민을 위해 작동하고 인간의 판단을 보존하도록 해야 한다. 입법자들은 권리와 개인정보, 투명성, 민주적 삶을 보호하는 규칙을 마련해야 한다. 연구자들은 디지털 기술이 생명과 평화를 위해 기능하도록 실질적인 방법을 찾아야 한다.

결국 레오 14세의 경고는 사후 대응이 아닌 예방에 가깝다. 불투명한 플랫폼과 집중된 권력, 자동화된 의사결정이 사회에 깊이 뿌리내려 민주적으로 문제를 제기하기 어려워지기 전에 인간 중심의 규칙을 세우자는 것이다.

그가 제시한 기준은 분명하다. AI는 공동선을 확대해야 하지만, 그 공동선을 정의하고 지켜야 할 인간을 대신해서는 안 된다.