“AI 군비 경쟁 멈춰라” 교황, 첫 AI 회칙 발표에 AI 기업 공동 창립자 무대 세운 이유

이 문서는 단순한 신학적 성찰을 넘어, 현실 정치와 산업계를 향한 구체적인 행동 지침을 담고 있다.

“AI를 ‘무장 해제’하고 인간 친화적으로 만들어야”

마그니피카 후마니타스는 조심스러운 우려가 아닌, 현재 AI 개발의 방향성에 정면으로 반대하는 선언문의 성격을 띤다. 교황은 AI가 더 크고 강력한 모델을 향한 경쟁 속에서 비인간화 도구로 전락하는 현실을 강력히 비판하며, 다음과 같은 핵심 요구 사항을 제시했다 .

1. AI 군비 경쟁 중단
교황은 AI가 **“무장 해제(disarmed)”**되고 **“인간 친화적(human-friendly)”**이어야 한다고 촉구하며, 지정학적·상업적 우위를 위한 **“더 강력한 알고리즘과 더 큰 데이터셋을 향한 경쟁”**을 경고했다 . 이는 기술 발전 자체가 아니라 **‘군비 경쟁’**이라는 틀로 AI 개발을 바라보게 한다는 점에서 강력한 인식의 전환을 요구한다.

2. 이윤이 아닌 공동선을 위한 규제
교황은 시장 논리만으로 AI의 방향을 맡겨서는 안 된다고 분명히 했다. AI 개발자들은 이윤이 아닌 **공동선(common good)**을 위해 일해야 하며, 이를 뒷받침할 강력한 법적·제도적 규제 체계가 필요하다고 주장했다 .

3. 자율 살상 무기 금지
가장 구체적인 요구 중 하나는 **치명적 자율 무기 시스템(lethal autonomous weapons systems)**의 금지다. 교황은 되돌릴 수 없는 생사 결정을 AI 시스템에 맡기는 것은 도덕적으로 용납될 수 없다고 명시했다 .

4. 노동자 보호와 ‘새로운 형태의 노예제’ 경고
회칙은 AI가 노동자를 착취하거나 적절한 전환 없이 인간 노동을 대체해서는 안 된다고 강조한다. 특히 콘텐츠 중재자나 광부 등 AI 산업 뒤편에 숨은 이른바 **“새로운 형태의 노예제”**의 존재를 지적했다 . 여기에는 자본주의 초기 노동 문제에 적극적으로 개입했던 가톨릭 사회 교리의 오랜 전통이 담겨 있다.

5. '권력의 문화'와 바벨탑의 오만 거부
레오 14세는 AI를 그 자체로 목적시하는 기술 만능주의적 사고방식을 ‘권력의 문화(culture of power)’라고 비판하며, 하느님을 배제한 AI 미래를 쌓는 시도를 구약성경의 바벨탑에 비유했다 . 회칙의 제3장 ‘기술과 지배’는 이런 문제의식을 구체화하고, AI 개발 과정 전반에 걸친 명확한 책임 소재의 필요성을 역설한다 .

더불어 바티칸은 2026년 5월 16일, 이 회칙 발표를 앞두고 교황청 내 AI 관련 활동을 조율하고 정책을 수립할 새로운 AI 위원회를 설립하며 제도적 의지를 강화했다 .

크리스토퍼 올라의 연설: 안전과 겸손, 그리고 도덕적 협력

이날 일반 연사 자격으로 참석한 크리스토퍼 올라의 정확한 발언 전문은 공개되지 않았지만, 현장 취재 및 사전 보도 내용을 통해 그의 핵심 메시지를 재구성할 수 있다 .

그는 AI 개발을 단순한 기술적 난제가 아니라 인간 존엄성에 달린 공동의 도덕적 과제로 규정했다. 특히 올라는 AI 연구자들이 모든 답을 가지고 있지 않음을 인정하고, 가톨릭 사회 교리 같은 외부의 윤리적 틀과 진지하게 협력해야 한다는 **겸손(humility)**을 강조했다 . 또한 안전을 최우선으로 하는 개발을 촉구하며, 산업계가 무분별한 경쟁보다 인류의 복지를 우선시해야 한다고 역설했다 .

교황 회칙 발표 무대에 현직 AI 기업 경영진이 공동 발표자로 나선 것은 이번이 처음이다 . 이러한 상징성은 앤트로픽이 가톨릭 교회를 AI 안전 규범을 옹호하는 데 있어 가치 있는 동맹으로 간주하고 있음을 시사한다 .

성공적인 전략: 종교 기관과의 ‘밀월’

이번 5월 25일 이벤트가 단순한 즉흥 포토이벤트는 아니었다. 이는 AI 안전성에 대한 대화의 장을 기술 업계 너머로 확장하려는 앤트로픽의 오랜 전략이 공개적으로 결실을 맺은 순간이다.

앤트로픽은 5월 19일 보도 자료를 통해, 지난 수개월 동안 바티칸 관리들, 신학자, 윤리학자들과 AI의 위험성과 도덕적 차원을 이해하기 위한 비공개 대화를 조직해왔다고 밝혔다 . 이들은 첫 번째 라운드에서 15개 이상의 종교 및 문화 간 그룹과 논의했다고 전했다 .

더욱 흥미로운 점은 이번 바티칸 행사 몇 달 전, 앤트로픽은 한 가톨릭 사제 및 신앙 지도자들과 협력하여 자사의 AI 챗봇 **‘클로드(Claude)’**의 행동 원칙인 **‘클로드 헌법(Claude Constitution)’**을 직접 작성했다는 사실이다 . 당시 이 작업을 시작한 것도 다름 아닌 크리스토퍼 올라였다. 이는 AI가 **“도움이 되고, 정직하며, 해롭지 않아야 한다”**는 앤트로픽의 창립 미션이 인간 존엄성을 중시하는 바티칸의 가르침과 자연스럽게 맞닿아 있음을 보여준다 .

올라의 바티칸 방문은 단일 국가의 규제 당국이나 기술 컨소시엄이 따라올 수 없는 글로벌한 도덕적 권위를 지닌 교회가, AI 규제를 논의하는 진지한 제도적 파트너라는 점을 앤트로픽이 깊이 인식하고 있음을 보여준다 . 그리고 교황청이 올라를 공동 발표자로 초청한 것은 그 전략에 대한 가장 강력한 공식 인증이었다.

AI 발전이 더욱 가속화되는 현실에서, 마그니피카 후마니타스와 그 역사적 발표 현장은 ‘기술은 지배하는 것이 아니라 인간을 섬겨야 한다’는 분명한 요구다. 그리고 앤트로픽이 교황과 함께 그 요구의 최전선에 선 것은, 이 글로벌 논쟁에서 그들이 어떤 편에 서고 싶은지를 확실히 보여주는 신호탄이다.