앤트로픽과 바티칸의 AI 공동 경고: 왜 ‘프런티어 AI 개발’의 글로벌 중단이 시급한가

세계 주요 AI 기업들 사이에서도 더욱 강력한 시스템 개발 경쟁이 치열해지고 있습니다. 그러나 이 속도에 제동을 걸자는 이례적인 연대가 등장했습니다. AI 연구소 앤트로픽(Anthropic)과 가톨릭 교회가 그 주인공입니다.

2026년 6월 4일, 챗봇 '클로드'를 만든 앤트로픽은 **'When AI builds itself'(AI가 스스로를 만들 때)**라는 보고서를 통해 프런티어(frontier) AI 개발의 전 세계적인 중단 또는 의미 있는 속도 조절을 제안했습니다 . 이 경고의 핵심에는 재귀적 자기 개선(recursive self-improvement) 시나리오가 있습니다. 이는 인공지능 시스템이 스스로 더 뛰어난 후속 버전을 자율적으로 설계하고, 구축하고, 훈련시키는 단계를 말합니다. 이 시점에 도달하면 AI는 인간의 감독을 벗어날 수 있습니다 .

불과 열흘 전인 2026년 5월 25일, 교황 레오 14세(Pope Leo XIV)는 첫 번째 교황 회칙(encyclical)인 **'마그니피카 후마니타스'(Magnifica Humanitas, '웅장한 인간성')**를 발표했습니다. 이는 인공지능(AI)에 전적으로 헌정된 역사상 최초의 교황 교리 문서입니다 .

이 두 기관은 기술 및 안전 연구에 뿌리를 둔 앤트로픽과 신학 및 도덕 철학에 기반한 교회라는 전혀 다른 배경을 가지고 있습니다. 하지만 그들의 핵심 메시지는 놀랍도록 유사합니다. 즉, 프런티어 AI는 거버넌스(governance)와 윤리가 따라잡을 수 있는 속도보다 빠르게 발전하고 있으며, 인류를 보호하기 위해 '멈춤'이 필요하다는 것입니다 .

앤트로픽의 경고: 재귀적 자기 개선의 위험성

앤트로픽의 보고서(연구원 마리나 파바로, 잭 클라크 작성)는 AI 역량이 얼마나 빠르게 가속화되고 있는지 단적으로 보여줍니다. 회사 측에 따르면 2026년 5월 기준으로, 앤트로픽 코드베이스에 병합된 코드의 80% 이상을 클로드가 작성했으며, 평균 엔지니어는 2024년과 비교해 하루에 약 8배 더 많은 코드를 병합하고 있습니다 . 저자들은 이러한 궤적이 곧 재귀적 자기 개선으로 이어질 수 있다고 경고합니다 .

앤트로픽은 아직 그 지점에 도달하지 않았으며 결과가 불가피한 것은 아니라고 강조하면서도, **"대부분의 기관이 준비할 시간보다 더 빨리 도래할 수 있다"**는 냉철한 조건을 덧붙였습니다 .

핵심 우려 사항

• 인간 감독의 상실. 앤트로픽의 가장 큰 우려는 AI 발전이 기존 안전 및 거버넌스 프레임워크를 앞지르면서, 인간의 감독이 기술 발전의 주요 제약 조건이 될 수 있다는 점입니다 . 회사는 개발이 통제되지 않으면 인류가 통제권을 완전히 상실할 위험이 있다고 경고합니다 .
• 업계의 '브레이크 페달'. 앤트로픽은 자사 제안을 업계를 위한 **'브레이크 페달'**을 만드는 것으로 비유했습니다. 이는 사회 구조와 정렬 연구(alignment research)가 기술 발전 속도를 따라잡을 수 있도록 속도를 늦추거나 일시적으로 중단할 수 있는 선택권을 의미합니다 . 클라크는 BBC 뉴스나이트와의 인터뷰에서 **"가속 페달에서 발을 떼고 브레이크를 밟을 수 있는 옵션이 필요하다"**고 말했습니다 .
• 조건부 중단, 일방적이지 않음. 앤트로픽은 다른 주요 개발사들이 동참하고 준수 여부를 독립적으로 확인할 수 있는 경우에만 중단을 지지할 것이라고 밝혔습니다 . 만약 속도 조절이 덜 신중한 기업들이 따라잡을 기회만 제공한다면, 궁극적으로 모든 사람의 안전을 위협할 수 있다는 점을 지적했습니다 .
• 정책 입안자와의 협력. 한편, 앤트로픽은 고급 AI의 위험성을 논의하기 위해 정책 입안자들을 소집할 계획이라고 발표했습니다 .

바티칸의 '마그니피카 후마니타스': AI를 위한 도덕적 프레임워크

2026년 5월 25일에 발표된 '마그니피카 후마니타스'는 약 43,000 단어 분량으로 **"인공지능 시대의 인간 인격 수호"**에 초점을 맞추고 있습니다 . 이 문서는 레오 13세가 1891년에 발표한 회칙 '레룸 노바룸(Rerum Novarum, 산업 노동 문제를 다룸)'을 명시적으로 업데이트하여, 그 논리를 디지털 플랫폼, 알고리즘, 자동화, 데이터 집중 현상에 적용하고 있습니다 .

앤트로픽 경고와의 주요 일치점

• 강력한 규제 촉구. 교황은 AI에 대한 엄격한 감독을 촉구하며, 빅테크와 그 지도자들이 이익을 위해 남용할 수 있는 권력을 축적할 수 있다고 경고했습니다 . 교황 레오는 AI 제공자들이 자신들의 행동에 대한 윤리를 고려해야 한다고 주장하며, **"AI가 인간의 존엄성을 존중하고 진정으로 공동선에 기여하려면 강력한 규제가 필요하다"**고 선언했습니다 .
• 통제되지 않은 자율성에 대한 경고. 이 회칙은 AI 기업들이 **'새로운 바벨탑'**을 쌓는 것을 경계했습니다. 이는 AI 시스템이 인간의 통제를 벗어나는 것에 대한 앤트로픽의 우려와 도덕적으로 평행선을 이루는 지점입니다 . 이 문서는 신을 배제한 AI 미래를 구축하려는 시도를 인간의 오만에 대한 성서적 이야기인 바벨탑에 비유했습니다 .
• 인간 존엄성, 최우선 기준. '마그니피카 후마니타스'는 AI가 경쟁적 가속화만이 아니라 공동선과 인간의 번영을 위해 봉사해야 한다고 주장합니다 . 회칙의 핵심 문장 중 하나는 다음과 같습니다. "인공지능은 이제 무장 해제되어야 하며, 통제, 배제, 파괴의 도구로 변모시키는 프레임워크에서 해방되어야 한다" .
• 느린 속도에 대한 촉구. 교황 레오는 **"신중함, 엄격한 평가, 때로는 AI 도입에 있어 느린 속도를 요구하는 것이 진보를 반대하는 것이 아니라, 인류 가족에 대한 책임 있는 돌봄의 행사"**라고 강조했습니다 .

앤트로픽과 바티칸의 직접적인 협력

두 기관의 일치는 단순히 평행선을 그리는 경고에 그치지 않습니다. 2026년 5월 25일 바티칸에서 열린 '마그니피카 후마니타스' 발표 행사에 앤트로픽의 공동 창업자 크리스 올라(Chris Olah)가 참석했습니다. 이는 AI 연구소와 교황청 사이의 독특하고 이례적인 협력 관계를 보여주는 사건이었습니다 . 이 등장은 양측이 인공지능에 대한 더 강력한 도덕적 감시를 촉구하면서 형성된 드문 동맹을 의미했습니다 .

양측 간의 연결 고리는 이미 존재했습니다. 앤트로픽은 자사 AI 모델을 안내하는 23,000 단어 분량의 윤리 프레임워크인 **'클로드 헌법(Claude Constitution)'**을 개발하는 과정에서 가톨릭 사상가들의 자문을 구한 바 있습니다 . 전직 실리콘밸리 임원이자 사제인 브랜든 맥과이어 신부는 이 헌법을 만드는 데 기여했으며, '마그니피카 후마니타스'가 교회와 기술 업계 간의 더 깊은 대화를 위한 문을 열었다고 평가했습니다 .

회칙 발표 후 약 2주도 채 되지 않아, 가톨릭 AI 전문가들은 앤트로픽의 중단 제안을 공개적으로 지지했습니다. 그들은 이것이 교황 레오 14세의 최근 우려를 반영하며, 빠른 개발 속도에 맞춰 가치관을 점검한 회사를 칭찬했습니다 . 또한, 가톨릭 도덕 신학자들은 이전에 앤트로픽이 자사 AI 시스템을 대규모 감시나 자율 무기에 사용하는 것을 거부한 펜타곤 분쟁에서 앤트로픽을 지지하는 의견서(amicus brief)를 제출하기도 했습니다 .

공유된 명제와 상호 보완적 강점

앤트로픽과 바티칸은 하나의 중심 명제로 수렴합니다. 프런티어 AI 개발은 거버넌스와 윤리가 적응할 수 있는 속도보다 빠르게 가속화되고 있으며, 인간의 감독, 존엄성, 공동선을 보존하기 위해서는 의도적인 중단 또는 속도 조절이 필요하다는 것입니다. 교회의 기여는 인간 존엄성, 공동선, 취약 계층 보호에 뿌리를 둔 강력한 도덕적, 신학적 프레임워크를 더함으로써 앤트로픽의 기술 및 안전 중심적 추론을 보완합니다 .

한 관찰자의 지적처럼, 두 기관은 **"사회가 빠른 기술 발전 속도를 따라잡기 위해 어려움을 겪을 수 있다"**며, 속도 조절이 **"아마도 좋은 일"**이 될 것이라고 주장합니다. 단, 이러한 조정이 조율되고 검증 가능해야 하며, 덜 신중한 경쟁자들이 따라잡기 위한 도구가 되어서는 안 된다는 전제가 따릅니다 .