유엔 인권최고대표 “AI 안전 자율약속으로는 턱없이 부족”…구속력 있는 국제 규범 촉구

유엔 인권최고대표인 폴커 튀르크는 성능이 계속 높아지는 AI 개발 경쟁에 기업 주도의 약속만으로 대응해서는 안 된다고 경고했다. 그는 공개서한에서 국제 인권법에 기반한 긴급한 다자 공조를 촉구하며, 기업의 자율규제는 “턱없이 부족하다”고 밝혔다. 7

튀르크가 각국 정부와 AI 기업에 요구한 것

튀르크의 서한은 최첨단 AI를 개발하는 기업과 국가 모두를 향한다. 여기서 최첨단 AI(frontier AI)란 현 시점에서 가장 높은 수준의 성능과 능력을 보이는 시스템을 뜻한다. 핵심은 소수 기업이 사회가 감수해야 할 위험의 범위를 사실상 단독으로 결정하게 둬서는 안 된다는 데 있다. 7

보도와 유엔 지침에서 강조된 조치는 다음과 같다.

• 구속력 있는 인권 기반 거버넌스: 정부는 기업의 자발적 약속에 의존하기보다 규제를 강화하고, 국가별 규제 공백이 생기지 않도록 국제적으로 협력해야 한다. 7
• 지속적인 인권 실사: AI 개발사는 시스템의 전 생애주기에 걸쳐 실제 또는 잠재적인 인권 영향을 찾아내고 대응해야 한다. 일회성 심사나 형식적 준수 절차로 끝낼 일이 아니다. 유엔의 AI 지침은 위험 식별, 대응 조치, 효과 추적, 외부 소통을 포함하는 지속적 과정으로 인권 실사를 설명한다.
• 독립적 기술 평가와 검증: 기업이 자체적으로 내놓는 안전 주장만 받아들이지 않고, 외부에서 확인 가능한 안전장치를 마련해야 한다는 요구다. 7
• 긴급한 다자 행동: 최첨단 AI 거버넌스는 한 국가만의 과제가 아니다. 규칙과 안전 보장은 여러 국가와 기관이 함께 마련해야 한다. 79

왜 지금 경고가 나왔나

튀르크의 개입은 AI 업계 내부에서 고도 자율성 또는 자기개선 가능성을 지닌 시스템으로 얼마나 빠르게 나아가야 하는지를 두고 논쟁이 커진 시점에 나왔다.

오픈AI와 앤트로픽에서 모두 일한 연구자 제이콥 콕슨은 2026년 9월 앤트로픽을 떠났다. 그는 두 회사가 자기개선형 초지능을 향해 질주하면서 “우리의 목숨을 걸고 도박하고 있다”고 비판했다. 68 콕슨은 AI를 만드는 일부 사람이 이 기술이 10년 안에 “우리 모두를 죽일 수 있다”고 진지하게 믿는다고도 말했다. 이는 콕슨과 우려를 제기한 개발자들의 경고이지, 확정된 예측은 아니다. 6

한편 직원 주도 이니셔티브인 **‘Pacing the Frontier’**는 미국 정부에 국제적 노력을 지원해 달라고 요청했다. AI 발전 속도가 인류가 안전하게 감독할 수 있는 능력을 앞지를 경우, 개발 속도를 의도적으로 늦추기 위한 기술·거버넌스 도구를 만들자는 취지다. 이 성명에는 최첨단 AI 기업 직원 1,386명이 서명한 것으로 사이트에 표시돼 있다. 15

이처럼 개발 속도 조절, 이른바 ‘페이싱(pacing)’에 대한 지지가 늘어나는 점은 주목할 만하다. 그러나 튀르크의 주장은 분명하다. 업계 관계자나 기업이 자발적으로 약속하더라도, 이를 집행할 수 있는 공적 안전장치를 대신할 수는 없다는 것이다. 7

현재의 피해와 장기 위험을 한 틀에서 봐야 한다

튀르크는 문제를 먼 미래의 인류 멸종 시나리오로만 한정하지 않았다. 그는 자율규제만으로는 이미 발생하는 피해에 대응하기에도, 고도 자율 모델이 인간의 안전장치를 우회하는 일을 막기에도 부족하다고 지적했다. 7

제공된 보도만으로는 서한이 특정한 현존 피해를 항목별로 열거했다고 보기 어렵다. 따라서 차별, 감시, 허위정보, 개인정보 침해 같은 개별 피해 유형을 튀르크의 서한이 직접 지목했다고 단정해서는 안 된다. 분명한 것은 AI의 설계·배포·평가·관리 전 과정에서 인권을 중심 기준으로 삼아야 한다는 그의 원칙이다. 7

업계의 속도 조절론과 정치권 규제 사이의 간극

AI 업계 일부 목소리와 유엔의 경고에는 접점이 있다. 역량 개발 속도를 의도적으로 조절할 필요가 있으며, 외부의 독립적 평가가 필요하다는 인식이다. 715

하지만 남은 과제는 정치적·제도적 책임성이다. 업계 성명은 협력을 독려할 수는 있어도, 공통의 위험 기준을 정하거나 정보 공개를 강제하고, 독립 평가를 의무화하며, 피해가 발생했을 때 구제와 책임을 보장하지는 못한다. 튀르크는 바로 이 공백을 국제 인권법 아래의 긴급한 다자 규제로 메워야 한다고 요구한다. 79

정책 입안자와 AI 도입 기업이 얻을 수 있는 실무적 메시지도 명확하다. 안전하다는 기업의 주장만 볼 것이 아니라, 지속적인 인권 위험 평가, 외부 검증, 그리고 문제가 생겼을 때 책임을 물을 수 있는 체계가 실제로 갖춰졌는지를 확인해야 한다.