데미스 허사비스의 2026년 구상: AI ‘일시정지 버튼’을 쥔 국제 감시기구

2026년 6월, 구글 딥마인드 CEO 데미스 허사비스는 인류에게 가장 강력한 AI 시스템을 감독하는 세계적 협력 체계에 대한 CEO 차원의 가장 구체적인 제안 중 하나를 내놓았습니다. 프랑스 에비앙레뱅에서 열린 G7 정상과 기술 기업 CEO 간 비공개 회의에서 허사비스는 최첨단 AI 모델을 사전 심사하고, 위험하다고 판단될 경우 배포를 일시 중지할 수 있는 권한을 가진 국제 기술 표준 기구의 창설을 제안했습니다^AN. 이 제안은 앤트로픽 CEO 다리오 아모데이와 공동으로 이루어졌으며, 아모데이는 별도로 민주주의 국가 연합이 첨단 AI 기술에 대한 접근을 통제하고 중국과 같은 '공동의 적'을 고립시켜야 한다고 주장했습니다^A.

핵심 아이디어는 허용할 수 없는 위험을 초래하는 모델의 출시를 중단할 수 있는 '사전 배포 심사 메커니즘'입니다. 이는 현재 AI 거버넌스를 지배하는 자발적 또는 자문적 프레임워크와는 달리 실질적인 권한을 가진 시스템을 의미합니다. 그러나 G7은 이 제안된 중단 메커니즘을 채택하지 않았으며, 트럼프의 행정명령부터 UN의 과학 패널에 이르기까지 AI 거버넌스 이니셔티브의 광범위한 지형은 여전히 분열되어 있고 대부분 자발적이어서, 과연 그러한 기구가 기존 국제 프레임워크를 보완할 것인지, 아니면 경쟁할 것인지에 대한 핵심 질문이 해결되지 않은 채 남아 있습니다^AG.

제안의 내용: '일시정지 버튼'을 가진 기술 표준 기구

허사비스는 제안된 기구를 '선도 연구소들이 지원하는 기술 표준 기구'라고 설명했습니다. 이는 대중에게 공개되기 전에 최첨단 AI 시스템에 대한 통일되고 권위 있는 평가를 제공함으로써 신뢰를 높이는 글로벌 감시 기구입니다^AN. 이 기구는 국제적이지만 미국이 주도하며, 새로운 위험이 명확해짐에 따라 분기마다 표준을 조정할 수 있습니다^N. 아모데이가 별도로 제안한 민주주의 국가 연합은 첨단 AI 기술에 대한 접근을 통제하고 '공동의 적'을 고립시키는 데 초점을 맞추고 있습니다^A. 브루킹스 연구소는 이 제안을 분석하며, 기업들의 목표는 국가 간 분산된 감독 문제를 해결하는 데 있으며, 단일 기술 기구가 이러한 분열을 해결할 수 있다고 지적했습니다^B.

에비앙 G7 정상회의: 실제로 일어난 일

제52차 G7 정상회의가 2026년 6월 16~17일 에비앙레뱅에서 열렸으며, 허사비스 제안의 즉각적인 무대가 되었습니다^ANI. 허사비스, 아모데이, 오픈AI CEO 샘 알트만, 프랑스 AI 기업 미스트랄의 대표들은 도널드 트럼프 대통령 및 다른 G7 정상들과 함께 '안전하고 빠르며 효율적인 AI 배포'에 관한 전용 업무 오찬에 자리했습니다^L. 한 링크드인 분석에 따르면, 이 자리는 'AI 거버넌스가 고차원적 원칙에서 정치적 권력, 산업 전략, 최첨단 모델 개발이 만나는 공간으로 이동했음을 확인시켜 줍니다'^L.

중요한 점은 G7이 허사비스가 제안한 일시정지 메커니즘을 채택하지 않았다는 것입니다. 대신, 정상회의는 9개의 선언문을 발표했으며, 여기에는 현재 수출 통제 하에 있는 첨단 미국 AI 모델에 대한 동맹국의 접근을 허용하는 '신뢰할 수 있는 파트너' 제도와 아동을 위한 안전한 디지털 공간 로드맵이 포함되었습니다^EA. G7 디지털 장관들은 이미 5월 29일에 AI 안전, 채택, 디지털 회복력에 관한 선언을 발표했지만, 강제 가능한 중단 권한은 포함되지 않았습니다^GE. 이러한 정치적 결과는 강제력 있는 글로벌 감시 기구에 대한 의지가 아직 존재하지 않음을 시사합니다^AGB.

허사비스의 지적 기반: 스탠포드 연설

G7 정상회의 전 몇 주 동안, 허사비스는 스탠포드 대학에서 두 차례의 주목할 만한 연설을 통해 자신이 이후 제안할 국제 감독 기구의 지적 기반을 마련했습니다^GS. 2026년 5월, 스탠포드 총장 조나단 레빈과의 대담에서 허사비스는 현재의 AI 시대를 '종(種) 수준의 전환'이라고 묘사하며 글로벌 협력을 촉구하고, 인류에게 향후 10년간 '오차를 허용할 여지가 거의 없다'고 경고했습니다^S. 6월 18일 스탠포드 GSB 행사에서는 우리가 '특이점의 언덕 기슭'에 있으며, AGI를 안전하게 구축하는 것이 우리 시대의 가장 중요한 도전 과제라고 강조했습니다^GS. 이 연설들은 2026년 내내 다보스, 구글 I/O, 인도 AI 임팩트 서밋 등에서 이어진 허사비스의 광범위한 공개 캠페인의 일부였습니다^IYBB.

트럼프, 6월 2일 행정명령: 자발적 전주곡

G7 정상회의 불과 2주 전인 6월 2일, 트럼프 대통령은 '고급 인공지능 혁신 및 안보 촉진'에 관한 행정명령 14409호에 서명했습니다^WN. 이 명령은 AI 개발자에게 새로운 최첨단 모델을 국가 안보 검토를 위해 자발적으로 연방 정부에 제출하도록 요청하며, 정부는 공개 전 최대 30일 동안 위험을 평가할 수 있습니다^WN. 이는 허사비스가 구상하는 강제력 있는 글로벌 메커니즘의 미국 내 전주곡에 불과하며, 의무 사항이 아닙니다. 백악관은 이를 완전한 방임적 접근에서 사전 예방적 위험 심사로의 전환으로 규정했습니다^N. 이 명령은 또한 연방 기관에 'AI 사이버보안 클리어링하우스'를 설립하고 AI 기반 사이버 공격에 대한 기존 형사법을 집행하도록 지시했습니다^SLU. 비평가들은 이 행정명령이 '연방 정부가 첨단 AI 제품에 대한 안전 평가 및 사이버보안 테스트를 수행하도록 의무화하는 데는 미치지 못한다'고 지적했습니다^U.

UN 독립 국제 AI 과학 패널

유엔은 IPCC를 모델로 한 자체 독립 국제 AI 과학 패널(IISP-AI)을 개발 중입니다. 이 패널은 AI 역량과 위험에 대한 권위 있는 과학적 평가를 제공하도록 설계된 과학 자문 기구로, 집행이나 중단 권한은 없습니다. 정책 결정에 정보를 제공하는 역할을 수행하지만 심사나 거부권을 행사하지는 않습니다. 허사비스의 제안과 UN 패널의 구분은 명확합니다. 하나는 과학적 합의를 위한 자문 패널이고, 다른 하나는 배포를 중단할 수 있는 운영 권한을 가진 기술 기구입니다. 포용적인 다자간 UN 패널과 집행 권한을 가진 미국 주도 기구 사이의 이러한 긴장은 거버넌스 논쟁의 중심에 있습니다.

해결되지 않은 핵심 논쟁: 보완인가, 경쟁인가?

현재 거버넌스 환경의 핵심에는 해결되지 않은 긴장이 존재합니다^AGB:

• 보완적 관점: 허사비스의 기구는 기존 국가 및 다자간 프레임워크 위에 위치하여, G7 신뢰할 수 있는 파트너 제도, EU AI 법, UN 과학 패널이 각각 참조할 수 있는 통일된 표준을 기술적 전문성을 바탕으로 제공할 수 있습니다. 브루킹스 연구소는 기업들의 제안이 국가 간 분산된 감독 문제를 해결하는 것을 목표로 했다고 지적합니다^B.

• 경쟁적 관점: 중단 권한을 가진 미국 주도 연합은 UN의 더 포용적이고 다자간 접근 방식을 중복시키거나 약화시킬 위험이 있습니다. 비평가들은 민주주의 동맹국이 주도하는 연합이 UN 패널을 소외시키고, 이중 규제 체계를 만들며, 미국 기반 연구소가 '위험한' AI를 정의하는 데 과도한 영향력을 행사할 수 있다고 우려합니다^A. G7의 실제 결과물이 강제력 있는 글로벌 감시 기구가 아닌 동맹국 접근에 초점을 맞춘 '신뢰할 수 있는 파트너' 제도였다는 점은, 그러한 기구에 대한 정치적 의지가 아직 존재하지 않음을 시사합니다^EAB.

G7 자체도 이 긴장을 해결하지 못했습니다. 유튜브에서 정상회의를 분석한 블룸버그의 한 코너는 AI 업무 오찬이 '지도자들이 동의한 것보다 이해하지 못한 것이 무엇인지에 대해 더 많이 드러냈다'고 평가했습니다^Y.

핵심 요점

허사비스의 2026년 6월 제안은 실질적인 권한을 가진 사전 배포 심사 기구를 위한 CEO 차원의 가장 구체적인 추진이었습니다. 그러나 이 제안은 다른 모든 주요 거버넌스 수단(트럼프의 자발적 검토 명령, G7의 신뢰할 수 있는 파트너 제도, UN의 과학 패널)이 의무 사항이 아닌 자문 또는 협력적 수준에 머물러 있는 환경에 직면해 있습니다. 이러한 기구가 기존 프레임워크를 보완할 것인지 경쟁할 것인지에 대한 논쟁은 해결되지 않았으며, 누가 중단을 집행할지, 지정학적 분열을 어떻게 피할지에 대한 합의도 없는 상황입니다.