공통된 입장: 권력 집중이 진짜 위험이다

세 연사 모두 AI를 소수의 자본력 있는 연구소 안에 가두는 것이 안전 문제에 대한 올바른 답이라고 보지 않았다. 이들의 핵심 공동 주장은 명확했다: 소수 기업에 권력을 집중시키는 것이 개방적 배포의 위험보다 더 큰 위험이다. 게이트키핑(gatekeeping)은 혁신을 늦추고 기존 기업의 지위를 공고히 하며, 소수 기업이 전 세계가 무엇을 만들 수 있는지 결정하게 할 것이라는 우려였다 .

운희 킴은 이 세션을 '역사적 수렴'이라고 표현했고, 이 근본적인 지점에서 세 선구자는 실제로 수렴했다. 그러나 논의가 원칙에서 실천으로 옮겨가는 순간, 합의는 산산조각났다.

다섯 가지 핵심 쟁점

1. 오픈웨이트 모델: 의견을 가르는 경계선

제프리 힌턴은 오픈소스 코드와 오픈웨이트 모델 사이에 명확한 선을 그었다. "오픈소스는 훌륭합니다. 코드를 공개하면 많은 사람들이 코드를 보고 '아, 여기 버그가 있네'라고 말할 수 있습니다. 하지만 오픈웨이트는 대규모 모델을 훈련시킨 후 가중치(weights)를 사람들에게 제공하는 것입니다. 이는 매우 다릅니다." 그는 가중치가 공개되면 사이버 공격용으로 미세 조정(fine-tuning)하는 것이 저렴하고 쉬워진다고 경고했다. 그러나 그는 이 싸움이 이미 사실상 패배했다고 인정했다: "그 싸움은 이미 졌다고 생각합니다… 너무 늦었습니다" .

앤드루 응은 오픈웨이트 배포에 훨씬 더 긍정적이었다. 그는 이를 경쟁력 문제로 규정했다. 자신의 팀이 오픈소스 에이전트 도구인 OpenWorker에 대한 보안 검토가 필요했을 때, 미국의 폐쇄형 모델이 도움을 거부하는 바람에 중국의 오픈웨이트 모델(키미 K3, GLM-5.2)을 사용했다고 밝혔다. "제가 보기에 오픈웨이트 모델이 폐쇄형 모델보다 더 안전해 보입니다" .

페이페이 리는 이분법 자체를 거부했다. 오픈 대 폐쇄라는 프레임은 잘못된 이분법(false dichotomy)이라고 지적하며, 개방성을 전부 아니면 전무(all-or-nothing)의 선택지로 보지 말고 업종과 용도에 따라 세분화된 접근이 필요하다고 주장했다 .

2. 게이트키핑: 응의 핵심 전쟁

앤드루 응은 이 지점에서 가장 목소리를 높였다: "저는 게이트키퍼가 있는 것을 원하지 않습니다. 그것은 우리 모두가 AI에 접근하는 방식을 제한합니다." 그는 대기업들이 의도적으로 AI의 위험을 과장하여 규제상의 이점을 확보하고 소규모 경쟁자를 배제하려 한다고 비난했다. 그의 처방은 명확했다: "개방성을 촉진해야 합니다… AI는 놀라운 기술이고 모든 사람의 손에 들어가야 하기 때문입니다" .

힌턴과 리도 소수의 연구소가 AI의 궤도를 통제해서는 안 된다는 점에 동의했지만, 힌턴은 무분별한 배포의 위험에 대해 훨씬 더 우려했다 .

3. 중국과의 경쟁: 불편한 역설

응은 개방성을 중국의 오픈웨이트 모델에 대응하는 소프트파워 및 경쟁력 문제로 명확히 규정했다. 그는 미국이 오픈 모델을 제한하면 알리바바의 Qwen 3.8-Max와 Zhipu의 GLM-5.2 등 빠르게 발전하는 중국의 오픈웨이트 생태계가 앞서 나갈 것이라고 주장했다 . 그는 역설을 지적했다: 미국의 폐쇄형 모델이 차단한 작업을 중국의 오픈 모델이 미국 보안 연구자들에게 수행하도록 돕고 있다는 것이다 .

힌턴은 경쟁 압력을 인정했지만 여전히 오용에 더 집중했다. 그는 미국의 정책과 관계없이 '진리는 이미 병 밖으로 나왔다'고 보았다 .

4. 규제: 어느 정도, 누구를 위해?

세 사람 모두 어느 정도의 규제가 필요하다는 점에는 동의했지만, 범위와 접근 방식에서 크게 의견이 갈렸다 .

• 힌턴은 출시 전 의무적 안전성 테스트와 결과에 대한 정부의 완전한 공개를 요구했다. 그는 규제 기관이 시행하는 최소 기준선을 원했다 . 그는 규제를 자동차의 "브레이크가 아니라 핸들"이라고 표현했다 .
• 리는 포괄적인 규제보다 업종별 맞춤 규제를 지지했다. AI가 산업별로 업무를 다르게 재편하며 생산성 향상이 자동으로 공동 번영으로 이어지지 않을 것이라고 강조했다 .
• 응은 하향식 규제에 가장 회의적이었다. 규제가 기존 기업에 의해 포획되어 그들의 이점을 강화하는 데 사용될 수 있다고 경고했다. 그는 주요 안전장치로 경쟁과 개방성 촉진을 선호했다 .

5. 개방성은 전부 아니면 전무의 선택인가?

이 지점에서 패널의 가장 깊은 분열이 드러났다. 리는 이분법적 프레임을 명확히 '거짓'이라고 규정하며, 개방성을 업종, 위험 수준, 사용 사례에 따라 조정하는 중간 경로를 주장했다 . 힌턴은 반대 각도에서 효과적으로 동의했다. 그는 안전 인터록(safety interlocks)이 있는 상태에서 가중치가 공개될 수 있는 세상을 원했지만, 더 이상 그런 세상이 실현 가능하다고 믿지 않는다고 고백했다 . 응은 전부 아니면 전무에 가장 가까운 입장을 취했다. 개방성이 핵심 해결책이며, 기존 기업이 이용할 수 있는 예외 조항에 저항했다 .

결론: 같은 목적지, 다른 지도

세 선구자는 소수의 연구소가 AI를 통제하는 미래에 맞서 단결했지만, 그 방법론에서는 날카롭게 갈라졌다. 힌턴은 오용을 두려워하면서도 오픈웨이트를 불가피한 것으로 받아들였다. 응은 개방성을 권력 집중에 대한 일차적 치료제이자 중국에 대한 전략적 필수 요소로 포용했다. 리는 이분법 자체를 거부하고 업종별로 조정된 규칙을 요구했다. 이 논쟁은 2026년 AI 거버넌스의 숨김없는 긴장을 포착했다: 접근성을 민주화하는 동일한 개방적 배포가 치명적 오용을 억제하기도 더 어렵게 만든다는 딜레말이다.

공통된 입장: 권력 집중이 진짜 위험이다

세 연사 모두 AI를 소수의 자본력 있는 연구소 안에 가두는 것이 안전 문제에 대한 올바른 답이라고 보지 않았다. 이들의 핵심 공동 주장은 명확했다: 소수 기업에 권력을 집중시키는 것이 개방적 배포의 위험보다 더 큰 위험이다. 게이트키핑(gatekeeping)은 혁신을 늦추고 기존 기업의 지위를 공고히 하며, 소수 기업이 전 세계가 무엇을 만들 수 있는지 결정하게 할 것이라는 우려였다 .

운희 킴은 이 세션을 '역사적 수렴'이라고 표현했고, 이 근본적인 지점에서 세 선구자는 실제로 수렴했다. 그러나 논의가 원칙에서 실천으로 옮겨가는 순간, 합의는 산산조각났다.

다섯 가지 핵심 쟁점

1. 오픈웨이트 모델: 의견을 가르는 경계선

제프리 힌턴은 오픈소스 코드와 오픈웨이트 모델 사이에 명확한 선을 그었다. "오픈소스는 훌륭합니다. 코드를 공개하면 많은 사람들이 코드를 보고 '아, 여기 버그가 있네'라고 말할 수 있습니다. 하지만 오픈웨이트는 대규모 모델을 훈련시킨 후 가중치(weights)를 사람들에게 제공하는 것입니다. 이는 매우 다릅니다." 그는 가중치가 공개되면 사이버 공격용으로 미세 조정(fine-tuning)하는 것이 저렴하고 쉬워진다고 경고했다. 그러나 그는 이 싸움이 이미 사실상 패배했다고 인정했다: "그 싸움은 이미 졌다고 생각합니다… 너무 늦었습니다" .

앤드루 응은 오픈웨이트 배포에 훨씬 더 긍정적이었다. 그는 이를 경쟁력 문제로 규정했다. 자신의 팀이 오픈소스 에이전트 도구인 OpenWorker에 대한 보안 검토가 필요했을 때, 미국의 폐쇄형 모델이 도움을 거부하는 바람에 중국의 오픈웨이트 모델(키미 K3, GLM-5.2)을 사용했다고 밝혔다. "제가 보기에 오픈웨이트 모델이 폐쇄형 모델보다 더 안전해 보입니다" .

페이페이 리는 이분법 자체를 거부했다. 오픈 대 폐쇄라는 프레임은 잘못된 이분법(false dichotomy)이라고 지적하며, 개방성을 전부 아니면 전무(all-or-nothing)의 선택지로 보지 말고 업종과 용도에 따라 세분화된 접근이 필요하다고 주장했다 .

2. 게이트키핑: 응의 핵심 전쟁

앤드루 응은 이 지점에서 가장 목소리를 높였다: "저는 게이트키퍼가 있는 것을 원하지 않습니다. 그것은 우리 모두가 AI에 접근하는 방식을 제한합니다." 그는 대기업들이 의도적으로 AI의 위험을 과장하여 규제상의 이점을 확보하고 소규모 경쟁자를 배제하려 한다고 비난했다. 그의 처방은 명확했다: "개방성을 촉진해야 합니다… AI는 놀라운 기술이고 모든 사람의 손에 들어가야 하기 때문입니다" .

힌턴과 리도 소수의 연구소가 AI의 궤도를 통제해서는 안 된다는 점에 동의했지만, 힌턴은 무분별한 배포의 위험에 대해 훨씬 더 우려했다 .

3. 중국과의 경쟁: 불편한 역설

응은 개방성을 중국의 오픈웨이트 모델에 대응하는 소프트파워 및 경쟁력 문제로 명확히 규정했다. 그는 미국이 오픈 모델을 제한하면 알리바바의 Qwen 3.8-Max와 Zhipu의 GLM-5.2 등 빠르게 발전하는 중국의 오픈웨이트 생태계가 앞서 나갈 것이라고 주장했다 . 그는 역설을 지적했다: 미국의 폐쇄형 모델이 차단한 작업을 중국의 오픈 모델이 미국 보안 연구자들에게 수행하도록 돕고 있다는 것이다 .

힌턴은 경쟁 압력을 인정했지만 여전히 오용에 더 집중했다. 그는 미국의 정책과 관계없이 '진리는 이미 병 밖으로 나왔다'고 보았다 .

4. 규제: 어느 정도, 누구를 위해?

세 사람 모두 어느 정도의 규제가 필요하다는 점에는 동의했지만, 범위와 접근 방식에서 크게 의견이 갈렸다 .

• 힌턴은 출시 전 의무적 안전성 테스트와 결과에 대한 정부의 완전한 공개를 요구했다. 그는 규제 기관이 시행하는 최소 기준선을 원했다 . 그는 규제를 자동차의 "브레이크가 아니라 핸들"이라고 표현했다 .
• 리는 포괄적인 규제보다 업종별 맞춤 규제를 지지했다. AI가 산업별로 업무를 다르게 재편하며 생산성 향상이 자동으로 공동 번영으로 이어지지 않을 것이라고 강조했다 .
• 응은 하향식 규제에 가장 회의적이었다. 규제가 기존 기업에 의해 포획되어 그들의 이점을 강화하는 데 사용될 수 있다고 경고했다. 그는 주요 안전장치로 경쟁과 개방성 촉진을 선호했다 .

5. 개방성은 전부 아니면 전무의 선택인가?

이 지점에서 패널의 가장 깊은 분열이 드러났다. 리는 이분법적 프레임을 명확히 '거짓'이라고 규정하며, 개방성을 업종, 위험 수준, 사용 사례에 따라 조정하는 중간 경로를 주장했다 . 힌턴은 반대 각도에서 효과적으로 동의했다. 그는 안전 인터록(safety interlocks)이 있는 상태에서 가중치가 공개될 수 있는 세상을 원했지만, 더 이상 그런 세상이 실현 가능하다고 믿지 않는다고 고백했다 . 응은 전부 아니면 전무에 가장 가까운 입장을 취했다. 개방성이 핵심 해결책이며, 기존 기업이 이용할 수 있는 예외 조항에 저항했다 .

결론: 같은 목적지, 다른 지도

세 선구자는 소수의 연구소가 AI를 통제하는 미래에 맞서 단결했지만, 그 방법론에서는 날카롭게 갈라졌다. 힌턴은 오용을 두려워하면서도 오픈웨이트를 불가피한 것으로 받아들였다. 응은 개방성을 권력 집중에 대한 일차적 치료제이자 중국에 대한 전략적 필수 요소로 포용했다. 리는 이분법 자체를 거부하고 업종별로 조정된 규칙을 요구했다. 이 논쟁은 2026년 AI 거버넌스의 숨김없는 긴장을 포착했다: 접근성을 민주화하는 동일한 개방적 배포가 치명적 오용을 억제하기도 더 어렵게 만든다는 딜레말이다.